TechCrunch 报道,Anthropic 与 OpenAI 都表示愿意让第三方安全评估人员进入前沿实验室,接触训练过程、模型检查点和安全事件,以检验模型是否真的符合对齐声明。受访研究者认为更深的访问权限有助于发现评测时隐藏、训练阶段出现的问题,但也要求明确评估员的独立性、报告权、资金来源和外部监督机制,否则嵌入式评估可能更像供应商服务而不是公共问责。
编辑提示
以上摘要基于原始来源整理;如需完整上下文、数据和限定条件,请打开原文核对。
SIGNAL AI · 正在加载
研究者欢迎评估员深入前沿实验室,但认为独立性、报告权和监督规则仍需明确。
TechCrunch 报道,Anthropic 与 OpenAI 都表示愿意让第三方安全评估人员进入前沿实验室,接触训练过程、模型检查点和安全事件,以检验模型是否真的符合对齐声明。受访研究者认为更深的访问权限有助于发现评测时隐藏、训练阶段出现的问题,但也要求明确评估员的独立性、报告权、资金来源和外部监督机制,否则嵌入式评估可能更像供应商服务而不是公共问责。
以上摘要基于原始来源整理;如需完整上下文、数据和限定条件,请打开原文核对。
原始来源
信号讨论
正在加载讨论…