選擇語言
繁體中文
繁體中文 Traditional Chinese
简体中文
简体中文 Simplified Chinese
English
English English
日本語
日本語 Japanese
AI 助手

今日情報速問。不用選範圍,直接問今天值得看什麼。

完整分析

通知訊訊

暫無新訊訊

OpenAI 引入四家机构开展 AI 安全评估 金十数据 11 月 17 日讯,OpenAI 宣布与 Apollo Research、Goodfire、METR 和 Transluce 四家独立机构合作,启动首阶段嵌入式安全评估,允许外部专家访问内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。其中,Apollo Research 重点评估模型是否会暗中违背开发者意图;Goodfire 研究模型内部机制及训练监控;METR 审查大规模强化学习训练中的模型失调行为;Transluce 评估后训练阶段的安全测试质量。评估人员将在必要时进入 OpenAI 办公场所,通过专用设备访问敏感资料。OpenAI 基金会董事会下属独立监督委员会将全程监督并接收完整报告。评估机构保留独立发布结果的权利,但 OpenAI 可要求删除机密信息或延迟披露安全风险。OpenAI 还计划于 2027 年进一步扩大评估范围。

相關消訊