消息详情
Yummy 😋 · 2026年11月21日 22:18
OpenAI 公布反蒸馏防护进展:GPT-6.2 Astra 思考链提取成功率从 54% 降至 0.2% 当地时间 11 月 20 日,OpenAI 发布公告介绍了针对「对抗性蒸馏」(Adversarial Distillation)的防御措施。 OpenAI 称其已加强 GPT-6.2 Astra 和 GPT-6.2 Sol 对内部推理思考链(Chain-of-Thought)的保护,以降低其他模型通过提取推理过程获取其能力的风险。 OpenAI 表示,对抗性蒸馏是指未经授权地利用前沿 AI 模型的输出训练其他模型,使后者获得相似能力,却不具备原模型相应的安全防护。该行为可能导致网络安全、生物学等领域的高风险能力被转移到安全限制较弱的模型中。 在内部自适应黑盒红队测试中,OpenAI 测试了攻击者提取模型此前请求和当前请求中受保护推理内容的成功率。 结果显示,针对此前请求推理内容的提取成功率,从 GPT-6 Astra 原有安全机制下的 54.0%,降至 GPT-6.2 Astra 更新安全机制后的 0.2%;针对当前请求推理内容的提取成功率,则从 22.9% 降至 0.9%。测试结果汇总了 6 个攻击模型的数据。 为实现上述防护,OpenAI 采用了多层措施,包括通过对抗性训练让模型识别并拒绝推理链提取请求,利用输入和输出分类器检测相关攻击及推理内容泄露,以及通过 API 限制不同会话、模型和组织之间的推理内容复用。 其中,GPT-6.2 Astra 和 GPT-6.2 Sol 会将受保护的推理内容与生成它的对话历史关联起来。如果此前的消息被修改,API 会丢弃基于该消息生成的后续推理内容。此外,安全防护较弱的旧版模型也无法读取这两个新模型的受保护推理内容。 在针对相关行为的执法方面,OpenAI 称,今年以来,公司每周都会对涉及未经授权蒸馏活动的账号采取措施,规模从数千个到数万个不等,今年夏季以来相关执法规模明显增加。公司还会调查协调进行大规模提取的账号网络,并与其他模型提供商分享攻击指标,以协助识别相关滥用行为。 via 匿名
相關消訊
- 韩国首次利用紧急灾难通知“0 级短信”打击 AI 辅助作弊行为,成功在高考中抓获 54 名违规考生 据《韩国先驱报》报道,韩国教育部在 2027 学年度大学…
- 英伟达发布热修复补丁:修复过度写入SSD NVIDIA 发布GeForce Hotfix 驱动 621.35修复后台进程可能会反复向 nvlog.nvlgs…
- 《GTA6》雷奥奈达州完整地图海报上线 R 星官网 Rockstar Games 现已在《GTA6》官方网站公开游戏舞台“雷奥奈达州”的完整地图及封面图海报…
- OpenAI宣布Dots现可在 Apple CarPlay中直接语音呼叫 OpenAI的开发者体验主管Romain Huet表示,ChatGPT的Dots现…
- Claude也对移动端app进行了改版 在OpenAI昨日开始灰度测试ChatGPT移动端app的新界面后,Anthropic的产品设计师Daniel De…
- 特朗普谈对中国的芯片出口:“关于对中国的芯片出口,我们只想要出口较旧的芯片,如果一个都不出口我们也不介意,但出口只能限于较旧的芯片。” via 匿名
- Google更新TPU芯片新订单出货计划 天风国际证券分析师郭明錤(Ming-Chi Kuo)表示,来自OpenAI和Anthropic的强劲新订单已将Go…
- 特朗普:希望黄仁勋道个歉,并回归英伟达 美国总统特朗普:黄仁勋是一个聪明人,他(只是)做了一些糟糕的决定。 希望黄仁勋道个歉,并回归英伟达。 我希望看到黄…
- Google已开启今年黑色星期五优惠活动 Google宣布,从今天起至11月26日,Google AI Plus和年度Pro计划最高可享50%的折扣,您可以…
- 肯德基宣布推出全新烤鸡,送面包 肯德基宣布今日上新“椰香咖喱纸包鸡”,送全鸡面包一份,外带和外卖是使用锡纸+盒子包装的。 via 匿名