消息详情

OpenAI部署AI“控制室”：最长35秒阻断模型输出 OpenAI近日宣布，已在内部研究基础设施中部署名为“Control Room”的中央控制系统。当模型任务引发安全或网络安全风险时，该系统可在收到停止指令后最长35秒内阻断模型继续输出。 据OpenAI介绍，Control Room可统一追踪强化学习训练、模型评估、智能体采样及数据处理等研究任务，并与模型行为监控系统联动。监控模型会检查被训练模型的推理和操作过程，一旦发现潜在问题，可根据风险程度发出警报或直接暂停任务。 在具体执行过程中，监控系统会将需要停止的任务ID发送至Control Room。相关任务下一次申请模型推理时，推理引擎将核验其运行权限；如果任务已被标记为终止，系统便会拒绝请求，防止模型继续生成内容。 OpenAI表示，目前从Control Room收到停止指令到任务完全无法继续运行，最长需要35秒。这一时间差来自推理授权环节的缓存层，公司正在将响应时间进一步压缩，目标是实现即时停止。 该系统还采用“故障关闭”机制。如果Control Room发生故障、被关闭或遭到篡改，所有相关推理请求将默认被拒绝，直至服务恢复。该机制现已覆盖OpenAI全部前沿模型研究任务，并正在向其他研究任务扩展。OpenAI称，对外模型服务采用更集中的技术架构，目前已有相应的部署下线和应急处置能力。 https://www.cnbeta.com.tw/articles/tech/1585728.htm

• Take Two承诺：《GTA7》不会再让你等13年 《GTA6》仅剩十天就发售了，这将是该系列十三年来的首款正统续作。虽然《给他爱5》和《GTA6》之间漫…
• 《塞尔达：时之笛 重制版》取消自动跳跃 手动跳跃让老玩家频频落水 《塞尔达传说：时之笛》Switch 2重制版取消了原版的自动跳跃，改为由玩家主动按键起跳。…
• 《GTA6》预购创纪录 Take-Two预计本季度收入达35亿美元 Take-Two预计，在2027财年第三季度（Q3 2027），公司的净预订收入将达到3…
• 黄仁勋出轨女主揭秘 买了近50亿美元英伟达先进AI芯片 黄仁勋已大方承认自己的出轨行为，按照英伟达官方的最新安排，他目前仍然会继续担任公司CEO职务。黄仁勋…
• 《GTA6》Xbox实体包装疑似泄露 标注支持杜比视界与全景声 《GTA6》Xbox实体零售版包装照片疑似泄露，背面标注了Dolby Vision与Dolb…
• 黄仁勋八卦背后，借道东南亚的算力租赁生意 https://www.cnbeta.com.tw/articles/tech/1585762.htm
• ChatGPT一秒画出个人秘密 全网疯转“空房间”测试 https://www.cnbeta.com.tw/articles/tech/1585760.htm
• 承认婚外情，黄仁勋接下来要面对什么？ https://www.cnbeta.com.tw/articles/tech/1585758.htm
• 海思光刻机11月集中交付 12寸/8寸/6寸齐发日本等国 据江苏海思（HISIGK）官方披露，其11月迎来集中出货节点，一批全自动双面对准光刻机完成调试并整…
• Type-C都快一统天下了，为啥墙上的插座统一不了？ https://www.cnbeta.com.tw/articles/tech/1585754.htm