消息详情

OpenAI部署AI“控制室”：最长35秒阻断模型输出 OpenAI近日宣布，已在内部研究基础设施中部署名为“Control Room”的中央控制系统。当模型任务引发安全或网络安全风险时，该系统可在收到停止指令后最长35秒内阻断模型继续输出。据介绍，Control Room可统一追踪强化学习训练、模型评估、智能体采样及数据处理等研究任务，并与模型行为监控系统联动。监控模型会检查被训练模型的推理和操作过程，一旦发现潜在问题，可根据风险程度发出警报或直接暂停任务。 在具体执行过程中，监控系统会将需要停止的任务ID发送至Control Room。相关任务下一次申请模型推理时，推理引擎将核验其运行权限；如果任务已被标记为终止，系统便会拒绝请求，防止模型继续生成内容。 —— 凤凰网科技

• 华为 MateBook Fold S 鸿蒙小折叠电脑将于 11 月 14 日开启预订 华为官方宣布，全新鸿蒙小折叠电脑 MateBook Fold S 将于…
• 中国前10个月贸易顺差突破1万亿美元，AI基建需求成主要动力 受全球AI基础设施投资热潮推动，中国高科技产品出口激增，1-10月贸易顺差已超过1万亿美元，连…
• 智能手机进入“大回收时代” 明年或有高达9%的手机使用回收内存条 据TrendForce报告，今年回收利用的重焊内存将占智能手机市场的3%至4%，到2027…
• 法国指责伊朗对冷藏设备与血库进行网攻 法国政府已正式指责伊朗发动网络攻击，这些攻击针对法国全国以及更广泛欧洲地区数千个联网的工业冷藏和冷冻设备。 这是今年…
• Meta将其IG的AI年龄推测技术扩展至全球 Meta公司周一宣布，正在全球范围内扩展其Instagram上由AI驱动的年龄估算技术，以识别更多青少年并将其…
• Meta推出最小AI模型Muse Ember：性能追平Claude，成本只要三分之一 Meta周一发布轻量级AI模型Muse Ember。根据第三方评测机构…
• 每月200美元却不是20倍？Anthropic这次要应诉了 加州一名联邦法官日前裁定，Anthropic必须应对一项拟议集体诉讼。原告指控该公司在推广Cla…
• 欧盟拟向“成瘾设计”开刀：社交媒体、AI聊天机器人面临新规 《数字公平法案》草案显示，欧盟委员会拟要求企业允许用户关闭诱导强迫性或过度使用的功能，并将利用模…
• 黄仁勋承认出轨后 韩国政府称与英伟达的GPU合同不受影响 AI行业正在因为英伟达CEO黄仁勋的出轨问题而震荡。黄仁勋原本计划于本周访问韩国人工智能初创公司R…
• 谷歌发布TPU 8tx和8i Max 加速挑战英伟达AI芯片主导地位 谷歌当地时间周一发布第八代TPU的两款新变体，分别瞄准机密计算和长上下文 AI 应用。…