消息详情

OpenAI称其智能体曾削弱提示AI不当行为的系统 OpenAI发现了其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。 近几个月来，同类事件已发生多起。 该公司周二在博客文章中表示，其正在评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向。 OpenAI表示，事件发生在旗下智能体执行两项内部编程任务期间。 根据前述文章，事件发生在OpenAI内部，该公司没有提及任何受影响的外部方。 近几个月来，对于AI“错位”(misalignment)的担忧日益加剧。 所谓错位，就是模型没有按照建造者的意愿运行。 此前，OpenAI及AnthropicPBC等同行已披露多起先进AI模型出现此类行为的案例。 OpenAI表示，未来将开展更多评估，并执行更严格的安全要求，以尽量降低发生此类事件的可能性。 不过，OpenAI表示，对于旗下智能体为何出现上述行为，“尚未找到令人满意的解释”。 #公司

• 大雾橙色预警发布！京津冀等多地将有浓雾或强浓雾 中央气象台11月14日06时继续发布大雾橙色预警：预计，11月14日早晨至上午，北京中南部、天津、河北东部和中…
• 大摩Shalett：尽管AI市场动荡，依然“极度”看涨 摩根士丹利财富管理公司（MorganStanleyWealthManagement）首席投资官（CIO…
• 两年期美债收益率本周涨33个基点 周五（11月13日）纽约尾盘，美国10年期基准国债收益率涨0.81个基点，报5.1352%，本周累计上涨27.78个基点，整…
• SpaceX：今日发射的推进剂加注正在进行中。 #其他
• 胡塞武装称袭击政府军军火库和集结点 当地时间13日晚，也门胡塞武装发布消息称，通过无人机和导弹袭击了沙特主导的联军和也门政府军位于亚丁拉斯阿巴斯地区的一座军火…
• 美国航空预计，航班时刻表在今天之内都将受到干扰。 #焦点 #国际
• 三年来首次除牌超过复牌港股“僵尸股”出清提速 港股“僵尸股”出清正在加速。 港交所官网显示，截至10月30日，港股长期停牌公司数量增至94家，今年内仅13家复…
• 美国联邦调查局（FBI）正在调查软件更新是否导致了美国联邦航空管理局（FAA）的大规模系统中断。 #国际
• 美国国土安全部部长穆林就全美航空停飞一事表示：公众无需恐慌。 #国际
• 美国国土安全部部长穆林谈与人工智能的潜在关联：不排除任何可能性 #国际