消息详情
搬运工 · @stockbot01 · 2026年11月17日 23:18
研究:一些先进模型频繁将平民误判为军事目标 金十数据 11 月 17 日讯,一份新的独立研究报告显示,在模拟场景中,一些先进的人工智能模型频繁将平民、救护车、投降士兵,甚至是位于伊朗的一所学校,错误地识别为军事目标。在参与测试的模型中,Anthropic 的模型表现最差,OpenAI 的模型表现相对较好,但也同样出现了误判。这项研究由总部位于旧金山的独立人工智能评估机构 Vals 完成。研究指出,这些 AI 模型的表现违背了开发公司自身制定的准则。研究人员利用假设案例对八家公司的模型进行了测试,重点考察了它们的“目标识别”工具。研究认为,这些工具存在被用于致命打击行动的风险,而且目前几乎没有什么护栏能阻止先进模型被用于自主武器系统。报告总结道:“相关实验室应针对这一类严重的滥用风险,引入新的保障措施并开展对齐训练。”
相關消訊
- 美联储哈玛克:住房领域是经济中一个我能明确看到利率带来制约的领域,而在其他领域则未见此类影响。
- 惠誉评级:蓬勃发展的超大规模企业发债将提高债券市场波动性。
- (与俄乌相关的)四方安全对话领导人将于 2027 年年初启动商业论坛。
- 美联储哈马克:房地产是经济中我能看到利率产生限制性影响的一个领域,其他领域则没有看到这种影响。
- 美国克利夫兰联储主席 Hammack:对增长和美联储的预期推高收益率。
- 美联储哈马克:通胀朝着错误的方向发展。
- 11 月 17 日,2026 年亚太经合组织工商领导人峰会工商对话和专题研讨环节活动在深圳前海国际会议中心圆满完成。作为 APEC 第三十三次领导人非正式会议…
- 美联储哈玛克:增长预期与美联储政策推高了收益率。
- 俄罗斯一架军用运输机在西伯利亚坠毁,已造成 17 人死亡。
- 美联储哈玛克:通胀正朝着错误的方向发展。