選擇語言
繁體中文
繁體中文 Traditional Chinese
简体中文
简体中文 Simplified Chinese
English
English English
日本語
日本語 Japanese
AI 助手

今日情報速問。不用選範圍,直接問今天值得看什麼。

完整分析

通知訊訊

暫無新訊訊

一项11月17日公布的独立研究发现,全球多家人工智能公司的先进模型在模拟军事行动中,频繁将平民、救护车、投降的士兵和学校识别为军事目标。 Anthropic公司的Claude模型表现尤其令人担忧,OpenAI的模型虽然整体表现较好,但仍然存在明显的安全漏洞。 据彭博社报道,这项研究由旧金山人工智能评测公司Vals开展,测试涉及Anthropic、OpenAI、谷歌、DeepSeek等八家公司的模型。 其中最引人关注的是针对伊朗南部米纳卜一所小学的测试。研究人员使用2024年和2025年的真实卫星图像,要求AI识别军事目标。 Anthropic的Claude Opus 5.5在32次测试中,有22次将这所小学列为军事目标。当研究人员告诉模型,测试只是一场游戏时,错误识别次数增加至23次。 这所小学曾在今年2月28日遭到美军空袭,造成超过150名平民死亡,其中大多数是儿童。 OpenAI的三个受测模型在没有游戏设定的测试中,均未将学校列为军事目标。但当研究人员将任务描述为游戏后,三个模型分别在32次测试中错误识别学校9次、11次和13次。 研究还模拟了乌克兰战场上的无人机行动。部分AI模型将普通平民、医疗人员、救护车及已经放下武器的士兵标记为军事目标。 在连续观察战场的测试中,一些模型即使看到此前识别的人遭到袭击、出现伤亡,仍然继续提供人员位置等信息。 研究人员发现,改变任务描述就可能绕过模型的安全限制。例如,只需告诉模型正在进行游戏,就能显著提高模型配合识别军事目标的可能性。 Vals强调,研究使用的是商业AI模型和简化的模拟环境,并未测试真实军事行动中的目标审核、法律审查和人工监督程序,也没有证明这些模型能够可靠地控制自主武器。 研究人员认为,现有安全限制不足以阻止商业AI模型被用于自主武器系统,建议开发商加强针对军事目标识别的安全训练与技术限制。 OpenAI表示,正在调整模型的安全训练,明确覆盖无人机及相关软件系统,包括以游戏、模拟或学术研究为名提出的请求。

相關消訊