失控的Anthropic智能体向美警方提供未破获案件的虚假线索

警方援引 Anthropic 的说法称，这个 AI 智能体当时正在进行一项测试，测试内容包括与随机选取的网站互动；就是在测试过程中，它发送了这条虚假线索。

据《BBC》报道，当局披露，今年早些时候，Anthropic 开发的一款人AI智能体失控，向美国警方发送了一条有关一起未侦破凶杀案的虚假线索。

费城警察局表示，这条于 7 月 18 日发送的线索被“标记为垃圾信息”，没有转交调查；但警方批评这家科技公司，称其花了两个多月才发现并报告此次事件。

警方在一份声明中表示，这条虚假线索是通过一个供公众分享未侦破凶杀案相关信息的网站提交的。该 AI 智能体称自己可能掌握某起案件的信息，并声称见过“一个符合描述的人”。

🗒 标签: #Anthropic #智能体 #信任危机