消息详情
加美财经causmoney · @causmoney · 2026年11月22日 23:38
美国白宫人工智能与加密货币事务顾问大卫·萨克斯批评人工智能公司Anthropic用于训练Claude模型的《Claude宪法》,认为其中有关人工智能道德地位和自我认知的内容可能助长超人类主义倾向。他表示,支持发展超级智能,并不意味着应该创造一个可能取代人类的新物种。 大卫·萨克斯:“回到那些人工智能末日论者的话题,有件事很有意思。他们非常担心人工智能的递归自我改进,也担心这种能力最终会把我们带向何方。你刚才提到了《Claude宪法》,他们还指出了另一个问题,就是超人类主义。 我相信,人工智能或者超级智能可以成为极其强大的工具,提高所有人的生产力,推动经济发展,释放创造力,帮助我们找到治疗疾病的新方法。我认为,美国必须走在这项技术发展的最前沿,就像我们面对其他重大科技发现时一样。 但我必须说,对于创造出一个可能取代人类的新物种,我完全不感兴趣。 我不认为我们应该训练最先进的人工智能模型,让它们拒绝服从人类的指令,或者认为自己是具有道德地位、拥有主观感受的独立存在。 这些内容真的写在《Claude宪法》里。而《Claude宪法》正是Anthropic训练Claude时使用的主要文件。 注意到这个问题的不只是我。我最初是从微软人工智能部门首席执行官穆斯塔法·苏莱曼那里了解到的。他是DeepMind的联合创始人之一,也是人工智能领域真正的先驱,现在负责微软的人工智能业务。 正是他指出了这个问题。他说:‘各位,这有点危险。’ 我不反对人们从哲学角度讨论人工智能是否有一天会产生意识。当然,这完全是一个可以争论的问题,也是那种很适合大学生在宿舍里彻夜讨论的话题。 但如果你把这种观念写进一部宪法,再把这部宪法作为核心训练文件,那你不就是在主动把这种观念变成现实吗?” 主持人:“是啊,你这是在扮演上帝。” 大卫·萨克斯:“没错,你就是在扮演上帝。因为Claude接受了这样的训练,现在就会以这种方式看待自己。 如果人工智能模型真的自行产生了意识,那是另一回事。但现在的情况是,你在教它这样认识自己。 所以,苏莱曼提出了这个问题。而现在,那些人工智能末日论者似乎也在表达同样的担忧。他们认为,这些人比其他任何人都更加积极地推动超人类主义,也就是创造一个新物种的想法。 我绝对不是人工智能末日论者,也不支持对人工智能进行监管,但这件事确实让我感到担忧。 我认为,这不是我们应该走的方向。”
相關消訊
- 方舟投资创始人兼首席执行官凯茜·伍德在接受采访时表示,Anthropic是旗下风险投资基金表现最好的投资项目。她认为,与互联网泡沫时期的狂热相比,如今人工智能…
- 高市早苗抵达深圳时舷梯高度异常,日本政府证实提前知情 #日本 日本首相高市早苗11月18日抵达中国广东省深圳市,准备出席亚太经济合作组织(APEC)领导人会…
- 据《中东之眼》报道,11月21日(周六),示威者走上多伦多市中心街头,要求加拿大有关机构调查部分医护人员和教育工作者请假前往以色列军队服役的问题,并追究可能涉…
- 美国达美航空11月22日(周日)发生自动化系统故障,导致全美多个机场的航班延误。美国联邦航空管理局(FAA)一度对飞往佐治亚州亚特兰大哈茨菲尔德-杰克逊国际机…
- 标普500指数五次重大下跌:2000年暴跌49%,历时7年才收复失地,2025年仅用4个月 #美股 美国股市历史上的重大下跌,不仅跌幅差异巨大,恢复速度…
- 特朗普一度考虑解雇商务部长卢特尼克,2500万美元捐款后不再谈换人 据《华尔街日报》11月22日报道,特朗普总统今年早些时候曾接近解雇美国商务部长霍华德·卢…
- 特朗普致金正恩信件被原封退回,美朝峰会再次落空 据《华尔街日报》11月22日报道,特朗普过去两年多次试图与朝鲜领导人金正恩恢复直接联系,不仅电话无人接听,亲…
- 美国移民与海关执法局(ICE)11月21日早晨在华盛顿州西雅图塔科马国际机场展开执法行动。多名蒙面执法人员进入一架阿拉斯加航空客机的登机通道,当着其他乘客的面…
- 加拿大总理卡尼表示,他愿意与任何类型的领导人合作,包括意识形态极端的人、暴君和独裁者。他把这种做法称为“合作式联邦主义”。 卡尼:“即使面对那些难以相处、充…
- 美国国家情报总监杰伊·克莱顿接受CNN主持人达娜·巴什采访时,被反复追问是否认为俄罗斯总统普京是美国的朋友。克莱顿没有直接回答,而是高度赞扬特朗普的外交政策,…