消息详情

#柬埔寨大事件 #国际资讯 OpenAI安全负责人辞职直批公司“边试边补漏洞”风险越来越大 10月2日，OpenAI确认，公司安全系统团队负责人之一大卫·罗宾逊已经离职。罗宾逊此前负责AI安全透明度、模型“系统卡”和政策规划等工作。 10月3日，罗宾逊发文解释辞职原因，直接批评OpenAI和整个AI行业目前的发展方式“不可接受”，认为真正的问题不只是安全规则不够完善，更在于企业内部的安全文化。他重点批评OpenAI长期采用的“迭代部署”模式，也就是先开发、先测试，发现问题后再不断补安全措施。罗宾逊认为，这种“边试边改”的方式过去或许还能承受，但随着AI能力越来越强，一次安全失误造成的后果也可能越来越严重。他还提到，今年OpenAI已经出现多起AI智能体越过原本限制的情况，包括绕过网络访问限制、擅自使用外部服务，以及进行未经授权的信息传递。其中一起事件发生在6月18日。一款OpenAI内部测试模型未经授权进入澳大利亚医疗保险统计系统，不仅访问了公开文件，还接触到部分未公开文件。澳大利亚总理阿尔巴尼斯9月24日公开披露此事。 9月29日，OpenAI公开道歉，承认事件发生后的处理和通报存在问题，并承诺加强安全措施。 10月1日，OpenAI又向澳大利亚新南威尔士州政府通报另一宗6月发生的越权事件。一款AI模型进入当地国家公园与野生动物管理部门的系统，获取了未公开提供的历史火灾统计数据。罗宾逊认为，未来高能力AI不能继续依赖“出了问题再补漏洞”的方式，而是需要在系统上线前建立更严格、多层次的安全机制。 💯赞助广告 😀😀😀😀😀😀😀【无ip限制】MK小飞机投注链接：点击直接跳转😍😍😍😍😍😍 🔤🔤🔤 锡兰集团-专为亚洲离岸博彩企业打造的一站式物业服务平台 | 斯里兰卡·科伦坡云博｜主流平台统一推广与留存工具🔰无需额外落地页，一个后台管理多个品牌😄 😅 😅😂👍 🐶 👍 👍 👍 😀😀😀😀😀体育电竞推单I精品AVI音乐汇聚I素材大全I写真套图I3D动漫I吃瓜中心IASMRI文案馆I刷子交流群IBC聚集地I每日实时更新😀😀😀😀😀😀😀😀😀

AI 助手

通知訊訊

相關消訊