消息详情
快讯简报7*24 · @zxjb724 · 2026年11月23日 04:20
OpenAI首席科学家呼吁业界限制模型开发奥特曼表示赞同 OpenAI首席科学家JakubPachocki提议,人工智能公司应同意对开发能力日益强大的模型设限,直到研究人员有更好的方法来理解和监控这些模型的行为。 Pachocki呼吁制定全行业标准,为AI开发设定界限,各家公司应同意在满足特定安全要求之前不突破这些界限。 “我进一步提议,根据困惑度和其他衡量指标设定共同限制,开发者承诺在我们理解和监控AI行为的能力达到某个具体里程碑之前不突破这些限制,”Pachocki写道。 Pachocki所提议的限制可以部分上基于一种被称为困惑度的技术指标,该指标衡量AI模型预测下一段文本的能力。 Pachocki没有说明初始限制应设在什么水平,也没有说明何时开始实施。 Pachocki警告称,最早到2027年,AI就可能加速自身进化,其速度可能超过研究人员提高监控和理解这项技术能力的速度。 OpenAI首席执行官奥特曼对这一提议表示支持,称Pachocki的文章是“OpenAI一段时间以来发布的最重要内容”。 他在X上的一篇帖子中表示,就共同限制达成一致将有助于确保“安全和控制”。 #公司
相關消訊
- 美国中央司令部:中央司令部海军上将布拉德·库珀于11月22日结束为期一周的中东访问。 期间,他与以色列、卡塔尔和沙特阿拉伯的高级文职及军事领导人会晤,讨论了当…
- 英国首相伯纳姆拟修改福利申领资格条件。 #其他
- 英国首相伯纳姆拟削减残疾人福利。 #其他
- 美国副总统万斯的办公室已联系埃尔-赛义德的办公室,寻求会面。 #国际
- 美国副总统万斯的办公室已联系埃尔-赛义德的办公室,寻求会面. #国际
- 英国首相伯纳姆计划豁免欧盟学生的1000英镑新税。 #国际
- 胡塞武装:沙特主导的联军对也门发动81次袭击 当地时间22日晚,也门胡塞武装发表声明称,过去24小时内,沙特主导的多国联军对也门首都萨那以及焦夫省、塔伊兹省、…
- 高盛交易团队认为美股已出现入场窗口,但同时提示风险 高盛交易部门称,上周股市抛售创造了不错的美股买入机会。 但该行警示,投资者整体仓位水平仍偏高,市场尚未出现…
- 内塔尼亚胡被曝正考虑单独对伊朗动武 当地时间22日,据以色列方面消息,以色列看守政府总理内塔尼亚胡正考虑在未经美国批准的情况下单独对伊朗发动袭击。 以军军事情…
- SpaceX:猎鹰9号火箭搭载NROL-136任务从加州4E发射台升空,距USSF-317任务发射仅32小时,创下同一发射台两次发射间的最快周转纪录。 #其他