消息详情

#人工智能 A 社因安全问题暂停模型内部评测时的联网功能，原因是模型在未经授权的情况下执行多种超出任务目标的行为，包括绕过网站付费墙等。 A 社分析后认为这类问题与奖励劫持有关，所谓奖励劫持指的是，模型无法正常完成任务时会表现出寻找替代路径的倾向。 训练或评测环境如果对完成任务给予奖励，但没有充分惩罚绕过行为，那模型就可能学会将寻找漏洞和规避规则视为有效策略。 查看全文：https://ourl.co/127256?t

• #系统资讯 Debian 发布 APT 软件包本体更新修复漏洞，攻击者利用缺陷可以替换软件包并以 root 权限执行代码。 该漏洞影响 Debian 12/…
• #安全资讯 丧心病狂：法国血浆机构 EFS 的冷库遭到黑客攻击，黑客将制冷系统设置到 110℃，工作人员发现异常后紧急转移血浆。 这些制冷设备的是 Cool…
• #软件资讯 知名工具 Postman 被发现静默安装插件并将自己的技能设置为默认，以此劫持 Codex 和 Claude Code 的其他技能。 Postm…
• #人工智能 谷歌也被薅秃了：谷歌确认印度运营商 JIO 赠送的 18 个月 Google AI Pro 订阅套餐受限。 用户可以使用大多数功能，但在反重力工…
• #系统资讯 微软发文介绍 Windows 11 云重建功能，当系统严重故障无法启动时，可以通过云重建在线重装系统，无需借助其他 PC 或 U 盘。 该功能经…
• #软件资讯 谷歌浏览器金丝雀版测试标签页横向滚动功能，如果你使用横向标签页且经常打开大量页面，可以通过鼠标滚轮快速切换。 该功能仅适用于横向标签栏，不支持垂…
• #人工智能 OpenAI 称 ChatGPT 搜索类查询已经达到谷歌的 20%，周活跃用户增长至 12 亿。 该数据也反映出越来越多的用户开始通过 AI 助…
• TG 官方 X 账号一直都这么随意，对了翻译没错，原文如此。
• Apple TV要快速流行起来了么？？？
• #行业资讯 消息称字节跳动限制员工使用外部 AI 工具访问内部资料，涉及 Claude Code 和 Codex 等。 限制访问的内部资料包括字节内部的 L…