消息详情

AI加速自身发展，研究称Anthropic模型改进速度近乎翻倍据路透社报道，一项独立研究发现，随着AI在开发更强大后续模型的过程中发挥越来越大的作用，Anthropic的AI模型改进速度已接近此前的两倍。这一发现进一步印证了近期的行业警告：AI技术进步可能快过风险评估工作。 Anthropic AI安全非营利组织METR周四公布的这一研究结果，它提供了迄今为止最明确的证据之一，表明AI正在加速自身发展。这一趋势可能为递归式自我改进(RSI)铺平道路，也就是说AI系统无需人类干预，就能自主开发出更强大的自身版本。这项为期11周的评估于今年8月至10月进行，依据机密研究、访谈以及未发布模型的性能数据。结果显示，自2025年10月以来，Anthropic模型在基准测试中的能力提升速度是此前的1.9倍。 “截至2026年10月，Anthropic很可能正在以接近此前两倍的速度，提升其模型在定义明确的任务上的能力。此前的比较区间为2024年3月至2025年10月。”METR表示。 METR还补充说：“这一估算存在很大的不确定性。如果实际加速幅度更接近历史水平的1.5倍或2.5倍，我们也不会感到意外。” 报告还强调，AI目前尚不能对模型训练最关键的阶段作出高度重要、完全自主的贡献。 Anthropic研究人员曾报告称，使用AI编写代码和开展实验带来了显著的生产力提升。非正式的员工调查显示提升约为12倍，但METR提醒说这些数字并不可靠。 Anthropic CEO达里奥·阿莫代伊(Dario Amodei)曾于9月呼吁放缓先进AI的开发。目前，该公司正准备上市，最快可能于本月启动IPO，有望成为有史以来规模最大的IPO之一，也将成为检验投资者对AI公司投资热情的一次重要考验。这些公司正投入数十亿美元开发这项技术。近几个月来，AI递归式自我改进的潜力引发了AI研究人员的警告。他们担心，这类系统可能变得难以与人类目标保持一致，也难以监测和控制，最终可能对人类构成生存威胁。这一转变可能对整个行业产生深远影响。此前，AI行业已投入数千亿美元建设计算基础设施，用于训练先进模型。而在未来，AI本身可能成为推动技术进步的重要力量。 METR表示：“我们确信，这种加速并非由训练算力扩张速度加快所致。” https://www.cnbeta.com.tw/articles/tech/1585264.htm

AI 助手

通知訊訊

相關消訊