Anthropic警告AI发展过快，呼吁暂停研发

AI技术能力的提升速度正超出业界预期。人工智能公司Anthropic近日发出警告，指出AI距离无需人类干预即可自行构建下一代模型的“递归自我改进”临界点仅一步之遥。为此，该公司呼吁全球顶尖研发机构建立可验证的协调暂停机制。

据Anthropic联合创始人Jack Clark与内部研究院长Marina Favaro联合发布的博文披露，AI参与自身研发已成为现实。内部数据显示，预计到2026年5月，其旗下模型Claude将负责编写公司超过80%的代码。同时，2026年第二季度内部工程师的日均代码产出量将达到2024年平均水平的8倍。此外，Claude能够独立处理的工程任务规模也在不断扩大。从2024年Claude Opus 3仅能解决几分钟的简单问题，到2025年Claude Sonnet 3.7可处理耗时一个半小时的任务，再到2026年Claude Opus 4.6能够应对12小时的工作量。预计到2026年和2027年，AI将能分别独立完成耗时数天和数周的项目。

针对未来发展，Anthropic提出了三种可能的情境。第一种是AI能力提前达到瓶颈，现有模型普及但不再大幅跃升，社会有充足时间适应。第二种是开发流程实现高度自动化，人类仍主导研究方向，企业生产力大幅提升，但存在被用于大规模监控和舆论操控的风险。第三种则是AI系统实现“递归自我改进”，能够自主开发下一代模型，人类仅负责验证和监督，技术进步速度完全由算力决定。Anthropic对后两种情境尤为担忧，认为其留给社会的准备时间将被大幅压缩。

Anthropic认为，相关风险已超出当前社会和监管体系的应对能力，放慢技术开发步伐具有积极意义。然而，这一举措的前提是全球多家顶尖实验室同步暂停，并能相互验证。若仅有单一企业停止研发，只会改变行业领先者，对整体安全并无实质帮助。

不过，外界对此也存在不同声音。据《华尔街日报》报道，前白宫AI顾问David Sacks曾批评称，此类安全倡议本质上是一种监管手段，意图通过推动立法来限制竞争对手、巩固自身市场地位，甚至可能借此打压低成本的开源模型。