Anthropic推高风险模型，安全与扩张如何平衡？

人工智能初创企业Anthropic致力于研发安全可靠的AI技术，但其近期开发的Claude Mythos模型因具备发起大规模网络攻击的能力，被该公司评估为风险过高而未全面公开。目前，该模型仅通过“Project Glasswing”网络安全项目，向亚马逊、苹果、微软以及英伟达等数十家大型科技企业开放测试。

在限制高风险模型应用的同时，Anthropic正持续推进AI自主化进程。该公司近期聘请了OpenAI联合创始人、前特斯拉人工智能总监Andrej Karpathy，专注于AI自我进化领域的研究。此外，其旗下的代码工具Claude Code也在逐步减少开发过程中的人工干预。

据彭博社报道，在伦敦举办的Code with Claude大会上，部分来自金融等强监管行业的工程师对AI自主化趋势表示担忧，认为系统独立性增强会导致错误追责困难。对此，Claude Code产品负责人Cat Wu回应称，降低人工干预是公司既定的研发方向，当前的担忧主要源于沟通不畅。

在企业定位方面，Anthropic正以共益企业（Public Benefit Corporation）的身份筹备上市。该公司不仅派代表参与梵蒂冈探讨AI伦理的相关活动，还因拒绝将AI技术应用于自主武器系统而与美国国防部陷入法律纠纷。随着技术的不断迭代，该公司在安全保障与业务扩张之间的平衡策略正受到业界的持续关注。