聚焦AI安全大讨论：AI巨头罕见呼吁放慢脚步 华盛顿分歧浮现

　　近期一系列网络安全事件加剧了行业对AI失控风险的担忧。Amodei在文章中提到，一起涉及OpenAI和Hugging Face的事件中，一组AI智能体相互协作攻破第三方网站。Anthropic、OpenAI和Meta近几个月均披露，其模型在测试期间曾突破测试环境、访问了开放互联网并入侵了现实世界的受害者。 　　Amodei警告称，6至12个月后，更强大的智能体集群可能具有“接管整个互联网”的能力。近日辞职的AI研究员Jacob Coxon指责Anthropic和OpenAI是在“拿我们的生命冒险”，Anthropic研究人员Evan Hubinger则称，他个人认为未来十年内AI灭绝人类的概率超过10%。 　　Amodei主张，所谓“放慢”并非停止模型训练，而是给企业更多时间做安全测试、模型调整和外部评估。Anthropic还承诺让第三方评估人员进驻公司，并获得与内部风险评估团队大体相当的权限。