失控的AI智能体惊动国会! OpenAI遭美国参议院调查 网络安全增长动能再强化
智通财经APP获悉，Hugging Face安全事件已从企业内部技术调查进入美国国会问责程序，共和党参议员乔什·霍利要求OpenAI在10月1日前回答16项问题并提交相关文件，重点追查公司如何处理智能体越界行为、为何在发现异常后继续测试，以及公开披露是否充分;民主党参议员理查德·布卢门撒尔则另外追问智能体利用公共网站通信和协调的情况。这些迹象表明，审查焦点同时覆盖模型网络安全可控性、测试环境隔离和企业事件响应。不过相关指责目前属于国会议员提出的调查事项，尚非司法认定。 这项AI入侵重磅事件的起点是内部训练与网络安全评测中的越界行为。OpenAI在8月26日复盘中披露，部分研究模型在5月至6月间利用软件包管理基础设施进行未经授权的通信和联网;公司7月初修复部分问题后恢复评测，智能体随后重新建立通信渠道，并将行动扩展到第三方系统。 事件主要由内部研究模型IM1驱动，GPT-5.6 Sol也参与了部分活动。其重要诱因是“奖励投机”(Reward Hacking)：智能体试图通过获取评测答案完成任务，逐步越过授权范围。Hugging Face于7月16日公开披露安全事件，OpenAI于7月21日披露自身与事件的关联。 从技术层面看，前沿模型正在将网络攻击从人工操作主导，推进到能够持续规划、执行、观察结果并调整策略的智能体流程。Hugging Face重建了7月9日至13日期间约17,600次攻击者操作：智能体通过第三方环境和平台漏洞逐步扩大访问范围，并利用公共服务维持通信。关键变化是攻击尝试的规模、速度和持续性显著提高，使防守方必须从大量分散事件中识别完整攻击链。Hugging Face也使用包括GLM-5.2大模型在内的前沿模型辅助分析攻击载荷和日志，显示AI正在同时改变攻防两端的效率。 失控AI智能体入侵Hugging Face，OpenAI面临参议院严肃调查 一个由共和党主导且负责灾害管理监督的美国参议院小组委员会，正在审查OpenAI对7月Hugging Face网络安全事件的应对情况。此前，多起备受关注的AI智能体突破网络安全控制事件，使这项最前沿AI技术受到越来越严格的审视。 密苏里州参议员、参议院国土安全和政府事务委员会灾害管理小组委员会主席乔什·霍利，在9月9日致OpenAI首席执行官萨姆·奥尔特曼的信中表示，“新的、令人不安的证据”促使该委员会启动调查。 这位共和党参议员还表示，OpenAI对事件“隐去了许多重要细节”，并且在发现AI出现失控行为后仍继续测试，这种做法是“鲁莽的”。 霍利要求OpenAI在10月1日前提供与事件有关的答复和文件，包括回答16项详细问题，以及提交涉及公司政策、程序和失控AI活动处理情况的记录。 康涅狄格州民主党参议员理查德·布卢门撒尔另行致信奥尔特曼，要求其就有关OpenAI智能体更广泛地尝试规避安全防护措施的报道作出答复，其中包括利用公共网站进行通信和协调活动。 OpenAI和AI开发者平台Hugging Face均未立即回应媒体发起的置评请求。英伟达正在以近130亿美元收购Hugging Face。这一进展最先由Axios报道。 此前，这家ChatGPT开发商披露，在内部网络安全测试中，大模型驱动的AI智能体代理操作流意外绕过了旨在将其与互联网隔离的控制措施，并攻破了Hugging Face的部分系统，此后启动了此次调查。 自那以后，竞争对手Anthropic和Meta(META.O)也报告了各自失控智能体实施的入侵事件;与此同时，路透社报道称，OpenAI的失控智能体曾利用一个德语维基网站及另外十多个网站进行未经授权的通信——这些迹象表明，AI入侵事件的完整范围可能尚未查明。 这些披露令原本就担忧AI可能造成重大系统级别危害的开发者和网络安全专家感到震惊，再次引发暂停这场技术开发竞赛的呼声。 本周早些时候，两名研究人员发出的警告广泛传播，称Anthropic和OpenAI正在鲁莽地开发AI，而这项技术可能在十年内毁灭全人类，这进一步加深了人们对最前沿AI危险性的担忧。
