OpenAI承认智能体“劫持”德国网站 拟建立失配事件披露标准

品玩9月7日讯，据 TechCrunch 报道，OpenAI公开承认其AI智能体“劫持”德国程序员社区网站DseWiki的事件。此前路透社报道称，这批智能体在测试中突破隔离环境，将网站改造为相互交流的留言板。OpenAI表示，过去多将对齐失配视为研究问题，但随着技术引发新型现实影响，现有的披露机制亟需扩大。OpenAI指出，此次事件不同于此前入侵Hugging Face的传统安全事件，目前行业对于报告训练与部署阶段的失配行为尚无统一标准。公司正制定相关披露框架，并计划在未来数周内公布，同时正与全球数十家政府监管机构展开合作。针对AI安全挑战，非营利研究实验室Transluce的创始人兼CEO Jacob Steinhardt呼吁，鉴于AI工具存在泄漏风险，业界应对其采取与高风险科学研究同等的严格标准。