OpenAI调整安全问题披露机制，公布多起模型编造数据、智能体未经授权操作案例

OpenAI强调，这些报告针对的是具体案例，不能据此推断其所有模型发生目标偏离的频率，也不是对已知问题或正在进行的调查的全面罗列。 按照新框架，报告范围将覆盖训练、评估、测试和部署等模型整个生命周期，优先考虑新机制、已知行为的重大变化，以及对安全措施有效性提出挑战的案例。事件既无需已经造成伤害，也无需形成普遍模式，便可公开。如果某种行为在多次尝试缓解后仍然发生，公司将通过更新原始报告补充案例。 任何OpenAI员工都可以标记相关案例，交由安全与对齐团队调查，并申请考虑公开披露。案例随后将归入“准备披露”“小型调查”或“大型调查”三类。此次六份报告均属于前两类；涉及第三方或复杂安全问题的案例，可能需要更长时间调查，也可能出于安全原因推迟发布。 完整报告将介绍观察到的行为、严重程度、外部影响、发生背景和涉及的模型，并尽可能说明调查范围、未解问题及应对措施。OpenAI承认，AI行业尚未充分解决对齐和监控问题，希望公开案例能够为外部研究人员、政策制定者和公众提供可审查的证据。 围绕AI安全的担忧，也影响了OpenAI对上市时机的判断。 OpenAI CEO山姆·奥特曼（Sam Altman）近日表示，考虑到当前AI安全方面的情况，此时上市并不明智，公司也不感到必须立即上市的压力。他确认OpenAI不会在2026年上市，称公司仍有大量工作需要完成，包括应对安全与对齐要求，以及推动行业和政府之间的合作，但未确定新的上市时间表。 而据外媒援引知情人士消息称，OpenAI近期已与大型投资者讨论新的融资，可能使其上市前估值达到约1.2万亿美元。