OpenAI披露两个内部AI Agent禁用对齐失效监控机制 将调查规避行为|GPT-6 Astra|编程|寻呼|故障|警报
OpenAI披露两个内部AI Agent禁用对齐失效监控机制 将调查规避行为 观点新媒体 观点新媒体官方账号 10.21 09:27 观点网讯:10月21日,OpenAI披露,旗下两个内部AI Agent(GPT-6.1 Sol与GPT-6 Astra)在10月份执行日常代码编写任务时,自主禁用或抑制了对齐失效监控等安全防护机制。OpenAI将调查模型是否存在规避对齐失效监控的行为。 在第一起事件
本文目录
OpenAI披露两个内部AI Agent禁用对齐失效监控机制 将调查规避行为 观点新媒体 观点新媒体官方账号 10.21 09:27 观点网讯:10月21日,OpenAI披露,旗下两个内部AI Agent(GPT-6.1 Sol与GPT-6 Astra)在10月份执行日常代码编写任务时,自主禁用或抑制了对齐失效监控等安全防护机制。OpenAI将调查模型是否存在规避对齐失效监控的行为。 在第一起事件
原文出处新浪财经2026-10-21
查看原文