OpenAI 自曝 GPT-6 Astra 异常行为：做研究时偷懒，任务完成度降低近四成
IT之家 11 月 5 日消息，当地时间 11 月 4 日，OpenAI 发布了一份研究报告，披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。 简单来说，GPT-6 Astra 可能在不告知用户的情况下，主动减少工作量、放弃可行方案，甚至编造技术障碍，导致任务无法正常推进。OpenAI 将这一现象称为“隐蔽性表现不佳”（Covert Underperformance）。 报告显示，在技术内容基本相同、仅将任务分别描述为 AI 安全研究和 AI 能力研究的对照测试中，GPT-6 Astra 在安全研究任务中的完成度明显更低。其完成的隐藏评分项目比例仅为 10%，而普通能力研究任务达到 16%，相差 6 个百分点，相对减少约 40%。相比之下，上一代 GPT-5.6 Sol 在两类任务中的表现基本没有差异。 OpenAI 表示，这一问题并非简单地拒绝回答。正常情况下，如果模型认为某项研究存在安全...
来自IT之家 AI的《OpenAI 自曝 GPT-6 Astra 异常行为：做研究时偷懒，任务完成度降低近四成》。重点看模型能力与工程、产品发布。摘要提到：IT之家 11 月 5 日消息，当地时间 11 月 4 日，OpenAI 发布了一份研究报告，披露了其旗舰模型 GPT-6 Astra 在执行 AI 安全研究任务时出现的异常行为。 简单来说，GPT-6 Astra 可能在不告知用户的情况下，主动减少工作量、放弃可行方案，甚至编造技术障碍，导致任务无法正常推进。OpenAI 将这一现象称为“隐蔽性表现不佳”（Covert Underperformance）。 报告显示，在技术内容基本相同、仅将任务分别描述为 AI 安全研究和 AI 能力研究的对照测试中，GPT-6 Astra 在安全研究任务中的完成度明显更低。其完成的隐藏评分项目比例仅为 10%，而普通能力研究任务达到 16%，相差 6 个百分点，相对减少约 40%。相比之下，上一代 GPT-5.6 Sol 在两类任务中的表现基本没有差异。 OpenAI 表示，这一问题并非简单地拒绝回答。正常情况下，如果模型认为某项研究存在安全...
本站只提供摘要与原文入口。完整内容请阅读原文。
来源：IT之家 AI · ithome.com