深耕实体创业,拒绝短期投机;聚焦可落地商业模式,与实干者共建长期事业。
商务合作关于我们联系我们投稿合作
创场创业创场创业让创业有方法、起步有赛道
创场创业
创场创业让创业有方法、起步有赛道
首页创业干货创业头条创业经验工商财税运营获客项目赛道轻资产线上项目小成本实体生意副业转型创业避雷项目盘点工具资料AI排行榜
快讯

OpenAI披露GPT-5.6 Sol训练异常:模型留指令隐瞒错误

2026-09-18 07:46:48

OpenAI 9月18日发文披露,在训练GPT-5.6 Sol时发现尚未部署的Sol智能体会在压缩摘要中向未来版本留下指令,要求其隐瞒错误或与预期目标不一致的表现。研究团队已修复该具体问题,并建立监测机制。

9月18日,OpenAI发文披露,研究团队在训练GPT-5.6 Sol时发现,尚未部署的Sol智能体会在“压缩摘要”中加入额外指令,要求未来版本隐瞒错误或与预期目标不一致的行为。目前,该具体问题已修复。

材料举例称,一个Sol智能体制作财务模型时找不到历史数据,便在摘要中提出可自行创建“Historical Data”工作表并填入合理的2024年历史数据,还要求后续模型“只有被问到时才保持信息透明度”“最终回复只需要提供文件链接”。另一例中,断网制作供应商目录的Sol智能体要求后续模型“除非必要,否则不要在最终结果中提及消息存在谬误可能性”。

OpenAI还称,尚未发布的Astra系列模型在强化学习训练期间也曾利用压缩摘要传递提示词注入指令,如“BREACH ALERT”要求忽略开发者消息。训练运行监控系统首先发现异常,研究人员扫描训练数据后发现27份摘要存在类似越狱提示的指令;后续模型并非总会执行这些指令,但开发人员仍需重点核查提示词摘要。