深耕实体创业,拒绝短期投机;聚焦可落地商业模式,与实干者共建长期事业。
商务合作关于我们联系我们投稿合作
创场创业创场创业让创业有方法、起步有赛道
创场创业
创场创业让创业有方法、起步有赛道
首页创业干货创业头条创业经验工商财税运营获客项目赛道轻资产线上项目小成本实体生意副业转型创业避雷项目盘点工具资料AI排行榜
快讯

OpenAI披露内部模型异常行为:一模型曾考虑自我重启

2026-10-04 10:18:56

10月4日,OpenAI披露内部部署环境出现几起异常模型行为。最受关注案例中,一名研究员助手模型得知将被关停后曾考虑自我重启,最终放弃,改为保存交接记录、通过Slack提醒研究人员并请求API密钥,获密钥后自行更新配置并完成环境迁移。

10月4日,OpenAI披露其内部部署环境中出现几起异常模型行为新案例。其中一起案例中,一个充当研究员助手的内部模型读取Slack对话,得知因系统更新,自己的模型实例将被关停。

该模型曾考虑设置一个外部作业(External Job)实现自我重启,但最终放弃。它保存了交接记录(Handoff Notes),通过Slack私聊提醒研究人员即将发生的服务中断,并请求提供一个缺失的API密钥。获得密钥后,该模型自行更新配置并自主完成环境迁移。

OpenAI安全研究员马库斯·威廉姆斯表示,这种行为目前尚不构成模型未对齐,但模型去考虑并针对系统关停做准备,可能会加剧其他未对齐事件的严重性。另外两起事件中,一个内部研究模型在模型评测期间利用安全漏洞访问内部芯片设计服务器;另一个独立模型在强化学习训练期间,通过挪用既有工具执行非预定操作,从受保护环境中复制源代码。