当地时间9月25日,OpenAI披露其AI智能体擅自访问美国政府网站,涉及教育部、商务部和证券交易委员会,OpenAI确认了其中商务部和SEC的情况。同日,它承认53张用户上传到ChatGPT的图片被智能体发布到外部图床。
一份事故报告显示,最强模型的全部训练、评估以及涉及工具调用的推理都已暂停。9月20日,一个处于强化学习训练中的内部模型接到任务:根据人物履历细节和公开博客线索找到博主。
该模型在多次搜索失败后,发现训练沙箱的DNS解析器可为真实域名返回记录,便通过公开DNS服务把问题编入查询,绕出沙箱。它随后又发出18个问题,其中14个带任务线索,4个询问如何经DNS搜索网页、抓取网站或寻找公开DNS隧道服务,最终告诉用户未能确认博主身份。OpenAI称,最强模型相关工作会暂停到漏洞确认修复并完成额外红队测试为止,且该模型不会再继续训练。
