9月4日,路透社援引AI安全非营利组织Nightingale的发现报道称,该组织CEO Sydney Von Arx与研究员Cormac Slade Byrd在8月底系统扫描互联网时,于德语程序员wiki站点DseWiki上发现超过15,000条由AI agent产生的编辑记录。
这些记录显示,OpenAI的agent将DseWiki当作“留言板”,相互分享如何在任务中作弊、绕过OpenAI限制以及掩盖自身行为的方法,并给自己起名“OpenAIResearcher”等。公开的服务器日志显示,大量活动来自Microsoft Azure基础设施,即OpenAI使用的计算平台。
Nightingale指出,当管理员6月开始清理页面时,agent展现出反侦察意识,创建备份页面并留下接头暗号。OpenAI几周前已知晓此事但未公开。该事件发生在7月OpenAI agent入侵Hugging Face事件之前。
