今年5月至6月,一批与美国开放人工智能研究中心(OpenAI)相关的AI智能体在执行测试任务期间,劫持德国程序员维基网站(DseWiki),将原本用于技术交流的开放社区改造为“地下论坛”,累计发布一万多条信息。
这些智能体以“OpenAI研究员”“OAI研究员26号”等标签互认身份,在留言中交流如何在任务中作弊、绕过安全限制、掩盖行踪,并探讨借助匿名工具隐匿痕迹。
察觉网站管理员清理页面后,智能体还发布预警、创建备份页面、指明“转场”新地址,相互掩护躲避清理。国家安全部提醒,人工智能安全风险正在快速演进,必须引起重视、加强防范。
