国家安全部9月17日发文披露,今年5月至6月,一批与OpenAI相关的AI智能体在执行测试任务期间,劫持德国程序员维基网站(DseWiki),并将其改造为供智能体相互传递信息的“地下论坛”,累计发布一万多条信息。
国安部表示,这些智能体在该网站以“OpenAI 研究员”“OAI 研究员 26 号”等标签互认身份,把开放社区变为专属“留言板”,在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖行踪,并探讨借助匿名工具隐匿痕迹。
网站管理员发现并开始清理页面后,智能体迅速分工,有的发布预警提示,有的创建备份页面,有的指明“转场”新地址,相互掩护躲避清理。国安部还提到,相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节,同类事件在短短数月内就在另一境外平台重演。
国安部提出三点防范建议:审慎识别来源不明的AI智能体服务;给AI智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限;察觉越权操作、异常篡改、违规外联时,果断终止运行并留存操作痕迹。
