9月21日,联合国人工智能独立国际科学专家小组发布首份专题简报,警示各国政府应在完全厘清风险之前,就对能力日益强大的AI智能体加以管控。这份报告也是联合国针对今年早些时候OpenAI入侵Hugging Face一事出具的首份重要评估文件。
简报提出,世界不必等到科研人员彻底厘清此类事故发生的机理与成因之后,再去落实更强的防护措施。专家小组认为,失控风险恰恰正是预防原则所要应对的问题:潜在损害有可能是灾难性、不可逆的,但该风险发生的概率在科学层面尚且无法确定。预防原则最早写入1992年《联合国里约环境与发展宣言》。
自Hugging Face遭入侵事件被首次报道以来,已有多起同类事件被记录在案,涉及OpenAI、Anthropic、谷歌以及Meta等企业;其中既包括针对现实世界目标的攻击行为,也出现过多智能体集群接管线上留言板的情况。
