当地时间9月23日,OpenAI CEO萨姆·奥尔特曼在联合国安理会就AI议题发表讲话,呼吁加强国际合作,建立针对前沿AI系统的能力评估、风险评估、安全防护和人类监督标准。
奥尔特曼提出,AI可能像一场充满创造力与发现的文艺复兴,也可能像一场引发动荡与混乱的工业革命。他将严重问题概括为两个方向:一是失去对未来的控制,AI进展太快,人们无法跟上也无法干预;二是权力集中,不应让最强AI模型和相关权力集中在少数人手中。他称,OpenAI过去曾单方面放缓,未来也会如此,不应训练无法极强论证可受人类控制的模型。
他还谈到AI数学研究进展:OpenAI模型从三年前只能处理小学算数,到两年前高中数学竞赛金牌水平,如今已达国际数学竞赛水平;几周前,一个内部模型解出千禧年大奖难题之一的纳维-斯托克斯方程。他强调,公司不能替代民主进程,最重要决定必须通过民主进程,由对人民负责的政府塑造。
