10月8日,据《商业内幕》报道,上周从OpenAI离职的安全系统团队前负责人之一戴维·罗宾逊批评老东家在AI安全问题上存在明显的言行不一。IT之家此前报道,当地时间2日,OpenAI一名发言人已证实罗宾逊离职。
罗宾逊表示,OpenAI一边反复警告新模型能力增强可能带来的风险,一边公开谈论放慢AI开发速度,公司内部却仍在全速推进。他说:“真正让我感到矛盾的是,我们不断发布这些警告,最后却还是在训练和部署那些被我们自己警告存在危险的模型。”
今年7月,数百名OpenAI员工签署公开信,呼吁政府出台监管措施为AI开发降速。Anthropic CEO阿莫迪此前呼吁AI公司自行协调放慢开发速度,今年9月OpenAI CEO奥尔特曼对此表示赞同,称需要控制前沿AI的发展节奏。罗宾逊则称,OpenAI办公室仍是一片高速运转状态,不少人几乎靠透支精力支撑工作。
今年9月,OpenAI首席科学家雅库布·帕乔茨基在讨论“递归自我改进”的博客文章中警告:“眼下需要极度谨慎。”
