10月9日,OpenAI三名前研究人员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王发表公开信《OpenAI无法独自确保AI安全》,收信人为OpenAI各安全委员会。三人上周突然被解雇,此前分别从事AI对齐与AI安全研究。
信中称,员工能放心与外部机构合作解决安全问题,是OpenAI工作文化的重要组成部分;仓促解雇员工会让其他员工不敢公开表达意见。三人建议允许第三方安全审计人员进驻公司,确保前沿AI模型仍可受到有效监测,并支持安全研究人员与外部机构公开、透明交流。
OpenAI发言人回应称,公司经内部调查认定三人违反敏感信息访问和处理规定。贾斯敏·王被指访问一位高管的电子邮件;巴莱斯尼称被告知“与第三方安全机构交流过多”;科尔巴克称原因是“与METR沟通的方式”。METR是评估AI模型及其安全风险的非营利研究机构。
一名OpenAI研究部门负责人在内部备忘录中强烈支持三项建议,称解雇决定与他们提出安全问题或公开发声无关。科尔巴克则担心OpenAI会以三人遭解雇为借口减少与METR的合作。
