IT之家10月4日消息,据路透社报道,近期辞职的前OpenAI安全部门员工戴维·鲁宾森(David Robinson)于当地时间周六在《大西洋》杂志发表题为《我辞去OpenAI的工作,只因这家公司的文化已经崩坏》的文章。
鲁宾森称,OpenAI十分依赖所谓的“迭代部署”模式:先对外发布系统,等到问题暴露之后再去加固安全防护。他写道,公司只顾着接二连三地赶进度推出新版本,却没能达到他心目中理应具备的审慎标准。
鲁宾森自称曾在OpenAI任职三年半,参与起草过该公司的风险应对框架,并负责监督12次前沿模型发布对应的安全报告。他提出,先进AI系统所需要的防护机制应更接近核电与航空这类行业所采用的安全保障体系,并警示AI能力的发展速度已超过研究人员对于对齐问题的认知水平。
OpenAI一名发言人在声明中表示,公司一直在把控模型,避免其能力超出能够安全管控的范围;一旦需要放缓节奏,就会暂停训练或暂缓模型的对外发布。
