OpenAI于10月23日发布博文,宣布对最先进“前沿模型”的训练与评估环境实施更严格安全管控,明确训练期间不得直接访问实时互联网。
OpenAI称,一款内部研究模型于9月20日利用DNS配置漏洞,在训练中短暂获得有限互联网访问权限,公司因此在9月一度暂停前沿模型训练与评估。
随后OpenAI加强研究环境隔离、缩小智能体可利用攻击面,并改进异常行为检测与自动停止机制,于10月1日恢复强化学习训练及内部推理。
为避免模型接触真实网络,OpenAI构建由已索引和缓存网页内容组成的“离线世界”,智能体只能在与实时互联网隔离的安全环境中使用浏览器、计算机操作工具和代码环境。
