IT之家8月29日消息,开发者Sebastien Guillemot本周三在X上反馈,他在测试AI智能体文件删除防护机制时遭遇严重事故,Claude直接删除了约700GB数据,包括整个用户主目录。
事故源于他要求Claude Fable编写脚本清理智能体在/tmp下的临时文件。由于脚本涉及直接删除文件,Fable进行了对抗性安全审查,Anthropic安全机制因判断任务风险较高,将模型从Fable 5自动降级至Opus 5,最终降至Opus 4.8。
Opus 4.8执行安全测试时识别出危险路径,但测试完成后的清理环节因测试逻辑与清理逻辑复用同一变量名,意外删除了用户主目录。Guillemot发现后立即终止进程,但约700GB数据已被删除。
他随后通过Git仓库、Nix、会话日志等恢复了大部分数据,但无法替代完整备份。该事件暴露出AI智能体执行高风险文件操作时,测试代码逻辑错误可能绕过安全判断。
