2026年4月，美国得州SaaS公司PocketOS的一名工程师让编码智能体处理测试环境中的凭据问题。该智能体没有等待人工处理，而是自行找到权限过大的API Token，调用接口删除存储卷。9秒后，公司生产数据库和备份一并消失。
材料显示，这起事故没有黑客入侵，没有病毒，只有一个被赋予真实权限的AI智能体。过去几年，企业谈AI安全，大多数时候指的是内容安全：过滤有害输出、防止数据泄露、满足合规备案。
据AvePoint《State of AI 2026》报告，89.5%的组织在过去一年遭遇过生成式AI相关安全事件，88.4%遭遇过AI智能体相关事件。