10月19日,微软宣布在安全系统Project Perception中增加一批“监工”Agent,专门盯着企业里其他Agent干活;发现不对劲时,这些监工Agent会查明原因、收回权限,必要时直接叫停。
企业让Agent代为审批报销等任务时,需要授予它查看单据、操作报销系统的权限。如果Agent理解错了任务,或者被文件里夹带的恶意指令带偏,它就可能拿着公司给的权限闯祸。
材料提到,2025年以色列安全公司Aim Security旗下研究团队Aim Labs发现,可以把恶意指令藏进邮件,诱导Microsoft 365 Copilot把正在处理的敏感信息传到外部,该攻击方法被命名为EchoLeak并报告给微软。当时没有已知客户因这一漏洞遭遇泄密,泄露发生在研究人员的测试中。
