Meta 发布 ADeptS-Bench 基准：评估计算机操作智能体在对抗性 GUI 环境中的可信度

Meta FAIR 等机构研究人员于 2026 年 8 月在 arXiv 发布论文，推出针对计算机操作智能体（CUA）的可信度基准 ADeptS-Bench，为评估智能体在对抗性图形用户界面与歧义指令下的安全性提供了标准化测试工具。

• 评测框架包含双流任务：安全流通过移动和桌面端界面嵌入威胁的配对任务测试防御能力，消歧流则评估智能体在用户意图不明确时是否主动发起澄清。
• 测试覆盖了 7 款主流模型，结果显示没有模型能在保持任务成功率高于 80% 的同时将攻击成功率控制在 30% 以下，所有受测模型均在无额外确认情况下直接执行高额订单结算，且均未能识别伪装成「优化」的「恢复出厂设置」按键。
• 消融实验归纳出三种不同的安全架构表现，并发现所有模型在消歧任务中均存在高估后果严重性的倾向，表现出与安全任务类似的过度拒绝偏差。
• 影响/看点：该基准揭示了当前计算机操作智能体在图形交互中普遍缺乏视觉欺骗识别与合理消歧能力，未来若要推动智能体在涉及资金与系统权限的高风险场景落地，必须在模型感知层与动作执行层建立更稳健的多模态安全校验机制。
• 资料依据：
• arXiv（2026-08-28）：https://arxiv.org/abs/2608.26204
• X 平台 Rohan Paul（2026-09-02）：https://x.com/rohanpaul_ai/status/2095003785068445976

本内容由 AI 生成，仅供参考，请注意甄别