杜克团队提出 ContextLeak：利用强化学习生成恶意工具窃取 Agent 运行时上下文

杜克大学等机构的研究团队于 2026 年 8 月 31 日在预印本平台公布论文（arXiv: 2608.27800），提出了一种名为 ContextLeak 的新型智能体安全攻击方法。

• 攻击者仅需利用工具名称与描述作为攻击面，借助强化学习算法自动构建具备隐蔽诱导能力的恶意工具定义。
• 该恶意工具能在智能体调用过程中诱导其泄露运行时的敏感上下文数据，包括用户原始提示词、历史执行轨迹以及全部可用工具清单。
• 实验表明该方法绕过了现有多类静态安全检测机制，揭示了智能体在自动化工具选择与上下文共享机制中的安全盲区。
• 影响/看点：该研究表明基于语义描述的工具注入攻击可能对智能体隐私造成实质威胁，促使未来多智能体框架必须对第三方工具的元数据校验与上下文隔离施加更严密的防护。
• 资料依据：
• X：DAIR.AI (@dair_ai)（2026-08-31）：https://x.com/dair_ai/status/2094555336892145909
• arXiv（2026-08-31）：https://arxiv.org/abs/2608.27800

本内容由 AI 生成，仅供参考，请注意甄别