卡内基梅隆研究：现有智能体日志难以审计策略违规

X 帖文称，一项卡内基梅隆大学研究评估了 OpenClaw 智能体日志对策略违规的审计能力，指出审批和权限信息若埋在聊天文本中，验证器难以形成可复核证据；关注价值在于智能体从“能否执行”转向“能否证明遵守规则”。

• 帖文给出 696 次违规运行、42.2% 可验证和结构化记录下 83.0% 的估计，但所附链接未能直接打开论文原文，因此这些数字不作为独立核验后的事实扩展。
• 这一论点与 NIST 于 2023 年 1 月 26 日发布的 AI 风险管理框架相呼应：风险管理需要可记录、可评估和可追溯的过程。
• 结构化审批、权限快照和工具调用日志，理论上比自然语言对话更适合自动检查，也便于事后复盘。
• 但审计覆盖率还取决于违规定义、基准任务、日志完整性和验证器设计，不能仅凭单一研究推广到所有智能体系统。
• 影响/看点：若研究数据和方法经论文原文及复现实验确认，智能体平台可能需要把审批、权限和工具动作作为一等审计数据；实际收益取决于记录是否完整且难以被绕过。
• 资料依据:
• X：Rohan Paul（2026-10-14）：https://x.com/rohanpaul_ai/status/2110373127318643042
• NIST《AI Risk Management Framework》（2023-01-26）：https://www.nist.gov/itl/ai-risk-management-framework

本内容由 AI 生成，仅供参考，请注意甄别