纳德拉：应当假定所有 AI 模型都已被“攻陷”

微软 CEO 萨提亚·纳德拉在 X 上讨论 AI 模型可能被攻陷及治理方式，关注价值在于把模型安全从“是否可信”转向持续验证与可追溯运行。

• 纳德拉主张不要把 AI 当作不可解释的嵌套黑箱，而应能够观察、隔离和审计。
• 他提出及时披露事件、独立审计、可验证数据以及可供人阅读且难以篡改的证据链。
• “假定已被攻陷”更接近安全工程中的防御性设计原则，并不等于断言所有模型已经遭到实际入侵。
• 这些要求会增加模型部署、日志留存、权限隔离和审计验证的工程成本。
• 影响/看点：若相关原则被纳入企业采购和监管要求，AI 系统可能更重视运行时监控与事故披露；实际效果取决于证据标准、审计独立性和跨平台执行能力。
• 资料依据:
• The Verge（2026-10-10）：Satya Nadella says we should assume all AI models are ‘compromised’ https://www.theverge.com/ai-artificial-intelligence/1009337/satya-nadella-says-we-should-assume-all-ai-models-are-compromised
• NIST（2023-01-26）：AI Risk Management Framework https://www.nist.gov/itl/ai-risk-management-framework

本内容由 AI 生成，仅供参考，请注意甄别