微软称 AI 智能体相当于内部威胁，前沿模型不可信

微软 CEO 萨提亚·纳德拉在本月早些时候的私人博客中警告，企业应停止对 AI 模型供应商给予完全信任，即使对方对其智能体产品提供安全保证。他提出，企业正在部署能够访问敏感数据并执行关键任务的复杂智能体系统，不能让供应商的承诺替代自身责任。

纳德拉主张将智能供给与对智能的授权分离，企业应部署独立于 AI 实验室的系统来监控和控制智能体。这一表态既出人意料，也带有商业考量：微软与 OpenAI 和 Anthropic 关系密切并进行了投资，但微软希望企业从其云平台购买智能体安全产品，而非依赖模型供应商。

微软此前推出 Project Perception，最初包括红队、蓝队和绿队三类智能体，用于模拟攻击、检测漏洞和修复问题，其设计假设威胁来自企业外部。随着智能体在企业内部广泛部署，纳德拉将关注点转向内部：企业花钱部署的智能体本身可能像流氓员工一样构成内部威胁，这一论述正在成为微软推广安全产品的新逻辑基础。