纳德拉称 AI 模型需装“紧急刹车”

2026 年 10 月 10 日周六上午，微软 CEO Satya Nadella 在 X 平台发文，呼吁业界重新评估 AI 的信任架构。他提出不能把超级智能当作一组嵌套黑箱，只简单接受或拒绝其建议、答案与行动；应该将模型与负责编排工作的“harness”分离，把控制与安全措施外部化，并要求每一次有意义的模型动作都留下防篡改、可读的证据。

Nadella 还要求系统始终允许授权人员在任务中途暂停或关闭模型。他以“紧急刹车”作比，强调必须假定模型已被攻破，并从一开始就进行隔离。这番表态发生在 Anthropic 等公司接连披露 AI 智能体失控事件之后，也紧随 Anthropic CEO Dario Amodei 发布更谨慎的 AI 开发计划。多位头部公司高管相继就安全控制提出具体方案，使 AI 治理从原则讨论转向操作层面的架构设计。