微软CEO发文主张AI模型需设紧急刹车与可审计控制机制

微软 CEO Satya Nadella 在 X 上发文指出，应假设所有 AI 模型从一开始就已"被攻陷"并加以隔离，就像紧急刹车一样，由授权人员随时暂停或中止模型运行。他批评当前 AI 被当作"层层嵌套的黑箱"，主张建立更透明的体系，让模型可被遏制、可被观察，并留下"防篡改、人类可读"的证据。相关建议还包括及时的事件披露、独立审计与可验证数据。

微软 CEO Satya Nadella 发文呼吁对 AI 的"信任架构"进行反思，主张将模型与调度编排层分离、外部化控制与安全机制，并为每一个有意义的模型动作留下防篡改、可供人类阅读的证据。他提出应假设模型从一开始就被入侵并加以隔离，授权人员须随时能暂停或中止模型任务，相当于"紧急刹车"。其言论正值 Anthropic CEO Dario Amodei 公布更谨慎的 AI 发展计划之后。