TechCrunch · AI· Anthony Ha·· 3 小时前AI 评分38
微软 Satya Nadella 呼吁 AI 模型设置"紧急刹车"机制
Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
AI 导读
微软 CEO Satya Nadella 发文呼吁对 AI 的"信任架构"进行反思，主张将模型与调度编排层分离、外部化控制与安全机制，并为每一个有意义的模型动作留下防篡改、可供人类阅读的证据。他提出应假设模型从一开始就被入侵并加以隔离，授权人员须随时能暂停或中止模型任务，相当于"紧急刹车"。其言论正值 Anthropic CEO Dario Amodei 公布更谨慎的 AI 发展计划之后。
来源：TechCrunch · AI · techcrunch.com