AI 紧急关闭按钮能管到哪？几种不同看法

辛顿的怀疑在长远：超级智能完全可能说服掌管开关的人别按。索亚雷斯的怀疑在边界之外：AI 一旦能自我复制或进入关键基础设施，开关是否仍然有效没有保证。

克拉克与阿莫迪代表另一种立场：克拉克主张强制企业保留可独立验证的关闭机制；阿莫迪称开关绝非万能药，只能作为测试、外部评估、部署限制等更大安全战略的一环。

工程上，企业可以停用自托管模型、切断工具与算力访问，这类「关闭」今天可行；争议集中在边界之外的系统。政策讨论由此转向：强制保留加独立验证，而不是指望单一按钮。

背景是奥特曼 2024 年的表态：不存在「魔法红按钮」，安全来自一系列具体决定。这场讨论的价值在于把抽象风险换算成可验收的机制清单。