IT之家 快照与原文 · 原文 2026-09-17
辛顿、阿莫迪都不看好 AI 紧急关闭按钮
关于「紧急关闭」靠不靠谱的分歧，本质是在给安全机制的定位划边界：它是多层防线中的一层，还是一个独立的保险装置。
四个人，四种保留
辛顿的怀疑在长远：超级智能完全可能说服掌管开关的人别按。索亚雷斯的怀疑在边界之外：AI 一旦能自我复制或进入关键基础设施，开关是否仍然有效没有保证。
克拉克与阿莫迪代表另一种立场：克拉克主张强制企业保留可独立验证的关闭机制；阿莫迪称开关绝非万能药，只能作为测试、外部评估、部署限制等更大安全战略的一环。
从装置到体系
工程上，企业可以停用自托管模型、切断工具与算力访问，这类「关闭」今天可行；争议集中在边界之外的系统。政策讨论由此转向：强制保留加独立验证，而不是指望单一按钮。
背景是奥特曼 2024 年的表态：不存在「魔法红按钮」，安全来自一系列具体决定。这场讨论的价值在于把抽象风险换算成可验收的机制清单。
背景与补充说明
据《商业内幕》报道、IT之家转述：辛顿认为超级智能可能说服掌管者别按开关；索亚雷斯指出 AI 自我复制或进入关键基础设施后，开关难保证仍有效；克拉克主张强制保留可独立验证的关闭机制；阿莫迪称开关绝非万能药。
治理讨论正在换问题：从要不要装开关，转向开关在多层防线里的位置；政策与采购决策都需要回答可验证的关闭机制怎么建。
各方观点转述自《商业内幕》报道，本卡观察来源为 IT之家 中文报道；表态不是已实现的机制，争论本身不能证明风险大小。
本次阅读进度保存在当前浏览器。 收藏或写笔记 →
按时间回看
02前后变化
按时间回看
- 本站收录进入 BitShovel 雷达：IT之家 收录时可见 60 条。
收录与归档说明
资料位置：在册
首次发现：2026-09-17（北京时间）。
收录日期与原文发布日期分别记录。进入资料库不等于当天入选每日精选；已保留的入选日期在上方列出。