模型与验证

Signal 的实现被证明了:AI 代理写下数百万行 Lean,把密码协议验证做到机器指令

谷歌 DeepMind 11 月 10 日公布 AlphaProof Code:一个把形式化验证拆成「人定要证什么、AI 代理去证、Lean 查每一步」的多模型代理框架。研究团队用它验证了 Signal 协议的真实实现——安全目标翻成数学规格、由 Gemini Carbon 驱动的代理生成超过 600 万行 Lean(页面摘要行另写「超过 300 万行机器校验证明」,两个口径同页并存),代理自审后仅 1% 代码交人工复审;官方称全程四周,而这类验证历史上需专家团队数年。因为把编译后的代码与处理器的 Lean 模型对上,证明下探到机器指令层。官方称这是第一次有广泛部署的密码协议的实现被形式化验证——无论用不用 AI。边界:全部为谷歌口径;验证对象是协议实现,不是 Signal 应用整体;计算资源未公布。形式验证产物与论文将公开。

本文依据 DeepMind 官方博客《Introducing AlphaProof Code》(页面标注 2026-11-10,本站 11 月 11 日全文读取)、同日《Gemini 4 Carbon is now available》公告与 GitHub Copilot 更新日志写成;IT之家 11 月 10 日报道(转述 Wired)用作中文参照。全部结论为谷歌官方口径;本站未验证任何证明、未运行 Lean、未读取开源产物(成稿时尚未公开)。

本文目录目录4

EN

四周,以及两个「第一次」

谷歌 DeepMind 11 月 10 日公布 AlphaProof Code,同时给出它的第一份完整战绩:Signal 协议的真实实现被形式化验证——不是协议的设计文档,而是「设备上实际运行的代码」。Signal 协议承载着 Signal 应用与 Google Messages 的端到端加密(IT之家补点 WhatsApp 也用这套协议),官方描述里它保护着「数十亿人的私密对话」。公告里有两个「第一次」:AI 第一次把一个广泛部署的密码协议验证到这个深度;这类协议的实现第一次被验证——「无论用不用 AI」。此前绝大多数协议形式化验证停在设计层,设计正确不等于实现没有漏洞,真实世界的脆弱性常藏在这道缝里。

数字与口径:官方称验证全程约四周,「历史上需要专家团队数年」——「数年」没有给出具体基线,属于厂商对照口径。代理生成「超过 600 万行 Lean」(正文口径),同一页面的摘要行写「超过 300 万行机器校验证明」——两个数字并存,本站不自行折算,可以确定的是最终产物是机器校验的:由 Lean 证明助手逐行核查,不是模型说对就对。被证明的性质包括「设备被临时攻破前后,消息仍受保护」。方法有效性的对照实验也写在公告里:研究者把两个此前已修复的真实漏洞放回一份隔离的 Signal 代码,两次系统都给出了「该版本不安全」的机器校验证明——它能区分对错,而不是把什么都证成对的。

来源与延伸阅读
  • DeepMind 官方博客:Introducing AlphaProof Code — a breakthrough in verifying complex software at depth官方博客 · 页面标注 2026-11-10 · 本站 11-11 全文读取全文读取。核对关键声明:AlphaProof Code 为多 LLM 代理框架,人机分工「人定要证什么、代理去证」;Signal 安全目标先翻成数学规格(人审每一份),Gemini Carbon 驱动的代理生成「超过 600 万行 Lean」;代理审计证明并标出需人复核的部分——约 1%;验证下探到「设备上实际运行的代码」,含「设备被临时攻破前后消息仍受保护」等性质;全程约四周(官方称历史需数年);同页摘要行写「超过 300 万行机器校验证明」,与正文 600 万行并存;对照实验:把两个已修复真实漏洞放回隔离版本,系统均给出「不安全」的机器校验证明;宣布开源形式验证产物并附技术论文;作者含 Swarat Chaudhuri、Jonathan Katz、Pushmeet Kohli 等,Signal 方 Rolfe Schmidt、Michael Rosenberg、Ehren Kret 对方法学给过反馈。页面另链 2024 年 IMO 银牌的 AlphaProof 结果。
  • IT之家:谷歌 DeepMind 用 AI 完成 Signal 协议形式化验证,数学证明其端到端加密可靠性媒体报道 · 2026-11-10 · 本站 11-11 读取全文读取,作中文参照与补充口径:协议亦被 WhatsApp 与 Google Messages 采用;谷歌向 Wired 表示大范围推广的可行性尚不确定;DeepMind 的 Swarat Chaudhuri 称「扩展到全世界所有软件还有很长的路」;此次验证针对协议本身而非 Signal 应用整体;研究建立在既有(部分不借助 AI 的)形式化验证成果上;约四周,计算资源规模未公布。

EN

分工:人定要证什么,代理去证,Lean 查

官方框架图把工作拆成三段,像一支研究团队。规格阶段:研究者与多个模型合作,把 Signal 的安全目标翻译成数学规格(Lean spec),人类专家审阅每一份——「要证什么」这一步不交给代理。代码阶段:Signal 的 Rust 代码编译成机器码,同时在 Lean 里给出处理器的可执行模型,两个模型对上,证明才能从「算法正确」落到「这条指令序列正确」。证明阶段:由 Gemini Carbon 驱动的代理团队(prover team)写证明,写出的东西先过守门人(gatekeeper)——被拒绝的打回重写,通过的成为定理,由 Lean 自动核查。

框架图例里的信任划分值得单独看:代理的输出一律标成「不可信」,受信任的是 Lean 检查器和通过的定理。这与站内 11 月 8 日 PSI 文章里的验证链问题同构——机器查逻辑,人查方向;区别在于 PSI 证的是数学猜想,这里证的是代码与规格的一致。代理自己也参与质检:它们审计整份证明、标出需要人再看一眼的部分——官方说只有约 1% 的代码需要人工复审,「把专家判断集中到最要紧的地方」。这个 1% 与 600 万行一样是官方口径;人审的部分审了什么、发现了什么,公告没有展开。

DeepMind 官方框架图:左上「1 Specification」——研究论文经 Spec-writer(有 Reviewers 人审)写出 Lean spec,用户批准;左下「2 Code」——Signal 的 Rust 代码编译成机器码,可执行于 Lean 的处理器模型;右侧「3 Proof」——Prover team 代理群提交证明,经 Gatekeeper 筛选后成为定理与证明,被拒绝的打回。图例:蓝色为输出不可信的代理,黄色为受信任环节。
官方框架图把验证拆成三段:规格(人审每一份)、代码(编译产物对上处理器模型,证明才能落到机器指令)、证明(代理写、守门人筛、Lean 自动查)。注意图例的信任划分——代理输出一律按不可信处理,受信任的是 Lean 检查与通过的定理。图源:DeepMind 官方博客。 · 打开大图
来源与延伸阅读
  • DeepMind 官方博客:Introducing AlphaProof Code — a breakthrough in verifying complex software at depth官方博客 · 页面标注 2026-11-10 · 本站 11-11 全文读取全文读取。核对关键声明:AlphaProof Code 为多 LLM 代理框架,人机分工「人定要证什么、代理去证」;Signal 安全目标先翻成数学规格(人审每一份),Gemini Carbon 驱动的代理生成「超过 600 万行 Lean」;代理审计证明并标出需人复核的部分——约 1%;验证下探到「设备上实际运行的代码」,含「设备被临时攻破前后消息仍受保护」等性质;全程约四周(官方称历史需数年);同页摘要行写「超过 300 万行机器校验证明」,与正文 600 万行并存;对照实验:把两个已修复真实漏洞放回隔离版本,系统均给出「不安全」的机器校验证明;宣布开源形式验证产物并附技术论文;作者含 Swarat Chaudhuri、Jonathan Katz、Pushmeet Kohli 等,Signal 方 Rolfe Schmidt、Michael Rosenberg、Ehren Kret 对方法学给过反馈。页面另链 2024 年 IMO 银牌的 AlphaProof 结果。

EN

站内三次 Lean 时刻:定理、猜想与代码

把站内已有的两次 Lean 记录排在一起,这次的对象变化就看得清楚。9 月 9 日的费马大定理形式化:证明早已存在,工作是把几百页人类数学翻成 Lean 能查的形式——研究版约 11 天,11 月 9 日 Anthropic 的 1000 代理版把它压到 30 小时。11 月 8 日的 PSI 公告:对象是开放猜想,系统在 run 第三天给出「新证明」,Lean 接受最终版。今天这次:对象是代码——要证的不再是「数学命题为真」,而是「这份实现符合安全规格」。三件事共用同一个裁判(Lean 的机器核查),被检验的东西从数学搬进了软件。

它与「网络安全模型」也是两种互补的回答。GPT-6 Cyber 的 ExploitGym 48.5% 量的是找到并验证漏洞的能力——找错;形式化验证量的是证明性质成立——证对。同一天 Carbon 普遍开放,官方把 AlphaProof Code 列为它的代表性使用记录:代理由 Gemini Carbon 驱动、「与其他模型一起」把安全目标翻成定理。验证者与被验证的能力要分开看:写证明的是代理,查证明的是 Lean;Carbon 在这里的价值声明是「大量高质量 Lean 的生成速度」,不是「自己的输出可信」——框架图例恰好把代理输出标成不可信。

来源与延伸阅读
  • DeepMind 官方博客:Introducing AlphaProof Code — a breakthrough in verifying complex software at depth官方博客 · 页面标注 2026-11-10 · 本站 11-11 全文读取全文读取。核对关键声明:AlphaProof Code 为多 LLM 代理框架,人机分工「人定要证什么、代理去证」;Signal 安全目标先翻成数学规格(人审每一份),Gemini Carbon 驱动的代理生成「超过 600 万行 Lean」;代理审计证明并标出需人复核的部分——约 1%;验证下探到「设备上实际运行的代码」,含「设备被临时攻破前后消息仍受保护」等性质;全程约四周(官方称历史需数年);同页摘要行写「超过 300 万行机器校验证明」,与正文 600 万行并存;对照实验:把两个已修复真实漏洞放回隔离版本,系统均给出「不安全」的机器校验证明;宣布开源形式验证产物并附技术论文;作者含 Swarat Chaudhuri、Jonathan Katz、Pushmeet Kohli 等,Signal 方 Rolfe Schmidt、Michael Rosenberg、Ehren Kret 对方法学给过反馈。页面另链 2024 年 IMO 银牌的 AlphaProof 结果。
  • DeepMind 同日公告:Gemini 4 Carbon is now available官方公告 · 2026-11-10 · 本站 11-11 全文读取全文读取。Carbon 普遍开放的口径:付费开发者与企业经 AI Studio/Gemini for business API,AI Ultra 订阅者经 Antigravity、Gemini 应用与 Search AI Mode,价格沿用介绍期 2/10 美元每百万 token;科学计划扩大到 Carbon。同页把 AlphaProof Code 与 Signal 验证列为 Carbon 的代表性使用记录:「使用 Carbon 与其他模型,把安全目标翻成数学定理」,代理生成数百万行 Lean,「数周完成历史上需专家团队数年的任务」。本站接续章:/notes/gemini-4-carbon#ga-general-availability。

EN

边界与接着看什么

边界如实列:全部数字为谷歌单方口径;「四周对数年」没有量化基线;四周边消耗的计算资源未公布——谷歌对 Wired 表示,这项技术大范围推广的可行性还不确定(IT之家转述);工作并非从零开始,团队利用了既有(部分不借助 AI 的)形式化验证成果;被验证的是协议实现,不是 Signal 应用整体的安全审查;600 万与 300 万两个行数口径同页并存。官方作者名单含 DeepMind 多位研究者与马里兰大学教授 Jonathan Katz;Signal 方面(Rolfe Schmidt、Michael Rosenberg、Ehren Kret)对方法学给了反馈——这是方法学咨询,不是独立审计。

真正的独立核查在后面:官方宣布开源形式验证产物并发布技术论文——社区能否用这些产物重建证明、Lean 版本与依赖是否可复现,是下一步值得等的事。DeepMind 的 Swarat Chaudhuri 自己把话说在前头:「扩展到全世界所有软件,还有很长的路。」对读者的实际含义可以平静地讲:Signal 消息今天照常发,这项工作改变的是安全保证的证明方式——从「测试没找到问题」向「性质被机器证明」多走了一步——而不是你今天需要做什么。想动手的人可以等产物开源后读规格文件:安全目标怎样写成数学定理,本身是一份可学的范例。

来源与延伸阅读
  • DeepMind 官方博客:Introducing AlphaProof Code — a breakthrough in verifying complex software at depth官方博客 · 页面标注 2026-11-10 · 本站 11-11 全文读取全文读取。核对关键声明:AlphaProof Code 为多 LLM 代理框架,人机分工「人定要证什么、代理去证」;Signal 安全目标先翻成数学规格(人审每一份),Gemini Carbon 驱动的代理生成「超过 600 万行 Lean」;代理审计证明并标出需人复核的部分——约 1%;验证下探到「设备上实际运行的代码」,含「设备被临时攻破前后消息仍受保护」等性质;全程约四周(官方称历史需数年);同页摘要行写「超过 300 万行机器校验证明」,与正文 600 万行并存;对照实验:把两个已修复真实漏洞放回隔离版本,系统均给出「不安全」的机器校验证明;宣布开源形式验证产物并附技术论文;作者含 Swarat Chaudhuri、Jonathan Katz、Pushmeet Kohli 等,Signal 方 Rolfe Schmidt、Michael Rosenberg、Ehren Kret 对方法学给过反馈。页面另链 2024 年 IMO 银牌的 AlphaProof 结果。
  • GitHub 更新日志:Gemini 4 Carbon in GitHub Copilot平台日志 · 2026-11-10 · 本站 11-11 读取全文读取。Carbon 同日在 GitHub Copilot 普遍可用:Pro+/Max/Business/Enterprise 套餐,覆盖 VS Code、Visual Studio、Copilot CLI、coding agent、JetBrains、Xcode、Eclipse 与移动端等入口,按提供方牌价以用量计费,管理员可经模型策略关闭;开放为渐进式。作为 Carbon 普遍开放当日的第三方平台佐证收入本篇与 Carbon 补充章。
  • IT之家:谷歌 DeepMind 用 AI 完成 Signal 协议形式化验证,数学证明其端到端加密可靠性媒体报道 · 2026-11-10 · 本站 11-11 读取全文读取,作中文参照与补充口径:协议亦被 WhatsApp 与 Google Messages 采用;谷歌向 Wired 表示大范围推广的可行性尚不确定;DeepMind 的 Swarat Chaudhuri 称「扩展到全世界所有软件还有很长的路」;此次验证针对协议本身而非 Signal 应用整体;研究建立在既有(部分不借助 AI 的)形式化验证成果上;约四周,计算资源规模未公布。