31B 压到 13.7B：H3 音画模型的社区压缩版跑进消费级显卡

先把时间线摆直。MiniMax 的 H3 在 7 月 28 日建 HF 仓（社区许可文本标注 release/license date 2026-08-02），官方模型卡写它是通用全模态生成系统：统一理解文字、图像、视频、音频，生成带原生立体声的视频，最长 15 秒、24fps、32kHz 立体声，最高 2K；本站 11 月 9 日 API 核对时它已有 642.96 万下载、6,664 赞。9 月 17 日，新加坡视频公司 Video Rebirth 先给完整版 H3 出了一个 8 步 LoRA（保留完整 transformer、只压采样步数）。11 月 4 日，它的压缩版权重仓在 HF 建立；11 月 6 日 GitHub 建仓；11 月 7 日深夜提交 Show HN；本站 11 月 9 日核对时，压缩权重已累计 40,788 次下载。

被压缩的是什么：官方模型卡的口径是 H3-Omni-Transformer 为 33B 稠密单流 Transformer，其中约 13B 在 AdaLN 相关分支、推理部署可以不加载；HyperFlow 的口径则写 «~31B MiniMax-H3 transformer»。两个口径不完全同义，正文里分开记。Flash 的产物：13.7B（fl2va，服务文生与首末帧任务）或 13.9B（ref2va，全参考任务），输出 5.2–15 秒、默认 1344×768、24fps，带 32kHz 立体声——三个任务 t2va／fl2va／ref2va 与 H3 官方的两个变体一一对应。

三个数字看体感。5.2 秒短片、6 步采样、1344×768，端到端（含文本编码与视频/音频双 VAE 解码）：RTX 5090 上 92 秒（INT8 版；GGUF 版 99 秒），RTX 4090 上 130–157 秒，RTX 3090 上 266–325 秒，单卡 H200 36 秒，4×B200 8.7 秒。15 秒片在 5090 上约 9 分钟（INT8 551 秒）；1088p 的 15 秒片在 H200 上 743 秒。部署下限：Q4_K_M 权重 9.1GB，24GB 显存卡加 16GB 内存的 PC（开 --fast-disk）即可跑 ComfyUI；16GB 显存的卡未测。全部为 Video Rebirth 自测口径，本站未复测。

«实时»两个字要用对地方：8.7 秒生成 5.2 秒的片并不等于实时。README 自己把实时归给 NVIDIA SOL-H3——一个在 4× Blackwell GPU 上实时运行 Flash 的推理运行时，自称 day-0 支持（本站核对该目录在 NVlabs/Sana 的 sol-engine 分支存在，未运行、未测速）。买卡的人拿到的是«几分钟出一条短片»；«边说边出»是另一套硬件与另一个运行时的事。

• 看仓库与基准表 ↗
• 看权重页与四个目录 ↗

第一步，结构剪枝＋低秩分解。fl2va 分支删掉 50 层里的 3 层（第 6、21、22 层），102 个线性层换成低秩分解；ref2va 分支删 1 层（第 9 层）、114 个线性层低秩分解。参数量从 HyperFlow 口径的约 31B 降到 13.7B／13.9B——不到一半。这买的是显存与带宽：transformer 占整条管线八成以上时间且受算力约束，层少一半，每一步都便宜。

第二步，旋转 W8A8 INT8 量化（团队称 convrot）。180 个线性层的权重与激活都压到 8 位整数，先过一次块对角 Hadamard 旋转再量化——旋转的作用是把激活分布摊平，让低位宽少丢信息。INT8 版比 GGUF 版快 10–20%；GGUF（Q3_K_M 到 Q8_0，7.2–15.2GB）则把系统内存需求砍到一半以下，ComfyUI 在运行时把 Q4_K_M 反量化回高精度计算。

第三步，双时间条件 (t, r)。扩散模型原本要走长采样轨迹；Flash 给每个 token 同时喂两个时间——当前噪声水平 t 与这一步的落点 r——使 4–8 步采样不再需要 classifier-free guidance（条件 token 固定在 r=t）。这买的是轨迹长度：50 步变 6 步，同一步更便宜之外，步数本身少了一个数量级。配套仓库里还有一条对照路线：完整版 H3 不剪层，只打 8 步 LoRA——两件作品摆在一起，说明«压参数»和«压步数»是可以分开买的两件事。

没有被动过的部分同样要记：文本编码器是 Qwen3-VL-32B——GGUF 路径用 15.7GB 的 nvfp4 AWQ 版，Python 路径默认 bf16（约 50GiB，可换 fp8），加载时丢弃条件接点以上的未用层省约 14GB；VAE 与 tokenizer 也原样保留。首跑下载约 90GB（换 fp8 文本编码器约 68GB），其中包含编码器、VAE 与选定的 INT8 transformer；62GB 的完整 base transformer 不会被下载。

• 读架构说明原文 ↗
• 对照：完整版 H3 的 8 步 LoRA ↗

许可链条要一层层读。代码是 Apache-2.0（ComfyUI 节点单走 GPL-3.0）；权重不是——NOTICE 写明它们是 MiniMax-H3 的 Model Derivative（其社区许可 Section I.11 的定义），按同一份 H3 社区许可分发，而这许可的 Applicable Territory 是«全世界、除去欧盟、英国、韩国与美国»——这四处需 MiniMax 另行授权。NOTICE 同时写明 «not an official MiniMax product»，且上游文本编码器、VAE、tokenizer 不随压缩权重再分发：装 Flash 仍要从官方渠道取这几件原装部件。

画质账没有随速度账一起公布。README 与模型卡给出的是详尽的速度记录：三张 GPU 基准表、offload 三档的模式说明、ref2va 的 token 开销分析（一张 2048 短边参考图约 14,300 token——约为七个 768p 潜在帧；5.2 秒片本体 37,710 token、15 秒片 109,062 token，注意力开销随 token 数平方增长）。但与完整 H3 的质量对比——剪掉三层、量化 180 层、采样从几十步压到 6 步之后画面和声音坏了多少——没有任何发布形式的对照数据。Hacker News 评论区的批评很直接：amelius 说这像«把 JPEG 压到一半大小然后不检查它长什么样»；vrighter 说«如果真做了对比，这事看起来就没那么惊艳了»；swiftcoder 与 Reubend 想要分档量化的质量对时间表。展示页是精选演示。

怎样读这个缺口：工程师在讨论里回答了速度与许可问题，也写明«16GB 显存未测»；质量留白不是丑闻，是边界。剪枝、低秩分解、少步数条件化，每一处都可能动画质——动多少、先坏在哪里（远处的文字？手部？音画同步？），目前没有公开答案，只能等第三方测评或使用者自己跑对照。本站未下载权重、未运行模型，无法替读者填这个空；把«能跑»和«跑得一样好»分开，是读这类发布的第一刀。

• 读 NOTICE 原文 ↗
• 读 HN 讨论全程 ↗

站内最直接的接续点是 zenstory 案例。它的 H3 写法记录——首帧模式转身方向不听提示词（6/6、3/3 转反，9 条候选全反）、开口比预期晚 1.3–2.4 秒、角色两镜以上开口要绑参考音频——全部量在完整版 H3 的首帧图生视频这一条执行通道上；案例自己写明边界：连续性数字来自一集 13 镜、一个执行渠道，换模型版本或通道，数字要重测。Flash 是一条新通道：剪过层、走过旋转 INT8、4–8 步采样——上面的写法数字不能直接搬过去用，提示词方言本身（先说媒介、点名光源、锚定站位）是否仍成立，同样要重测。

做这件事的是谁，也值得记一笔。Video Rebirth 自述是«BACH 背后的企业公司»：做定制视频模型与商用成片，BACH 是它自研并商用的视频模型（1080p 每秒 0.12 美元、自称 AA 图生视频第二——均为自述，本站未核对）；页面另援引 Forbes（新加坡、由腾讯前 AI 负责人创办）与 Bloomberg（2025-11 融资）。它的开源线不去训一个新底座，而是把别人家开放权重的模型压到消费级硬件能跑——H3 官方模型卡还专门提醒用户去读提示词写作指南；官方指南、drama-skills 这类第三方技能仓、压缩版运行时，长在同一个开放权重底座上。

放进站内的开放权重脉络：Cosmos 3 把后训练例放进下载页，HALO 拿现成开源权重模型当人形机器人的大脑，Flash 把别人家的开放权重压进一张游戏卡——三件事共享同一件事：开放权重允许再分发与改造，closed 权重不允许。榜单缺口照实写：H3 与 Flash 是音画生成模型，不在 AA／Pi 文字榜口径；Physics-IQ 榜是视频续写（v2v）任务，与文生／图生不同轨，11 月 7 日回读的 15 行里也没有 H3。没有可比分数，就不编排名——这条站内规矩对热门项目同样适用。

• 对照：zenstory 案例的 H3 写法与重测边界 →
• 对照：Cosmos 3 后训练例放进下载页 →
• 对照：HALO 用现成开源权重当机器人大脑 →