CARD · 卡片档案
Perplexity 开源 Lily：只跑 Qwen3.6-35B-A3B 一个检查点的 Metal 推理服务器
Perplexity 在 pplx-garden 仓库以 Apache-2.0 协议开源了 Lily：一款基于 Rust+Metal 的 Mac 推理服务器，其载入期校验仅放行一个检查点——mlx-community/Qwen3.6-35B-A3B-4bit（HF revision 钉死、仅 affine 4bit group 64），其余架构与量化一律拒载。它暴露 OpenAI chat completions API 的最小子集、恒贪心解码、保留两槽 LRU 前缀缓存；要求 Apple GPU family 10+（M5 起）与 macOS 26+。收录时 704 stars。AlphaSignal 称其跑 Qwen3.6 比 MLX-LM 快 1.35×；README 未给该数字，但发布了带测量契约与复现步骤的日期版基准报告。
01
THE STORY · 原文与要点
读懂内容，再看适用边界。
- 原文出处官方仓库https://github.com/perplexityai/pplx-garden/tree/main/lily
为什么值得了解
官方开源工具链的新能力当天就能上手验证：单检查点加 fail-closed 载入校验是 Apple Silicon 本地推理路线上态度鲜明的工程取舍，Apache-2.0 加钉死的权重 revision 让任何人都能复现同一份基准；1.35× 虽是聚合媒体口径，仓库自带复现步骤，社区可以当天复核。
适用条件与限制
证据来源为 Perplexity 官方仓库 README（自述）与 AlphaSignal、r/LocalLLaMA 聚合讨论（BitShovel 于 2026-09-03 抓取核对仓库）。1.35× 提速未见于 README、属聚合媒体口径且待独立复现；支持面窄——仅 M5 起的 Apple 芯片、macOS 26+、单一 4bit 检查点；stars 是注意力不是质量证明，上述内容不是独立评测。
本次阅读进度保存在当前浏览器。 收藏或写笔记 →
02
THE THREAD · 完整时间线
2 条事件，逐条可溯。
同一张卡在不同阶段会被补充记录：新佐证进入、市场出现对比、原文发生实质变化——每条都带日期，链接到当天归档页。
- 本站收录进入 BitShovel 雷达：AlphaSignal 每日 收录时可见 100 条。
- 记录新增同题佐证：AlphaSignal 于本观察窗收录同一故事（标题匹配）。
03
SOURCES · 来源与依据
按链接核对用途与边界。
来源与依据 · 3 条链接
逐条说明链接的用途与支持范围。链接数量不代表多方独立验证，“直接支持”也仅限下方写明的内容。
尚未附本链接支持范围的逐项说明。
- r/LocalLLaMA 社区讨论用途待说明
尚未附本链接支持范围的逐项说明。
- AlphaSignal用途待说明
尚未附本链接支持范围的逐项说明。