Perplexity 官方 README;AlphaSignal 与社区讨论提供发现线索 · 原文 2026-09-03

Lily:只支持一个模型的 Mac 推理服务器

Lily 探索在指定 Mac 硬件上运行特定 Qwen 检查点,当前实现面向文本推理研究。

《Lily:只支持一个模型的 Mac 推理服务器》配图
图源:Perplexity AI · 查看大图

EN

指定模型与 Mac 环境的本地推理实现

Lily 是研究性质的本地推理实现,只接受指定的 Qwen3.6-35B-A3B 4bit 检查点。运行要求 M5 或更新芯片、macOS 26 或以上,并需自行编译。

Lily 本地推理门槛图:仅支持指定 Qwen 检查点,要求 M5 或更新芯片、macOS 26+,源码构建,提供仅文本 API。
依据 Lily 官方 README。接口不支持流式输出、工具调用或多模态。 · 打开大图

EN

当前接口提供什么

保留版本的接口只处理文本,没有流式输出、工具调用或多模态输入。评估是否适合自己的任务时,应先对照这组模型、设备与接口条件。

重要补充与更正

以下日期是本站修订时间。

  • 更正 ·

    更正 Lily 的适用条件:需要 M5 及更新芯片、macOS 26+ 和指定检查点,不是所有 Mac 用户都能直接复现。

来源与补充

sourcesEN

来源与补充

原始摘要与适用说明

适合研究本地推理实现;先核对设备、指定模型和接口条件。

本文核对了官方 README,未安装或复现性能。原文还限定模型架构、量化布局与基准权重版本;不能换入任意模型,也不能把媒体提速数字当作所有 Mac 或任务的结果。

来源与依据 · 3 条链接

逐条说明链接的用途与支持范围。链接数量不代表多方独立验证,“直接支持”也仅限下方写明的内容。

资料时间记录
  1. · 发现这篇资料,来源:AlphaSignal 每日。
  2. · 新增同题佐证:AlphaSignal 于本观察窗收录同一故事(标题匹配)。
收录记录

首次发现:

收录日期与原文发布日期分别记录。

编辑记录

已更正

· 北京时间

撤回“任何人都能复现”“当天就能上手验证”的过宽表述,明确设备、模型与接口条件。保留原事件和收录日期;此次为解读更正。

查看依据与完整记录

此时间记录本站对资料说明与来源的核对,不代表项目发布或产品更新。

查看完整记录:更正前后与来源(JSON)

纠错与反馈