八卦情报：Perplexity 开源 Mac 推理服务器 lily，压榨 Apple Silicon 性能极限

核心事件

AI 搜索独角兽 Perplexity 近期在 GitHub 的 pplx-garden 仓库中开源了名为 “lily” 的项目，这是一个专为 Apple Silicon 优化的 Mac 推理服务器，目前针对 Qwen 系列模型（如 Qwen 2.5/3.6 架构）进行了深度性能调优。

• ▶ 垂直化性能压榨：与追求通用性的 llama.cpp 不同，lily 选择了“少即是多”的路线，通过针对特定芯片架构与特定模型结构的深度耦合，试图在 Mac 硬件上实现超越常规框架的推理吞吐量。
• ▶ Perplexity 的工程底色：此次开源暴露了 Perplexity 内部高度重视本地开发效率与端侧实验，反映出顶级 AI 团队正通过自研轻量化推理栈来降低对昂贵云端 GPU 集群的依赖。

八卦洞察

Perplexity 开源 lily 并非心血来潮，而是 AI 基础设施向“端侧”与“专用化”演进的缩影。在过去的一年里，开发者们苦于通用框架的性能损耗。Perplexity 选择 Qwen 作为首选优化对象，侧面印证了 Qwen 在全球开发者生态中，尤其是在 RAG（检索增强生成）场景下的统治力。对于 Perplexity 而言，将内部工具开源不仅能吸引开发者社区的免费“众测”与代码贡献，更是其在 AI 工程化领域树立技术标杆、争夺端侧推理话语权的重要一步。

行动建议

对于正在构建端侧 AI 应用或基于 Mac 进行模型调优的团队，建议立即对 lily 进行基准测试。如果你的业务逻辑重度依赖 Qwen 架构，lily 提供的性能增益可能直接转化为更低的延迟与更佳的用户体验。此外，关注 pplx-garden 仓库的其他动态，这通常是洞察 Perplexity 未来技术走向的窗口。