标记为: Mac AI
Content related to Mac AI
oMLX：Mac 菜单栏 LLM 服务器，带 SSD 缓存
March 10, 2026
发现 oMLX，Apple Silicon Mac 的终极本地 LLM 服务器。从菜单栏运行 LLM、VLM 和嵌入，支持连续批处理、分层 KV 缓存（RAM + SSD）和多模型服务。功能包括管理仪表板、OpenAI API 兼容性、Claude 代码优化，以及一键从 Hugging Face 下载模型。通过 DMG、Homebrew 或源代码安装——完美适合想要生产级本地 AI 而无需云成本的开发者。