AIBit-探索开源项目 AIBit-探索开源项目

Apple Core AI 模型：导出配方、Python 原语和用于设备端 AI 的 Swift 运行时

探索 Apple 的 Core AI 模型仓库：流行模型的导出配方、Python 创作原语，以及用于在 macOS 和 iOS 上部署 AI 的 Swift 运行时。

Apple 已开源 Core AI 模型 仓库，这是一个用于在 Apple 平台上构建和部署设备端 AI 的综合工具包。该仓库提供模型导出配方、用于创作自定义模型的 Python 原语，以及用于将 AI 集成到 macOS 和 iOS 应用中的 Swift 运行时。它旨在弥合 PyTorch 模型开发与 Apple 芯片上生产部署之间的差距。

仓库内容

该仓库分为四个主要目录：

  • models/：一个模型目录，包含 README 文件和导出配方，用于将流行的开源模型（来自 Hugging Face 和其他来源）转换为 Core AI 格式（.aimodel 文件）。
  • python/：用于在 PyTorch 中创作自定义 Core AI 模型的 Python 原语，以及用于导出它们的实用程序。
  • swift/：一个 Swift 包（coreai-models），提供在 macOS 和 iOS 应用中运行 Core AI 模型的运行时实用程序。
  • skills/：用于编码代理（如 Claude Code、Codex CLI、Gemini CLI）的可插拔技能，以更有效地利用 Core AI。

要求和设置

对于模型导出

您需要安装 uv（一个快速的 Python 包管理器）：

brew install uv

或通过官方安装程序：

curl -LsSf https://astral.sh/uv/install.sh | sh

安装后，克隆仓库并探索可用模型：

git clone https://github.com/apple/coreai-models.git
cd coreai-models
uv run coreai.model.registry --list-models

使用 uv run coreai.model.registry --help 获取更多详细信息。

在应用中运行模型

  • macOS 和 iOS 27.0+
  • Xcode 27.0+

Core AI 模型导出为独立的 .aimodel 文件。某些模型（如语言模型或扩散模型）需要额外资源（例如，分词器、管道中的多个模型）。在这些情况下，导出配方会生成一个资源文件夹，其中包含一个或多个 .aimodel 文件以及任何所需资源。Swift 包提供运行时实用程序，用于将这些集成到应用中。

还包括 CLI 工具，用于直接在 Mac 上运行导出的模型（需要 Xcode 27.0+）。请参阅每个模型的 README 以获取可用工具和示例调用。

编码代理的代理技能

该仓库包含一个带有技能的插件，使编码代理能够像专家一样使用 Core AI。提供三种技能：

技能 描述
working-with-coreai 在 Apple 芯片上部署 PyTorch 模型的端到端工作流程，涵盖使用 coreai-torch 导出和使用 Core AI 运行时运行。
model-authoring 在 Apple 平台上为设备端执行创作 PyTorch 模型的经验规则，涵盖 BC1S 布局、操作兼容性、KV 缓存模式、精度规则、MoE 和常见问题。
model-compression-exploration 使用 coreai-opt 系统探索 PyTorch 模型的权重压缩配置（量化和调色板化）。

不同编码代理的安装

Claude Code：

/plugin marketplace add [email protected]:apple/coreai-models.git
/plugin install coreai-skills@coreai-models

Codex CLI：

codex plugin marketplace add https://github.com/apple/coreai-models
codex plugin add coreai-skills@coreai-models

Gemini CLI：

gemini extensions install /path/to/coreai-models/skills

安装后，技能会根据您的任务上下文自动激活，或者您可以显式调用它们。

这对开发者为何重要

设备端 AI 相比基于云的解决方案具有多项优势：更低的延迟、离线能力、更好的隐私（数据保留在设备上）以及降低的服务器成本。Apple 的 Core AI 框架提供运行时，但直到现在，还没有明确的路径将流行的开源模型转换为 .aimodel 格式。该仓库通过经过测试的导出配方和可重用原语填补了这一空白。

python/ 目录中的 Python 原语允许您在 PyTorch 中创作与 Core AI 约束（例如，BC1S 布局、特定操作支持）兼容的自定义模型。然后，Swift 包使您能够以最少的样板代码在应用中加载和运行这些模型。

当前限制和社区参与

Apple 目前不接受代码贡献。该项目专注于维护一个精心策划、经过充分测试的模型库和一个可靠的 Swift 包。拉取请求将被关闭。但是，GitHub Issues 对以下内容开放：

  • 错误报告
  • 模型请求
  • 工作流程或 Swift 实用程序的功能请求

这是初始版本的有意范围决定，允许 Apple 在开放贡献之前了解社区如何使用该项目。

许可证

该项目根据 BSD 3-Clause 许可证授权。

开始使用

  1. 克隆仓库：git clone https://github.com/apple/coreai-models.git
  2. 安装 uv 并探索模型注册表：uv run coreai.model.registry --list-models
  3. 从 models/ 目录中选择一个模型，并按照其 README 中的导出说明操作。
  4. 使用 Swift 包将导出的 .aimodel 文件集成到您的应用中。

有关更多详细信息，请访问官方仓库。

来源

apple/coreai-models：用于设备端 AI 的模型导出配方、Python 原语和 Swift 运行时实用程序