Modèles Apple Core AI : Recettes d'exportation, Primitives Python et Runtime Swift pour l'IA sur Appareil

Apple a open-sourcé le dépôt Core AI Models, une boîte à outils complète pour construire et déployer l'IA sur appareil sur les plateformes Apple. Ce dépôt fournit des recettes d'exportation de modèles, des primitives Python pour créer des modèles personnalisés, et un runtime Swift pour intégrer l'IA dans les applications macOS et iOS. Il est conçu pour combler le fossé entre le développement de modèles PyTorch et le déploiement en production sur les puces Apple.

Ce qui se trouve dans le dépôt

Le dépôt est organisé en quatre répertoires principaux :

models/ : Un catalogue de modèles avec des fichiers README et des recettes d'exportation pour convertir des modèles open-source populaires (de Hugging Face et d'autres sources) au format Core AI (fichiers .aimodel).
python/ : Primitives Python pour créer des modèles Core AI personnalisés en PyTorch, ainsi que des utilitaires pour les exporter.
swift/ : Un paquet Swift (coreai-models) qui fournit des utilitaires d'exécution pour faire fonctionner les modèles Core AI dans votre application sur macOS et iOS.
skills/ : Compétences enfichables pour les agents de codage (comme Claude Code, Codex CLI, Gemini CLI) afin d'exploiter Core AI plus efficacement.

Exigences et configuration

Pour l'exportation de modèles

Vous devez installer uv (un gestionnaire de paquets Python rapide) :

brew install uv

Ou via l'installateur officiel :

curl -LsSf https://astral.sh/uv/install.sh | sh

Une fois installé, clonez le dépôt et explorez les modèles disponibles :

git clone https://github.com/apple/coreai-models.git
cd coreai-models
uv run coreai.model.registry --list-models

Utilisez uv run coreai.model.registry --help pour plus de détails.

Pour exécuter des modèles dans des applications

macOS et iOS 27.0+
Xcode 27.0+

Les modèles Core AI sont exportés sous forme de fichiers .aimodel autonomes. Certains modèles (comme les modèles de langage ou les modèles de diffusion) nécessitent des ressources supplémentaires (par exemple, des tokenizers, plusieurs modèles dans un pipeline). Dans ces cas, les recettes d'exportation produisent un dossier de ressources contenant un ou plusieurs fichiers .aimodel accompagnés des ressources nécessaires. Le paquet Swift fournit des utilitaires d'exécution pour les intégrer dans une application.

Des outils CLI sont également inclus pour exécuter directement les modèles exportés sur un Mac (nécessite Xcode 27.0+). Consultez le README de chaque modèle pour les outils disponibles et des exemples d'invocations.

Compétences d'agent pour les agents de codage

Le dépôt inclut un plugin avec des compétences qui permettent aux agents de codage d'utiliser Core AI comme un expert. Trois compétences sont disponibles :

Compétence	Description
`working-with-coreai`	Workflow de bout en bout pour déployer des modèles PyTorch sur les puces Apple, couvrant l'exportation avec `coreai-torch` et l'exécution avec le runtime Core AI.
`model-authoring`	Règles empiriques pour créer des modèles PyTorch pour une exécution sur appareil sur les plateformes Apple, couvrant la disposition BC1S, la compatibilité des opérations, les motifs KV cache, les règles de précision, MoE et les problèmes courants.
`model-compression-exploration`	Explorer systématiquement les configurations de compression de poids (quantification et palettisation) pour un modèle PyTorch en utilisant `coreai-opt`.

Installation pour différents agents de codage

Claude Code :

/plugin marketplace add [email protected]:apple/coreai-models.git
/plugin install coreai-skills@coreai-models

Codex CLI :

codex plugin marketplace add https://github.com/apple/coreai-models
codex plugin add coreai-skills@coreai-models

Gemini CLI :

gemini extensions install /path/to/coreai-models/skills

Une fois installées, les compétences s'activent automatiquement en fonction du contexte de votre tâche, ou vous pouvez les invoquer explicitement.

Pourquoi cela est important pour les développeurs

L'IA sur appareil offre plusieurs avantages par rapport aux solutions basées sur le cloud : latence plus faible, capacité hors ligne, meilleure confidentialité (les données restent sur l'appareil) et coûts de serveur réduits. Le framework Core AI d'Apple fournit le runtime, mais jusqu'à présent, il n'y avait pas de chemin clair pour convertir les modèles open-source populaires au format .aimodel. Ce dépôt comble cette lacune avec des recettes d'exportation testées et des primitives réutilisables.

Les primitives Python dans le répertoire python/ vous permettent de créer des modèles personnalisés en PyTorch compatibles avec les contraintes de Core AI (par exemple, disposition BC1S, support d'opérations spécifiques). Le paquet Swift facilite ensuite le chargement et l'exécution de ces modèles dans votre application avec un minimum de code standard.

Limitations actuelles et implication de la communauté

Apple n'accepte pas les contributions de code pour le moment. Le projet se concentre sur le maintien d'une galerie de modèles organisée et bien testée, ainsi que d'un paquet Swift fiable. Les pull requests seront fermées. Cependant, les Issues GitHub sont ouvertes pour :

Rapports de bugs
Demandes de modèles
Demandes de fonctionnalités pour le workflow ou les utilitaires Swift

Il s'agit d'une décision de périmètre délibérée pour la version initiale, permettant à Apple d'apprendre comment la communauté utilise le projet avant d'ouvrir les contributions.

Licence

Le projet est sous licence BSD 3-Clause.

Pour commencer

Clonez le dépôt : git clone https://github.com/apple/coreai-models.git
Installez uv et explorez le registre des modèles : uv run coreai.model.registry --list-models
Choisissez un modèle dans le répertoire models/ et suivez son README pour les instructions d'exportation.
Intégrez le fichier .aimodel exporté dans votre application en utilisant le paquet Swift.

Pour plus de détails, visitez le dépôt officiel.

Source

apple/coreai-models : Recettes d'exportation de modèles, primitives Python et utilitaires d'exécution Swift pour l'IA sur appareil