Articles étiquetés avec: Apple Silicon
Content related to Apple Silicon
oMLX : Serveur LLM Barre de Menu Mac avec Cache SSD
Découvrez oMLX, le serveur LLM local ultime pour Macs Apple Silicon. Exécutez LLM, VLM et embeddings depuis votre barre de menu avec batching continu, cache KV à niveaux (RAM + SSD) et serving multi-modèles. Fonctionnalités : tableau de bord admin, compatibilité OpenAI API, optimisation Claude Code et téléchargements de modèles Hugging Face en un clic. Installez via DMG, Homebrew ou source – parfait pour les développeurs voulant une IA locale de niveau production sans coûts cloud.
Entraîner des Transformers sur le Neural Engine d'Apple - ANE GitHub
Découvrez ANE Training : un projet open-source révolutionnaire qui reverse-engineer le Neural Engine d'Apple pour exécuter un entraînement complet de transformers (passes forward + backward) directement sur le matériel M4. Atteignant 9,3 ms/étape et 1,78 TFLOPS de performances soutenues avec un calcul pur ANE - pas de Metal, pas de GPU. Inclut des benchmarks détaillés, génération de programmes MIL, optimisation IOSurface et layouts channel-first. Parfait pour les chercheurs ML Apple Silicon repoussant les limites du matériel.
La conteneurisation d'Apple : des conteneurs Linux sur macOS
Découvrez le package Swift open-source d'Apple, « Containerization », qui permet d'exécuter des conteneurs Linux en toute fluidité sur macOS. Ce projet tire parti de Virtualization.framework sur les puces Apple pour offrir une gestion efficace des conteneurs, la prise en charge des images OCI et des machines virtuelles légères. Découvrez comment les développeurs peuvent utiliser cet outil pour rationaliser leurs flux de travail, interagir avec des registres distants, et même exécuter des conteneurs x86_64 grâce à Rosetta 2. Plongez dans les fonctionnalités, les prérequis et les processus de création de cette solution innovante conçue pour les environnements de développement modernes, offrant des temps de démarrage inférieurs à la seconde et des configurations de noyau flexibles.