Entradas etiquetadas con: Apple Silicon
Content related to Apple Silicon
oMLX: Servidor LLM en la barra de menús de Mac con caché SSD
Descubre oMLX, el servidor local de LLM definitivo para Macs con Apple Silicon. Ejecuta LLMs, VLMs y embeddings desde tu barra de menús con batching continuo, caché KV escalonado (RAM + SSD) y servicio multi-modelo. Incluye panel de administración, compatibilidad con API de OpenAI, optimización para código Claude y descargas de modelos de un clic desde Hugging Face. Instala vía DMG, Homebrew o fuente – perfecto para desarrolladores que quieren IA local de grado de producción sin costos en la nube.
Entrena Transformers en Apple Neural Engine - GitHub ANE
Descubre ANE Training: un proyecto open-source revolucionario que ingenieriza inversamente el Neural Engine de Apple para ejecutar entrenamiento completo de transformers (pases forward + backward) directamente en hardware M4. Logrando 9.3ms/paso y 1.78 TFLOPS de rendimiento sostenido con computación pura ANE - sin Metal, sin GPU. Incluye benchmarks detallados, generación de programas MIL, optimización IOSurface y layouts channel-first. Perfecto para investigadores ML de Apple Silicon que empujan los límites del hardware.
La contenerización de Apple: contenedores de Linux en macOS
Descubre 'Containerization', el paquete Swift de código abierto de Apple que permite ejecutar contenedores Linux sin problemas en macOS. Este proyecto aprovecha Virtualization.framework en los chips de Apple (Apple silicon) para ofrecer una gestión eficiente de contenedores, manejo de imágenes OCI y máquinas virtuales ligeras. Aprende cómo los desarrolladores pueden usar esta herramienta para agilizar sus flujos de trabajo, interactuar con registros remotos e incluso ejecutar contenedores x86_64 usando Rosetta 2. Sumérgete en las características, requisitos y procesos de compilación de esta innovadora solución diseñada para entornos de desarrollo modernos, que ofrece arranques en menos de un segundo y configuraciones de kernel flexibles.