Catégories
- Toutes les publications 549
- Projets Open Source Pratiques 478
- Articles Tutoriels 22
- Utilitaires en ligne 13
- Actualités IA 7
- Tiny Startups Showcase 7
- Claude Code Skills 6
- Modèles d'Invites 5
- Espaces Hugging Face 3
- OpenClaw Use Cases 3
- LLM Learning Resources 1
- Online AI Image Tools 1
- OpenClaw Master Skills Collection 1
- Rust Training Resources 1
- AI Short Drama Tools 1
- Mes favoris 0
Publications marquées avec: Systems Engineering
Content related to Systems Engineering
Créez votre propre serveur LLM en une semaine
September 12, 2025
Étiquettes:
Plongez dans le monde des grands modèles linguistiques avec Tiny LLM, un cours pratique et open-source conçu pour les ingénieurs systèmes. Apprenez à construire et optimiser l'infrastructure de service des LLM à partir de zéro en utilisant MLX sur Apple Silicon. Ce parcours d'une semaine couvre tout, des opérations matricielles fondamentales aux noyaux C++/Metal avancés et au batching de requêtes pour un débit élevé. Que vous soyez curieux des rouages internes des LLM ou que vous cherchiez à déployer les vôtres, Tiny LLM offre des conseils clairs et un soutien communautaire pour démystifier le service des LLM.