GenAI local sur Mac Apple Silicon : quelle performance réelle ?
Faire tourner un modèle de langage directement sur un MacBook, sans cloud, avec MLX-LM et OpenCode : l'idée est séduisante pour la confidentialité. Mais que vaut réellement la performance, et jusqu'où cette approche tient-elle face à un déploiement serveur souverain ?
Pourquoi c'est devenu viable
Depuis la WWDC 2026, quatre facteurs convergent pour rendre l'IA générative locale crédible sur Mac, comme le détaille Guillem Riera dans son guide pratique : la stratégie d'Apple, la maturité du runtime MLX, la disponibilité de modèles quantifiés, et de meilleurs outils d'écosystème.
Le point clé : MLX-LM peut exposer une API locale compatible OpenAI. Concrètement, n'importe quel outil prévu pour ChatGPT (comme OpenCode) peut pointer vers http://localhost:8080 et fonctionner avec un modèle qui tourne… sur votre bureau.
Le vrai atout : la mémoire unifiée
Sur les puces Apple Silicon, le GPU et le CPU partagent le même pool de RAM. Il n'y a pas de « falaise VRAM » comme sur un PC avec carte graphique dédiée : si vous avez 24, 36 ou 64 Go de mémoire unifiée, le modèle peut y loger directement. C'est, selon plusieurs analyses, un véritable superpouvoir pour l'inférence locale.
Autre subtilité : l'inférence LLM est limitée par la bande passante mémoire, pas par la puissance de calcul. Un M4 Max plafonne autour de 546 Go/s, et c'est ce chiffre, plus que les TFLOPS, qui détermine le nombre de tokens par seconde.
Débit indicatif en génération (tokens/seconde)
Donc, quelle performance concrètement ?
Pour un usage individuel, coder, résumer ou brainstormer, c'est tout à fait confortable. Un modèle de 14B tourne à 35–55 tokens/s sur un M4 Pro à 24 Go ; un 24–33B quantifié se situe autour de 30–45 tokens/s sur un M4 Max. Au-delà de ~15 tokens/s, la lecture suit sans frustration. MLX, framework natif d'Apple pour Metal, prend souvent l'avantage sur les alternatives (jusqu'à +20 à +87 % sur les petits modèles).
Là où le local atteint ses limites
Le local est excellent pour un utilisateur. Mais dès qu'il s'agit de servir une organisation, le modèle change :
Un poste individuel peut être administré, supervisé et servir plusieurs requêtes. Sa capacité et sa disponibilité dépendent du matériel, du moteur, des modèles et des contrôles configurés. Distinguer utilisateurs inscrits, connexions et générations simultanées ; dimensionner avec un test de charge et les exigences de service.
Autrement dit : l'IA locale sur Mac est un formidable terrain d'expérimentation et d'usage personnel. Pour une IA d'organisation, souveraine et à l'échelle, l'infrastructure serveur reste indispensable, c'est précisément ce que nous déployons et opérons.
De l'expérimentation locale à la production souveraine
La même philosophie, vos données restent chez vous, mais dimensionnée pour toute votre organisation, avec RAG, SSO et supervision.