Avec Minions, Apple veut mettre à profit les GPU inactifs des Mac pour l’inférence

Les Mac équipés de puces Apple Silicon (comme les Mac Mini ou Studio) sont de plus en plus utilisés par des entreprises pour exécuter localement des modèles d'intelligence artificielle, notamment des LLM (Large Language Models). Ces ordinateurs disposent d'une mémoire dite «unifiée», qui sert à la fois pour le processeur (CPU) et le processeur graphique (GPU). Contrairement aux cartes graphiques dédiées, cette mémoire est moins rapide mais offre un volume bien supérieur. Par exemple, un Mac avec 32 Go de RAM permet au GPU d'accéder à cette mémoire, ce qui est avantageux pour des tâches comme l'inférence, où le GPU doit traiter des données en parallèle. Apple cible particulièrement les entreprises comme OpenAI, Anthropic ou Meta, qui cherchent à éviter les coûts élevés des infrastructures cloud ou des GPU dédiés.

Apple a présenté Minions, une infrastructure logicielle permettant de mutualiser les GPU inactifs des Mac pour des tâches d'inférence en apprentissage automatique. Ce système repose sur quatre composants principaux : un serveur central qui reçoit les requêtes et les découpe en sous-tâches, des exécuteurs installés sur les Mac qui traitent ces tâches localement via leur GPU, un superviseur (appelé Watchdog) qui surveille les exécuteurs et relance les tâches en cas de panne, et un tableau de bord pour suivre l'activité en temps réel. Les exécuteurs ne communiquent pas directement avec la base de données principale mais réservent des tâches via une API, ce qui limite les risques de conflits. L'objectif est de transformer des machines inutilisées en un cloud de calcul distribué, sans investissement matériel supplémentaire.

Malgré son potentiel, Minions présente des limites importantes. D'abord, il ne supporte que des modèles pouvant tenir entièrement en mémoire vive des Mac, ce qui exclut les très gros modèles comme Muse Spark Open. Ensuite, Apple ne fournit aucune donnée concrète : ni performances mesurées (débit, consommation énergétique), ni taux de reprise en cas d'échec, ni comparaison avec d'autres solutions. Les cas d'usage testés se limitent à des modèles de vecteurs de représentation (via la bibliothèque Transformers de Hugging Face) et à la génération de texte avec Ollama. Enfin, l'infrastructure ne permet pas un découpage fin des modèles entre machines, chaque Mac devant pouvoir exécuter le modèle en entier. L'entraînement de modèles n'est pas non plus pris en charge pour l'instant.

Pour les entreprises déjà équipées de nombreux Mac récents, Minions offre plusieurs atouts. Il évite l'achat de GPU dédiés, réduisant ainsi les coûts d'infrastructure à un niveau quasi nul. La capacité de calcul augmente automatiquement avec le nombre de Mac connectés, sans besoin d'investissement supplémentaire. De plus, comme tout fonctionne en local, les données restent au sein de l'organisation, ce qui peut être crucial pour des raisons de confidentialité ou de conformité. Apple souligne aussi que cette solution permet de réduire les temps d'attente pour des tâches d'inférence. Par exemple, certaines tâches pouvaient attendre plus de 10 heures avant d'être traitées, contre quelques minutes avec Minions selon l'entreprise, bien que ces chiffres ne soient pas étayés par des mesures publiées.

Ce projet s'inscrit dans une stratégie plus large d'Apple pour positionner ses Mac comme des machines adaptées à l'intelligence artificielle. Il complète des annonces récentes comme Muse Spark Open ou des partenariats avec Meta, avec une documentation technique renforcée autour de sa bibliothèque MLX. Apple reconnaît d'ailleurs ses propres limites en matière de GPU : certaines tâches d'inférence devaient attendre longtemps avant d'être lancées, faute de ressources suffisantes. Minions pourrait donc aussi servir en interne pour optimiser l'utilisation des machines existantes. À plus long terme, Apple évoque une vision ambitieuse : fédérer les GPU inactifs de millions de Mac à travers le monde pour créer un cloud de calcul partagé, sécurisé et décentralisé, au bénéfice de l'écosystème de l'IA. Cependant, cette perspective reste théorique pour l'instant.