Avec Muse Spark Open, Meta ouvre les poids et se rapproche d’Apple

En avril 2025, Meta a lancé la version 4 de ses modèles Llama, présentés comme une alternative ouverte aux modèles propriétaires d’OpenAI, Anthropic ou Google. Ces modèles permettaient de télécharger et d’exploiter les poids (les paramètres qui définissent le fonctionnement du modèle) en local, sous certaines conditions. Cependant, cette initiative a été entachée par des accusations de manipulation de benchmarks, remettant en cause la fiabilité et l’honnêteté des performances annoncées. Ces benchmarks sont des tests standardisés qui évaluent les capacités des modèles d’intelligence artificielle. Face à cet échec, Meta a décidé de tout repenser et de créer un nouveau laboratoire dédié, en recrutant des experts à prix d’or, jusqu’à 1 milliard de dollars, pour développer une nouvelle génération de modèles.

Un an après l’échec de Llama 4, Meta a dévoilé Muse Spark, un nouveau modèle d’intelligence artificielle. Contrairement à Llama, Muse Spark était initialement un modèle fermé, c’est-à-dire que ses poids n’étaient pas accessibles publiquement. Cette approche a suscité des débats dans l’industrie sur l’importance des modèles ouverts. Pourtant, Meta n’a pas abandonné l’idée de transparence : en été 2026, l’entreprise a présenté Muse Glimmer, un modèle de 30 milliards de paramètres avec une licence open source permissive (Apache 2.0), permettant une utilisation libre et modifiable. Cette licence autorise notamment la modification, la redistribution et la vente du modèle, sous réserve de respecter certaines conditions.

En octobre 2026, Meta a lancé Muse Spark Open, présenté comme le modèle à poids ouverts américain le plus capable. Ce modèle multimodal, doté de 816 milliards de paramètres, utilise une architecture appelée Mixture of Experts (MoE), où seuls 42 milliards de paramètres sont activés pour chaque token (unité de texte traitée). Il accepte en entrée du texte, des images, de la vidéo et de l’audio, mais génère uniquement du texte. Sa fenêtre de contexte atteint 1 million de tokens, ce qui signifie qu’il peut analyser une quantité massive d’informations en une seule interaction. Meta le destine particulièrement à la programmation, aux tâches agentiques (automatisation de processus complexes) et au raisonnement en plusieurs étapes. Sur onze tests (benchmarks), il se classe premier dans six d’entre eux, notamment sur les tâches agentiques, mais est devancé par des modèles chinois sur certains tests comme GDPval-AA v2.

Pour exploiter pleinement Muse Spark Open, Meta et Apple ont collaboré afin d’optimiser son fonctionnement sur les Mac Studio équipés de la puce M5 Ultra. Cette puce intègre un GPU et une mémoire unifiée, permettant une bande passante allant jusqu’à 1,2 To/s. En connectant deux Mac Studio dotés de 512 Go de mémoire chacun, soit un total de 1 To, il est possible de répartir le modèle entre les deux machines. Les 816 milliards de paramètres sont stockés sous une forme quantifiée en 4 bits, ce qui réduit leur taille tout en conservant leur efficacité. Cette configuration, dont le coût pourrait dépasser 30 000 € pour deux Mac Studio, permet d’exécuter le modèle localement avec une grande fluidité. Apple utilise pour cela MLX, un framework qui facilite la répartition des modèles entre plusieurs machines reliées en Thunderbolt 5. Cette collaboration marque un rapprochement surprenant entre les deux entreprises, historiquement rivales.