T@LC : on a voulu tester Kimi K3 (1 562 Go) en « local », on a failli finir ruinés

Moonshot AI a publié les poids du modèle d'intelligence artificielle Kimi K3, un modèle open source doté de 2 800 milliards de paramètres.

Ces paramètres, aussi appelés poids des neurones, représentent les nombres qui définissent la façon dont le modèle traite les informations.

Avec une taille de 1 562 Go, ce modèle est conçu pour être utilisé en local ou sur une machine louée, permettant ainsi de garder le contrôle total sur les données et les prompts (les questions ou instructions envoyées au modèle) sans dépendre des serveurs de l'entreprise.

Cependant, son déploiement nécessite des ressources matérielles importantes, notamment en termes de mémoire vive et de puissance de calcul.