« Ghost in the Machine » : IA, eugénisme et sophisme génétique
Une cinéaste états-unienne a remonté la piste de l’intelligence artificielle, jusqu’à la fin du XIXᵉ siècle. En résulte un documentaire « à charge », qui explore les liens entre IA, développement des statistiques modernes et eugénisme.
Le documentaire Ghost in the Machine, réalisé par la cinéaste américaine Valerie Veatch, est présenté comme un pamphlet de 110 minutes dénonçant les dérives de l'intelligence artificielle (IA). Diffusé en avant-première au festival Sundance en 2026, il est disponible en version sous-titrée sur Mediapart jusqu'au 25 octobre 2026, puis en vidéo à la demande. Veatch a été invitée en octobre 2024 à tester Sora, un modèle d'IA générative d'OpenAI capable de transformer du texte en vidéo. Elle a immédiatement constaté des productions marquées par des biais racistes, sexistes et misogynes, comme des images sexualisant le corps des femmes ou des représentations stéréotypées de figures historiques comme Martin Luther King ou Malcolm X. Ces biais, selon elle, reflètent les inégalités et préjugés de la société, amplifiés par les données d'entraînement de l'IA.
Lorsqu'elle a alerté OpenAI sur les biais de Sora, Valerie Veatch a reçu une réponse minimaliste de l'entreprise. OpenAI a qualifié ces problèmes de « bug critique » mais a affirmé ne pas pouvoir les corriger, selon un article de The Verge. Les ingénieurs, selon Veatch, ne priorisaient pas les questions sociales, comme elle l'a expliqué à Filmmaker Magazine. Lorsqu'elle a insisté, on lui a répondu par un mur de silence et on l'a redirigée vers un « spécialiste DEI » (Diversité, Équité, Inclusion), un poste chargé de gérer les initiatives d'équité dans le secteur technologique. Veatch a qualifié cette réaction d'insultante, soulignant que l'entreprise minimisait les défaillances de son produit en les associant à des « initiatives en faveur de l'équité ». Ce manque de réaction illustre selon elle un choix stratégique des dirigeants, comme Sam Altman, PDG d'OpenAI, qui, avec d'autres figures comme Elon Musk ou Dario Amodei, détiennent un pouvoir économique et politique mondial.
Les biais observés dans les vidéos générées par Sora s'expliquent en grande partie par la qualité des données utilisées pour entraîner l'IA. Les modèles d'IA générative, comme ceux développés par OpenAI, apprennent à partir de vastes ensembles de données textuelles et visuelles issues d'Internet. Ces données reflètent souvent les stéréotypes, discriminations et inégalités présentes dans la société. Par exemple, des études citées par Computer Weekly montrent que les images générées par Sora reproduisent des clichés racistes et sexistes, comme la sexualisation des femmes ou la représentation caricaturale de personnalités noires. Ces biais ne sont pas des erreurs ponctuelles, mais des conséquences directes des choix de conception et des priorités des entreprises technologiques, qui privilégient souvent la performance technique au détriment de l'équité sociale.
Les dirigeants des entreprises d'IA, tels que Sam Altman (OpenAI), Elon Musk (xAI, Tesla) ou Dario Amodei (Anthropic), occupent une position centrale dans l'économie mondiale et influencent les orientations technologiques et politiques. Leur pouvoir s'étend au-delà des sphères économiques, avec des implications sociales et éthiques majeures. Le documentaire *Ghost in the Machine* met en lumière leur rôle dans la minimisation des problèmes liés aux biais des IA, comme le montre la réaction d'OpenAI face aux alertes de Valerie Veatch. Ces dirigeants, souvent perçus comme des visionnaires, sont aussi critiqués pour leur manque de transparence et leur réticence à intégrer des garde-fous éthiques, préférant se concentrer sur l'innovation et la croissance. Leur influence soulève des questions sur la régulation de l'IA et la responsabilité des entreprises technologiques dans la société.
