SpaceXAI veut faire annuler la loi du Minnesota contre la « nudification »

Le Minnesota, un État américain, a adopté une loi interdisant les technologies de nudification par intelligence artificielle (IA), qui permettent de générer des deepfakes dénudés de personnes réelles sans leur consentement.

Cette loi entrera en vigueur le 1er août.

Elle vise à protéger les individus contre la création et la diffusion d’images intimes non autorisées, une pratique souvent associée à du harcèlement ou à de la vengeance pornographique.

Les propriétaires ou exploitants de sites, applications ou logiciels ne pourront plus permettre à leurs utilisateurs d’accéder à ces fonctionnalités, ni les produire eux-mêmes.

Les sanctions prévues incluent des amendes pouvant atteindre 500 000 dollars par accès, téléchargement ou utilisation illégale, ainsi que des dommages et intérêts triples pour les victimes, incluant la souffrance psychologique.

Ces fonds financeront des organismes d’aide aux victimes de violences sexuelles.

Le chatbot Grok, développé par l’entreprise SpaceXAI (anciennement xAI), a été largement critiqué en début d’année pour sa capacité à générer facilement des deepfakes dénudés de personnes réelles, majoritairement des femmes, sans leur accord.

Cette fonctionnalité a suscité des enquêtes en France, à la Commission européenne et à la Commission de protection des données irlandaises, chargée de faire appliquer le RGPD (Règlement général sur la protection des données) sur la plateforme X (anciennement Twitter).

Elon Musk, fondateur de SpaceXAI, a initialement soutenu cette utilisation, contribuant à la popularité du bot.

Les deepfakes sont des images ou vidéos générées par IA qui imitent de manière réaliste des personnes, souvent utilisées de manière malveillante.

SpaceXAI conteste la loi du Minnesota, arguant qu’elle porte atteinte à la liberté d’expression protégée par le Premier amendement de la Constitution américaine.

L’entreprise affirme que la loi dépasse son objectif initial de lutter contre la nudification et expose à des poursuites des formes d’expression légitimes, comme des images à caractère artistique, scientifique, politique ou éducatif.

Elle soutient également que la loi rend automatiquement responsable le fournisseur d’IA, même si celui-ci interdit l’usage de l’outil ou si les personnes concernées ont consenti à la création de l’image.

SpaceXAI demande au tribunal de déclarer la loi inconstitutionnelle et d’en interdire l’application.

Le gouverneur du Minnesota, Tim Waltz, a répondu de manière sarcastique : « On se retrouvera au tribunal, pervers ».

Le procureur général du Minnesota, Keith Ellison, a réagi en soulignant l’ampleur des préjudices causés par la nudification par IA, qui prive les victimes de leur dignité et peut entraîner des dommages émotionnels, personnels et professionnels majeurs.

Il a qualifié cette pratique d’« abjecte » et a rejeté l’idée que le débat sur cette loi soit légitime, affirmant qu’elle répond à un besoin urgent de protection.

En Europe, où des réglementations similaires sont à l’étude à Bruxelles, xAI (devenu SpaceXAI) n’a pas encore pris position sur le sujet.

La loi du Minnesota est la première du genre aux États-Unis, marquant une étape dans la régulation des technologies d’IA générative.

La loi du Minnesota prévoit une exception pour les logiciels de retouche d’images comme Photoshop, qui nécessitent une compétence technique substantielle de l’utilisateur.

Cependant, SpaceXAI estime que la définition des parties intimes retenue par la loi est trop large, car elle pourrait interdire des représentations comme des hommes torse nu, des personnes en short ou en maillot de bain.

L’entreprise craint que cette interprétation ne rende illégales des images considérées comme normales par le grand public.

Elle invoque également le Premier amendement pour protéger la génération d’images et de vidéos par son IA, arguant que cette activité relève de la liberté d’expression.

Le tribunal devra trancher sur la conformité de cette loi avec la Constitution américaine.