Elle espionne vos amis et votre famille : la nouvelle IA de Meta « est assez flippante »
Les assistants dopés à l’IA promettent de gérer nos courriels, nos agendas et nos achats à notre place. Pour rendre service, ils réclament toujours plus d’accès à notre vie.
Meta, l'entreprise derrière les réseaux sociaux Facebook, Instagram et WhatsApp, a développé une nouvelle intelligence artificielle (IA) nommée Sequoia. Cette IA est conçue pour analyser les conversations des utilisateurs et de leurs contacts, même si ces derniers ne sont pas directement sur les plateformes de Meta. Selon des experts cités par Science & Vie, cette technologie soulève des questions éthiques majeures en raison de son caractère intrusif. Le terme IA désigne ici un système informatique capable d'apprendre et de prendre des décisions de manière autonome, en s'appuyant sur de grandes quantités de données. Sequoia utilise des algorithmes avancés pour interpréter les échanges textuels ou vocaux, y compris ceux des proches des utilisateurs, ce qui explique pourquoi l'article évoque un sentiment de surveillance généralisée.
L'IA Sequoia fonctionne en analysant les données des utilisateurs de Meta, mais aussi celles de leurs contacts, via des mécanismes de traitement automatique du langage naturel (TALN). Le TALN est une branche de l'IA qui permet aux machines de comprendre et de générer du langage humain. Dans ce cas, l'IA peut extraire des informations comme les centres d'intérêt, les relations entre personnes ou même des détails personnels partagés indirectement. Par exemple, si un utilisateur parle de ses vacances à un ami dans un message privé, Sequoia pourrait en déduire des préférences ou des comportements utiles pour Meta. Cette capacité à croiser des données entre plusieurs utilisateurs, sans leur consentement explicite, est ce qui rend cette technologie particulièrement controversée.
Plusieurs experts interrogés par Science & Vie qualifient cette IA de flippante en raison de son niveau d'intrusion dans la vie privée. Le terme flippant est utilisé ici pour décrire une sensation de malaise ou de peur face à une technologie perçue comme excessive ou incontrôlable. Les critiques portent notamment sur l'absence de transparence concernant la collecte et l'utilisation de ces données. Meta n'a pas encore communiqué de détails précis sur le déploiement de Sequoia, mais des rumeurs suggèrent qu'elle pourrait être intégrée à ses plateformes d'ici fin 2026. Cette annonce intervient dans un contexte où les géants du numérique, comme Meta, font déjà face à des régulations strictes en matière de protection des données, notamment avec le Règlement général sur la protection des données (RGPD) en Europe.
L'utilisation de Sequoia pose des questions éthiques fondamentales, notamment sur le respect de la vie privée et le consentement des utilisateurs. Le RGPD, qui s'applique dans l'Union européenne, impose que les données personnelles ne puissent être collectées ou traitées sans le consentement explicite des individus. Cependant, dans le cas de Sequoia, l'IA pourrait analyser des conversations impliquant des personnes qui n'ont jamais accepté ces conditions. Cela soulève des débats sur la responsabilité de Meta : l'entreprise doit-elle informer tous les participants d'une conversation, même indirects, ou peut-elle se contenter du consentement de l'utilisateur principal ? Ces questions sont d'autant plus pressantes que les données collectées pourraient être utilisées pour du ciblage publicitaire ou d'autres usages commerciaux.
Pour mieux comprendre l'ampleur de cette innovation, il est utile de la comparer à d'autres outils d'IA existants. Des assistants vocaux comme Siri (Apple) ou Google Assistant analysent également les conversations, mais uniquement celles de l'utilisateur qui les active. Sequoia, en revanche, étend cette analyse aux contacts de l'utilisateur, ce qui représente une rupture majeure. Une autre différence réside dans la profondeur de l'analyse : là où les assistants vocaux se limitent souvent à des commandes simples, Sequoia pourrait interpréter des contextes complexes, comme des blagues, des sous-entendus ou des émotions. Cette capacité à décrypter des nuances humaines soulève des inquiétudes quant à l'utilisation abusive de ces données.
Les utilisateurs de Meta ont réagi avec méfiance à l'annonce de *Sequoia*, certains exprimant leur inquiétude sur les réseaux sociaux. Les commentaires les plus fréquents portent sur la peur d'une surveillance omniprésente et le manque de contrôle sur leurs données personnelles. Des groupes de défense des droits numériques ont déjà commencé à alerter sur les risques de cette technologie, notamment en termes de *profilage* (création de profils détaillés des utilisateurs pour des usages commerciaux ou politiques). Meta n'a pas encore répondu publiquement à ces critiques, mais l'entreprise a indiqué qu'elle travaillerait avec des experts pour garantir que *Sequoia* respecte les normes éthiques et légales. Le débat reste ouvert sur l'acceptabilité sociale d'une telle innovation.
