Futurologie de l'intelligence artificielle, par Antoine Buéno

Antoine Buéno aborde dans son livre Guidance l’émergence des IA agentiques, une nouvelle génération d’intelligences artificielles capables d’agir de manière autonome et proactive, sans nécessiter une intervention humaine constante. Contrairement aux IA actuelles qui se limitent à répondre à des commandes précises, ces systèmes pourraient bientôt prendre des décisions complexes à notre place, comme gérer un budget, négocier un contrat ou organiser un emploi du temps. Buéno souligne que cette évolution technologique soulève une question centrale : qui contrôle ces IA et dans quel but ? Les IA agentiques représentent un saut qualitatif par rapport aux modèles existants, comme ceux utilisés pour générer du texte ou des images, car elles intègrent une capacité d’action et non plus seulement de recommandation. Leur développement s’inscrit dans un contexte où les investissements mondiaux dans l’IA atteignent des dizaines de milliards d’euros par an, avec une accélération notable depuis 2020.

L’auteur met en garde contre le pouvoir de manipulation des concepteurs d’IA, qui pourraient orienter ces technologies vers des objectifs non neutres. Il explique que les algorithmes ne sont jamais totalement objectifs, car ils sont conçus par des humains aux biais, aux intérêts et aux visions du monde spécifiques. Par exemple, une IA chargée de sélectionner des candidats pour un emploi pourrait favoriser certains profils en fonction des données utilisées pour son entraînement, reproduisant ainsi des discriminations existantes. Buéno cite le cas des réseaux sociaux, où des algorithmes ont amplifié la polarisation politique en privilégiant les contenus engageants, parfois au détriment de la vérité. Le risque est que ces biais soient amplifiés par les IA agentiques, qui pourraient agir à grande échelle et de manière automatisée, sans que les utilisateurs en aient conscience.

L’un des dangers majeurs identifiés par Buéno est la perte progressive de notre autonomie décisionnelle au profit des IA. Il évoque un scénario où les individus, par commodité ou par manque de temps, délégueraient de plus en plus de tâches à ces systèmes, jusqu’à leur confier des choix stratégiques. Par exemple, une IA pourrait gérer l’intégralité de nos finances, de nos relations sociales ou même de nos opinions, en sélectionnant pour nous les informations à consulter ou les personnes à fréquenter. L’auteur compare cette situation à une forme de désapprentissage : plus nous externalisons nos décisions, moins nous développons notre capacité à les prendre nous-mêmes. Ce phénomène pourrait affaiblir les compétences critiques et la responsabilité individuelle, avec des conséquences à long terme sur la société.

Buéno insiste sur le rôle central des programmeurs et des entreprises technologiques dans la définition des règles et des objectifs des IA. Il souligne que ces acteurs détiennent un pouvoir disproportionné, car ils déterminent non seulement le fonctionnement technique des systèmes, mais aussi leurs valeurs sous-jacentes. Par exemple, une entreprise pourrait programmer une IA pour maximiser les profits d’un service, même si cela va à l’encontre de l’intérêt général. L’auteur cite des cas concrets, comme les algorithmes de recommandation de YouTube ou de TikTok, qui favorisent les contenus viraux plutôt que ceux qui sont éducatifs ou nuancés. Le livre Guidance est publié en septembre 2026, dans un contexte où les régulateurs européens et américains commencent à s’intéresser à la gouvernance des IA, mais où les cadres juridiques restent encore flous.