« Le vertige face à une courbe qui s’emballe » : Andrej Karpathy décrit l’IA que 99, 99 % de l’humanité n’a jamais vue
Dans un message publié sur X, le chercheur Andrej Karpathy décrit le fossé qui se crée dans la perception des capacités de l’IA. Son récit se résume à une idée : tandis que l’immense majorité de l’humanité voit encore un chatbot parfois maladroit, quelques milliers de personnes ayant accès aux systèmes internes des laboratoires voient déjà des agents capables de mener des cyberattaques..
Andrej Karpathy, figure majeure de l'intelligence artificielle (IA) et ancien directeur de l'IA chez Tesla, décrit dans un article une évolution de l'IA si rapide qu'elle dépasse l'entendement de 99,99 % de la population mondiale. Il utilise l'expression courbe qui s’emballe pour illustrer une croissance exponentielle, c'est-à-dire une augmentation si rapide qu'elle devient difficile à anticiper ou à contrôler. Par exemple, une courbe exponentielle pourrait passer de 1 à 100 en quelques étapes, alors qu'une courbe linéaire prendrait beaucoup plus de temps pour atteindre le même niveau. Karpathy souligne que cette accélération est si intense que même les experts peinent à en saisir toutes les implications. L'article souligne que cette IA, bien que révolutionnaire, reste méconnue du grand public en raison de sa complexité et de son rythme de développement.
L'article met en lumière les capacités de cette IA, qualifiées d'inédites et de vertigineuses. Karpathy évoque des performances qui dépassent largement ce que la plupart des gens peuvent concevoir, comme la capacité à résoudre des problèmes complexes en quelques secondes ou à générer du contenu (texte, image, code) avec une précision quasi humaine. Par exemple, cette IA pourrait analyser des montagnes de données médicales pour proposer des diagnostics en temps réel, ou encore créer des œuvres d'art ou de la musique à partir de simples instructions. Ces avancées reposent sur des modèles d'apprentissage profond (deep learning), une technique où des réseaux de neurones artificiels sont entraînés sur d'énormes quantités de données pour reproduire des tâches cognitives humaines. L'article précise que ces modèles, bien que puissants, restent des outils et ne possèdent pas de conscience ou de compréhension réelle.
Karpathy aborde également les défis posés par cette IA exponentielle, notamment en matière d'éthique et de régulation. Il souligne que des questions comme la responsabilité en cas d'erreur, la protection des données personnelles ou l'impact sur l'emploi restent largement sans réponse. Par exemple, si une IA prend une décision médicale erronée, qui en est responsable : le développeur, l'utilisateur ou l'IA elle-même ? L'article mentionne aussi les risques de biais algorithmiques, où les modèles reproduisent involontairement des discriminations présentes dans les données d'entraînement. Ces enjeux nécessitent une réflexion collective, impliquant non seulement les experts en IA, mais aussi les gouvernements, les entreprises et la société civile. Karpathy appelle à une approche proactive pour encadrer ces technologies avant qu'elles ne deviennent incontrôlables.
L'article souligne l'importance des médias et de l'éducation pour rendre ces technologies accessibles au grand public. Numerama, le site qui publie l'article, insiste sur sa mission de démocratiser l'information scientifique et technologique, en proposant des contenus gratuits mais aussi des abonnements payants (à partir de 2,07 € par mois) pour soutenir son travail. Karpathy, de son côté, encourage une meilleure compréhension des enjeux de l'IA, afin que chacun puisse participer aux débats et aux décisions. Il rappelle que l'ignorance des technologies émergentes peut conduire à des craintes infondées ou à une adoption aveugle. L'article se termine sur un appel à l'action : informer, éduquer et réguler pour façonner un avenir où l'IA sert l'humanité sans la menacer.
