À 27 ans, cet ancien chercheur d'OpenAI et Anthropic quitte l'IA et dénonce ses dangers, « ils jouent avec nos vies »
À 27 ans, un chercheur passé par OpenAI puis Anthropic abandonne le secteur. Sans intervention des États ou ralentissement concerté, il estime qu'aucune entreprise ne pourrait maîtriser seule les dangers de l'IA..
À 27 ans, ce chercheur a travaillé pour deux des entreprises les plus influentes dans le domaine de l'intelligence artificielle (IA) : OpenAI et Anthropic. OpenAI est une organisation à but non lucratif fondée en 2015 par des personnalités comme Elon Musk et Sam Altman, initialement pour promouvoir et développer une IA bénéfique pour l'humanité. Anthropic, créée en 2021 par d'anciens employés d'OpenAI, se concentre sur la recherche en IA dite « sûre » (safe AI), c'est-à-dire des systèmes conçus pour éviter les comportements dangereux ou imprévisibles. Le chercheur a choisi de quitter ce secteur après avoir été témoin des risques associés à ces technologies, sans pour autant préciser s'il s'agit de risques techniques, éthiques ou sociétaux.
Le chercheur a décidé de quitter le domaine de l'IA, une décision rare parmi les experts du secteur qui sont souvent attirés par les salaires élevés et les opportunités de recherche. Son départ s'accompagne d'une critique publique des dangers de l'IA, qu'il juge mal maîtrisés par les entreprises privées. Il souligne que les acteurs du secteur, même les plus avancés comme OpenAI ou Anthropic, ne sont pas en mesure de garantir à eux seuls la sécurité de ces technologies. Cette prise de position intervient dans un contexte où l'IA progresse rapidement, avec des applications de plus en plus larges dans la vie quotidienne, comme les chatbots, la génération d'images ou l'automatisation des décisions.
Le chercheur dénonce les risques associés à l'IA, qu'il qualifie de « danger pour nos vies ». Sans préciser les menaces exactes, il fait référence à des scénarios où des systèmes d'IA pourraient échapper au contrôle humain, prendre des décisions dangereuses ou être utilisés à des fins malveillantes. Ces craintes s'inscrivent dans un débat plus large sur l'éthique de l'IA, où des experts comme Nick Bostrom ou Stuart Russell ont alerté sur les risques existentiels liés à des intelligences artificielles surpassant l'intelligence humaine. Le chercheur estime que ces dangers ne peuvent être résolus par les entreprises seules, en raison de la compétition féroce entre elles et de l'absence de cadre réglementaire strict.
Pour le chercheur, la seule solution viable passe par une intervention des États, capables de mettre en place des régulations contraignantes pour encadrer le développement de l'IA. Il critique l'absence de ralentissement concerté entre les entreprises, qui continuent d'investir massivement dans ces technologies sans évaluer pleinement leurs risques. Les États pourraient, selon lui, imposer des normes de sécurité, des audits indépendants ou des moratoires sur certaines applications. Cette idée rejoint les propositions de figures comme Eliezer Yudkowsky, qui plaident pour une gouvernance mondiale de l'IA afin d'éviter une course aux armements technologiques.
Le secteur de l'IA est marqué par une compétition intense entre les géants technologiques, avec des investissements colossaux. Par exemple, Microsoft a investi 10 milliards de dollars dans OpenAI en 2023, tandis que Google et Amazon dépensent des milliards pour développer leurs propres modèles d'IA. Cette course à l'innovation crée une pression pour lancer des produits rapidement, parfois au détriment de la sécurité. Le chercheur souligne que, dans un tel contexte, aucune entreprise ne peut se permettre de ralentir seule, car elle perdrait un avantage concurrentiel. Les États deviennent alors les seuls acteurs capables de briser cette dynamique.
