La disparition ultime de l’humanité aux mains de l’IA ressemble à un cliché de science-fiction, mais les experts débattent aujourd’hui de sa probabilité bien réelle.
Pendant une grande partie de l’année écoulée, un nom est revenu encore et encore dans les discussions sur l’intelligence artificielle générale (AGI) et l’extinction de l’humanité : Daniel Kokotajlo.
Voix éminente de la communauté de la sécurité de l’IA et ancien chercheur chez OpenAI, Kokotajlo a contribué à lancer un débat mondial en avril dernier avec « AI 2027 », un scénario spéculatif qu’il a cosigné, dans lequel des systèmes d’IA progressant rapidement prennent l’ascendant sur l’humanité, s’emparent du contrôle de la prise de décision mondiale et finissent par anéantir la race humaine. De quoi attirer l’attention, non ?
Bon, ramenons un instant la panique à de plus justes proportions : Kokotajlo revient sur cette prévision. Dans une récente mise à jour, lui et ses collaborateurs font marche arrière, estimant que le chemin vers une IA superintelligente semble prendre plus de temps que prévu initialement. Et s’ils affirment que les risques les plus spectaculaires n’ont pas disparu, ils ajoutent qu’ils pourraient être quelque peu retardés, plutôt que de suivre le calendrier apocalyptique d’AI 2027 qui avait suscité tant d’attention.
La récente mise à jour revoit l’estimation de la date à laquelle les systèmes d’IA pourraient parvenir à coder de manière totalement autonome, un aspect essentiel du scénario initialement prédit. Cela déclencherait une explosion de l’intelligence, les systèmes d’IA étant capables de s’améliorer rapidement sans véritable supervision humaine. Alors qu’ils prévoyaient que cela se produirait probablement d’ici 2027, il semble désormais que cette prévision était trop optimiste. Ou pessimiste, si vous avez par hasard de la sympathie pour la race humaine.
« Les choses semblent évoluer un peu plus lentement que dans le scénario AI 2027 », a écrit Kokotajlo, ajoutant qu’au moment de sa publication déjà, 2027 n’était qu’une estimation centrale, et non la certitude que beaucoup y voyaient. La nouvelle perspective situe la recherche autonome en IA au début des années 2030, la « superintelligence » pouvant émerger plus près de 2034. Et si cela inquiète certains, contrairement au scénario initial, la mise à jour ne cherche pas à prédire si, ou quand, l’IA pourrait détruire l’humanité.
Les limites des progrès actuels de l’IA
Actuellement, les prévisions concernant le calendrier d’apparition de l’AGI suscitent davantage de scepticisme. Depuis la sortie de ChatGPT en 2022, les prévisions concernant une IA de niveau humain se sont considérablement accélérées, certains experts estimant qu’elle pourrait apparaître d’ici quelques années. Mais l’expérience récente a révélé la nature inégale des progrès de l’IA, ainsi que ce que les critiques décrivent comme une intelligence en dents de scie : des systèmes capables d’accomplir des tâches cognitives, mais qui peinent avec des choses comme le raisonnement élémentaire, la planification à long terme ou l’action autonome.
Malcolm Murray, expert des risques liés à l’IA et contributeur à l’International AI Safety Report, affirme que cela repousse de nombreuses prévisions dans le futur. « Pour qu’un scénario comme AI 2027 se réalise, il faudrait des systèmes d’IA dotés de bien plus de compétences pratiques, dans le monde réel, a-t-il déclaré. La société est freinée par une inertie considérable — les institutions, les infrastructures, la politique — qui ralentit tout. »
D’autres se demandent si le concept même d’AGI a encore un sens et estiment que le vocabulaire employé dans ces débats devient lui aussi obsolète. Henry Papadatos, directeur exécutif de l’organisation française à but non lucratif SaferAI, s’interroge sur le sens précis que recouvre encore le terme « AGI ». « Quand l’IA ne jouait qu’aux échecs ou au go, le terme avait un sens, a-t-il déclaré. Aujourd’hui, les systèmes sont déjà assez généraux, mais de manière désordonnée et incomplète. Cette appellation ne le rend pas très bien. »
Les objectifs du secteur et la réalité des politiques publiques
La course au développement d’une IA capable d’automatiser sa propre évolution reste néanmoins un objectif majeur pour les entreprises de premier plan. En octobre, le directeur général d’OpenAI, Sam Altman, a déclaré que la mise au point d’un chercheur en IA automatisé d’ici mars 2028 constituait un objectif interne, tout en reconnaissant que l’entreprise pourrait tout simplement échouer. En cas de réussite, ces systèmes pourraient toutefois accélérer considérablement les progrès de l’IA, même s’ils restent en deçà des prédictions de science-fiction de 2027.
Les experts des politiques publiques rappellent que l’intelligence seule ne suffit pas à conférer un pouvoir dans le monde réel. Andrea Castagna, chercheur en politiques de l’IA basé à Bruxelles, souligne qu’une IA avancée devrait malgré tout être intégrée à des systèmes humains complexes. « On ne peut pas simplement déposer un ordinateur superintelligent dans des structures militaires ou gouvernementales qui ont évolué pendant des décennies, a-t-il déclaré. Le monde est bien plus compliqué que les scénarios imaginés. »
Pourquoi Kokotajlo reste important
L’influence de Kokotajlo repose en partie sur son parcours. Il a acquis sa crédibilité dans un billet de blog publié en 2021, où il avait anticipé avec justesse l’explosion des chatbots et l’importance de l’« inference-time scaling », une technique désormais au cœur des systèmes d’IA modernes. Mais parallèlement, il a toujours souligné qu’AI 2027 n’était pas une prophétie, mais un avenir possible parmi de nombreuses éventualités.
L’essai AI 2027 lui-même propose une autre fin : les gouvernements interviennent, des accords internationaux limitent le développement de l’IA et les systèmes sont volontairement restreints afin de rester interprétables et alignés sur les valeurs humaines. Dans cette fin alternative, l’humanité survit donc, même si de difficiles questions politiques restent sans réponse.
La concurrence et la suite
Des critiques comme le neuroscientifique de NYU Gary Marcus ont rejeté les scénarios les plus sombres de Kokotajlo, les jugeant dignes de la fiction spéculative, et affirmant que les récits catastrophistes détournent l’attention de problèmes immédiats tels que les biais, la désinformation et les bouleversements de l’emploi. D’autres craignent que ces calendriers spectaculaires n’engendrent un fatalisme, voire n’encouragent une accélération imprudente au nom de la « victoire » dans la course à l’IA.
Mais pour Kokotajlo, repousser les échéances ne signifie pas baisser les bras. Au contraire, il estime que cela crée une fenêtre d’action étroite. Que l’IA transformatrice arrive à la fin des années 2020, au milieu des années 2030 ou même plus tard, la question fondamentale — garantir que les systèmes d’IA avancés agissent de manière fiable dans l’intérêt de l’humanité — reste sans réponse. Cela dit, le débat que Kokotajlo a contribué à lancer n’est pas près de s’apaiser.
À lire aussi : AI p (doom) est passé d’une idée marginale à un débat grand public, alors que de plus en plus de dirigeants évaluent la probabilité d’une catastrophe provoquée par l’IA.