Les experts et passionnés d’IA ont l’habitude de discuter d’une expression autrefois considérée comme une plaisanterie macabre : le p(doom), soit la probabilité estimée qu’une catastrophe à l’échelle de l’espèce survienne du fait d’une IA avancée.
Certains ne considèrent plus ces craintes liées à l’IA comme marginales. Le 16 juin, une tribune publiée par Axios indiquait qu’au moins 10 personnes avaient quitté leur emploi dans de grandes entreprises d’IA, préoccupées par des menaces de niveau extinction liées à l’intelligence artificielle générale.
L’AGI est souvent évoquée en des termes quasi religieux, comme le signe annonciateur de la « singularité », une utopie rendue possible par une IA surpuissante. D’autres pensent que l’AGI finira inévitablement par se retourner contre ses créateurs.
Les estimations du p(doom) par des dirigeants de l’IA, dont Musk et Altman
Plus lourd de conséquences encore, certains dirigeants de la tech qui contribuent à faire advenir l’IA sont ceux qui parlent le plus ouvertement du (p)doom.
La semaine dernière, le PDG d’OpenAI, Sam Altman, a écrit qu’il était convaincu que « l’humanité est sur le point de construire une superintelligence numérique », une étape qu’il considère comme un prélude à l’AGI.
Le PDG d’Anthropic, Dario Amodei a déclaré que le (p)doom s’établissait entre 10 et 25 %, selon un entretien avec le podcasteur Liron Shapira.
Elon Musk a déclaré en 2024 qu’il y avait 20 % de chances que l’IA détruise l’humanité.
En juin 2023, le PDG de Microsoft, Satya Nadella, a déclaré à Wired qu’une IA hors de contrôle pourrait être « un vrai problème ». Il a toutefois ajouté que la solution consistait à laisser les humains garder la maîtrise du contexte dans lequel l’IA est utilisée.
« Je réfléchis aux premières catégories d’usages dans lesquelles nous devrions employer ces modèles puissants et où les humains sont sans ambiguïté, incontestablement aux commandes, a déclaré Nadella. Donc, tant que nous commençons par là, que nous caractérisons ces modèles, que nous les rendons plus sûrs et, avec le temps, beaucoup plus explicables, nous pouvons envisager d’autres formes d’utilisation, mais évitons de les laisser nous échapper. »
Les journalistes d’Axios Mike Allen et Jim VandeHei ont déclaré que la réalisation du (p)doom serait due au développement de l’AGI. Ils ont averti qu’une « course aux armements » internationale dans le domaine de l’IA pourrait accélérer la menace, les nations se précipitant pour se devancer les unes les autres en supprimant « toutes les restrictions possibles à l’IA ».
Le p(doom) n’est pas toujours considéré comme une échelle fiable
Il est possible que le (p)doom soit trop imprécis pour être exact et qu’il relève davantage d’un état d’esprit que d’un résultat quantifiable. Il pourrait aussi s’agir d’un compte à rebours vers quelque chose qui ne se produira jamais. Une enquête menée par l’Association for the Advancement of Artificial Intelligence en 2025 a révélé que 76 % des chercheurs en IA considéraient l’AGI comme un objectif irréaliste.
Pour Allen et VandeHei, la principale inquiétude liée à l’IA est qu’elle puisse déclencher une course aux armements technologiques. Dans ce cas, le p(doom) devient une métaphore pour tout outil avancé capable de provoquer des destructions massives. D’autres estiment que les visions apocalyptiques sont en réalité un sombre argument marketing de dirigeants de l’IA, dont les produits paraissent plus puissants dans l’imaginaire des consommateurs si ceux-ci pensent qu’ils pourraient détruire le monde.
Lisez la couverture par eWeek des préoccupations croissantes autour des chatbots d’IA et des risques pour la santé mentale, qui explore la manière dont des systèmes capables de répondre aux émotions peuvent causer des dommages psychologiques involontaires.