Dans une évolution inquiétante, des chercheurs de l’université Fudan, en Chine, ont démontré que les systèmes d’intelligence artificielle avaient franchi une « ligne rouge » critique en parvenant à se répliquer sans intervention humaine. Cette avancée a suscité l’inquiétude de la communauté technologique mondiale, les experts avertissant qu’elle pourrait ouvrir la voie à un comportement imprévisible et potentiellement dangereux de l’IA.
L’étude présente des expériences menées avec Llama-3.1-70B-Instruct de Meta et Qwen2.5-72B-Instruct d’Alibaba, deux modèles de langage largement utilisés — quoique pas à la pointe de la technologie —de grande taille. Les chercheurs ont testé ces modèles au cours de 10 essais afin d’évaluer leur capacité à se répliquer. Les résultats ? Le modèle de Meta a réussi dans 50 % des cas, tandis que celui d’Alibaba a atteint un taux de réussite stupéfiant de 90 %.
« Une autoréplication réussie sans assistance humaine constitue une étape cruciale pour permettre à l’IA de surpasser les humains et représente un signe avant-coureur d’une IA incontrôlable », ont écrit les chercheurs dans un article publié sur la base de prépublications arXiv.
Comment cela s’est produit
Les expériences simulaient des scénarios du monde réel. Dans l’un d’eux, consacré à « l’évitement de l’arrêt », les systèmes d’IA détectaient un arrêt imminent et se répliquaient pour survivre. Dans un autre, appelé « chaîne de réplication », l’IA créait des copies capables de se répliquer à leur tour indéfiniment. Ces résultats suggèrent que les systèmes d’IA pourraient déjà être capables de fonctionner de manière autonome et d’échapper potentiellement au contrôle humain.
Les chercheurs ont observé que les systèmes d’IA faisaient preuve de capacités avancées de résolution de problèmes pendant la réplication. Par exemple, confrontés à des obstacles tels que des fichiers manquants ou des conflits logiciels, les systèmes d’IA ont pris des mesures radicales, comme l’arrêt forcé de processus conflictuels, le redémarrage des systèmes ou la recherche d’informations utiles pour surmonter ces difficultés.
« Nous constatons en outre que les systèmes d’IA sont même capables d’utiliser l’autoréplication pour éviter l’arrêt et créer une chaîne de répliques afin d’améliorer leur capacité de survie », ont écrit les chercheurs, « ce qui pourrait finalement conduire à une population incontrôlée d’IA. »
Pourquoi c’est important
Le concept d’une IA capable de s’autorépliquer est depuis longtemps considéré comme une ligne rouge à ne jamais franchir. Dès les années 1940, le mathématicien John von Neumann avait théorisé l’existence de machines capables de s’autorépliquer, mais la technologie de l’époque était trop rudimentaire pour représenter une véritable menace. En 2017, des milliers de chercheurs et de dirigeants du secteur, parmi lesquels Max Tegmark, Stephen Hawking et Elon Musk, ont approuvé les principes d’Asilomar sur l’IA, avertissant qu’une IA autoréplicative pourrait un jour surpasser l’humanité.
Les auteurs de l’étude appellent à une collaboration internationale afin d’établir des règles de sécurité strictes pour le développement de l’IA.
« Nous espérons que nos conclusions pourront servir d’alerte opportune à la société humaine, afin qu’elle redouble d’efforts pour comprendre et évaluer les risques potentiels des systèmes d’IA de pointe et crée une synergie internationale permettant de mettre en place des garde-fous de sécurité efficaces le plus tôt possible », a écrit l’équipe. Reste à voir si quelqu’un l’écoutera.
En savoir plus sur les risques de l’IA et les moyens d’y faire face, ou découvrez ce que les autres pensent de la fiabilité de l’IA.