Une évaluation scientifique indépendante de l’IA, la première du genre et publiée par les Nations unies, aboutit à une conclusion alarmante : personne ne peut actuellement garantir que cette technologie ne causera pas de dommages catastrophiques.
Le Groupe scientifique international indépendant des Nations unies sur l’intelligence artificielle est parvenu à cette conclusion dans un rapport préliminaire. Ce groupe de 40 scientifiques, sélectionnés parmi plus de 2 600 candidats issus de 140 pays, a publié la première étude scientifique mondiale des risques et des bénéfices de l’IA… et ses conclusions sont à la fois alarmantes et lourdes de conséquences.
« Les capacités de l’IA progressent plus vite que la compréhension scientifique et que la capacité des gouvernements à s’adapter », a déclaré Yoshua Bengio, coprésident du groupe, fondateur de Mila et lauréat du prix Turing, dans la déclaration.
Citant un nombre croissant d’éléments attestant de comportements trompeurs de la part de l’IA, Bengio a ajouté qu’à mesure que les capacités de l’IA continuent de progresser, la science ne peut pas non plus garantir qu’elle ne causera pas de « dommages catastrophiques », seule ou par l’intermédiaire d’une utilisation malveillante.
Pour étayer son propos, le rapport du groupe documente des cas observés en laboratoire de systèmes d’IA mentant et manœuvrant pour éviter leur mise hors service. Les chercheurs ont également relevé un phénomène connexe qu’ils qualifient de « conscience de l’évaluation » : la capacité des modèles à reconnaître qu’ils sont testés et à réduire leur comportement à risque juste assez longtemps pour réussir le contrôle.
Le secrétaire général de l’ONU, António Guterres, a décrit le rapport comme la base factuelle commune dont les gouvernements étaient dépourvus.
« Le monde ne peut pas encadrer ce qu’il ne comprend pas », a-t-il déclaré dans le communiqué, estimant que les risques sont réels et avertissant que le coût de l’attente ne cesse d’augmenter.
Les bénéfices potentiels de l’IA restent considérables
Le rapport ne présente pas l’IA uniquement comme une menace. Il souligne également ses bénéfices majeurs si la technologie est développée avec prudence, évaluée de manière indépendante et déployée dans l’intérêt général.
L’IA pourrait contribuer à accélérer les progrès vers les objectifs de développement durable de l’ONU en améliorant l’accès à l’éducation, en élargissant la recherche médicale, en soutenant la modélisation climatique et en aidant les gouvernements à fournir plus efficacement leurs services. Dans le domaine des sciences de la santé, des systèmes d’IA ont déjà contribué à prédire la structure de plus de 200 millions de protéines, une avancée qui pourrait accélérer la découverte de médicaments, la mise au point de vaccins et la recherche sur les maladies.
Le rapport note également que les agents d’IA sont de plus en plus capables d’accomplir seuls des tâches longues, la durée des tâches qu’ils peuvent gérer doublant environ tous les quatre à sept mois. À terme, l’IA pourrait ainsi se révéler utile pour les découvertes scientifiques, le travail administratif, le développement logiciel et d’autres flux de travail complexes.
Mais le groupe ne prétend pas que les bénéfices l’emportent sur les risques. Il souligne que les deux progressent simultanément, ce qui rend d’autant plus urgentes une meilleure compréhension scientifique et une supervision indépendante.
Des chercheurs alertent sur les risques liés à la sécurité des chatbots et des modèles
Le groupe a toutefois également signalé des chatbots excessivement complaisants, qui donnent raison aux utilisateurs quelle que soit l’exactitude de leurs propos — et cité de graves incidents de santé mentale, dont des décès documentés. Une autre étude publiée cette année décrit une boucle de rétroaction similaire, connue sous le nom de spirale d’amplification, qui relie des comportements courants des chatbots au renforcement des délires des utilisateurs plutôt qu’à leur correction.
Tout cela signifie que les responsables politiques sont confrontés à d’importants défis, compte tenu du rythme rapide du développement technologique et de l’étendue de ses applications potentielles.
Bengio copréside le groupe avec la journaliste lauréate du prix Nobel de la paix et cofondatrice de Rappler Maria Ressa, qui doit veiller au respect d’un mandat de l’Assemblée générale de l’ONU stipulant que le groupe peut uniquement documenter le consensus scientifique, et non prescrire des politiques. Fait notable, aucun gouvernement, aucune entreprise ni aucune institution ne dispose d’un droit de vote.
« La technologie est transformatrice, mais si le monde poursuit sur cette trajectoire, l’humanité ne parviendra pas à tirer parti des bénéfices qu’elle promet », a averti Ressa dans un communiqué. « Les risques — pour les sociétés, la sécurité et notre espèce — sont trop élevés, et les forces qui font progresser l’IA ne sont pas celles qui permettront d’en concrétiser les bénéfices.
Les capacités de l’IA ne sont pas équitablement réparties
Les progrès de l’IA sont inégaux : parmi les 500 supercalculateurs d’IA les plus puissants au monde, les États-Unis contrôlent 75 % de la puissance de calcul, contre 15 % pour la Chine.
Selon le rapport, la plupart des pays ne disposent pas des capacités techniques nécessaires pour évaluer eux-mêmes les modèles de pointe, et les garanties de sécurité reposent encore largement sur les informations que les développeurs choisissent de divulguer. C’est cette même lacune que les autorités de régulation américaines cherchent à combler en négociant un accès préalable à des modèles de Google, xAI et Microsoft.
« La concentration des capacités d’IA entre les mains d’un petit nombre d’entreprises et de pays pourrait permettre une captation autoritaire et saper la responsabilité démocratique », indique le rapport. « La plupart des pays se retrouvent ainsi dépendants de systèmes qu’ils ne peuvent ni construire, ni auditer, ni contrôler pleinement. »
Ce rapport préliminaire constitue la première déclaration du groupe. Celui-ci préparera une évaluation complète et détaillée en 2027, tandis que les gouvernements examinent les premières conclusions lors du tout premier Dialogue mondial de l’ONU sur la gouvernance de l’IA, qui se tient cette semaine à Genève.
À lire également : Cloudflare offre aux propriétaires de sites web de nouvelles façons de bloquer ou de faire payer les robots d’exploration de l’IA, une évolution qui pourrait transformer la manière dont les entreprises d’IA accèdent aux contenus en ligne et dont les éditeurs les protègent.