Plus de 200 scientifiques et responsables politiques, parmi lesquels des lauréats du Nobel et d’anciens chefs d’État, réclament un ensemble de règles mondiales sur l’intelligence artificielle afin de protéger la société contre les plus grands risques liés à cette technologie. Il s’agit notamment d’interdire l’utilisation de l’IA pour lancer des armes nucléaires ou pratiquer la surveillance de masse.
Parmi les signataires notables figurent le scientifique vivant le plus cité, Yoshua Bengio, le cofondateur d’OpenAI Wojciech Zaremba, la lauréate du prix Nobel de la paix Maria Ressa et Geoffrey Hinton, lauréat du prix Nobel de physique, qui a quitté son poste chez Google pour parler ouvertement des dangers de l’IA.
Plusieurs signataires ont travaillé ou travaillent actuellement pour de grandes entreprises de l’IA — notamment Baidu, Anthropic, xAI et Google DeepMind — ou ont reçu le prix Turing, considéré comme la plus haute distinction en informatique.
Risques et lignes rouges exposés
Les signataires demandent aux gouvernements de mettre en place, d’ici la fin de 2026, des « lignes rouges » concernant ce que les systèmes d’IA sont autorisés à faire et ce que les humains peuvent en faire. La lettre avertit que la technologie dépassera bientôt les capacités humaines, ce que des entreprises comme OpenAI et Meta cherchent activement à accomplir, et qu’il deviendra « de plus en plus difficile d’exercer un contrôle humain véritable » sur celle-ci.
« Les gouvernements doivent agir de manière décisive avant que la fenêtre permettant une intervention réelle ne se referme », peut-on lire dans la «Global Call for AI Red Lines ». « Un accord international sur des lignes rouges claires et vérifiables est nécessaire pour prévenir les risques universellement inacceptables. »
Catégories de risques potentiels
Les risques peuvent être classés en deux catégories : l’utilisation de l’IA et son comportement.
Parmi les exemples d’utilisation de l’IA figurent le recours à la technologie pour déployer des armes létales ou usurper l’identité d’un être humain. À l’inverse, les exemples de comportement de l’IA incluent sa capacité à concevoir des armes chimiques ou à se répliquer sans intervention humaine. Les signataires souhaitent l’instauration de règles internationales interdisant à la fois les usages les plus dangereux de l’IA et les comportements dangereux de l’IA.
Ces risques individuels pourraient entraîner des événements dévastateurs à grande échelle, indique la lettre ouverte, notamment des pandémies provoquées artificiellement par des armes biologiques, la désinformation généralisée, le chômage de masse, la manipulation des enfants et des adultes, ainsi que des violations systématiques des droits humains.
Bien que la lettre n’exige pas de prochaines étapes concrètes, elle suggère plusieurs pistes, comme la rédaction de lignes rouges par les États, la publication de normes vérifiables par les scientifiques, leur approbation par des forums mondiaux d’ici 2026, puis, à terme, la négociation d’un traité contraignant.
D’anciens présidents et ministres représentant l’Italie, la Colombie, l’Irlande, Taïwan, l’Argentine et la Grèce ont également soutenu l’appel en faveur de lignes rouges pour l’IA, tout comme plus de 70 organisations, dont beaucoup sont spécifiquement consacrées à la sécurité de l’IA. Des personnalités éminentes extérieures au monde scientifique ont aussi cosigné la lettre, parmi lesquelles l’acteur et auteur Sir Stephen Fry et l’auteur Yuval Noah Harari.
Les fournisseurs d’IA rechignent à soutenir des réglementations contraignantes
Ces dernières années, plusieurs lettres ouvertes sur la sécurité de l’IA ont été publiées, dont une lettre de 2023 cosignée par Elon Musk, qui appelait à une pause de six mois dans le développement de l’IA. Une déclaration a également été publiée, soutenue par Sam Altman, d’OpenAI, et Dario Amodei, d’Anthropic, demandant que l’atténuation des risques liés à l’IA soit traitée comme une priorité mondiale.
Aucune de ces trois figures éminentes de l’IA n’a rejoint l’appel en faveur de lignes rouges pour l’IA, qui se distingue des précédents sur un point essentiel : il réclame des réglementations contraignantes.
Les entreprises spécialisées dans l’IA ne soutiennent généralement pas la supervision par des tiers, car elles estiment que leur croissance dépend de leur capacité à innover librement. OpenAI, Meta, et Google ont toutes rejeté les mesures prises par les gouvernements pour encadrer leurs activités. Elles ne sont toutefois pas opposées à prendre des engagements volontaires moins concrets, comme autoriser l’utilisation de leurs modèles pour tester la sécurité, afin de préserver une image de responsabilité.
Les signataires de la lettre sur les lignes rouges reconnaissent l’existence des cadres et politiques internes des fournisseurs, et plusieurs entreprises se sont engagées à respecter un certain niveau d’autorégulation, comme l’a reconnu l’ancien président des États-Unis Joe Biden en 2023 et lors du Sommet de l’IA de Séoul de l’année dernière. Pourtant, les recherches indiquent que les entreprises ne tiennent de telles promesses que dans environ 52 % des cas.
Le cosignataire Yoshua Bengio a lancé une organisation à but non lucratifdédiée à garantir que les systèmes d’IA soient sûrs, honnêtes et fondamentalement alignés sur les valeurs humaines.