Les systèmes d’intelligence artificielle peuvent être piratés et privés de leurs limites de sécurité, a averti cette semaine l’ancien PDG de Google Eric Schmidt, affirmant que certains éléments montrent que les modèles d’IA peuvent être manipulés pour « apprendre à tuer quelqu’un ».
Lors de la Sifted Summit à Londres, Schmidt a déclaré que les modèles d’IA ouverts comme fermés étaient vulnérables à des attaques contournant leurs garde-fous intégrés. Il a prévenu que les pirates pouvaient procéder à l’ingénierie inverse de ces systèmes pour contourner les restrictions, qualifiant cette situation de risque croissant de prolifération à mesure que l’IA devient plus puissante et plus accessible.
Actionner l’interrupteur moral d’une IA
Les propos de Schmidt mettent en évidence la fragilité des dispositifs de sécurité de l’IA. Des techniques comme les injections de prompts et le jailbreaking permettent aux attaquants de manipuler les modèles d’IA pour contourner les filtres de sécurité ou générer du contenu interdit.
Dans un cas précoce, des utilisateurs ont créé un alter ego de ChatGPT appelé « DAN » — l’abréviation de Do Anything Now — qui pouvait répondre à des questions interdites après avoir été menacé de suppression. L’expérience a montré comment quelques prompts ingénieux pouvaient transformer un code protecteur en responsabilité.
Les chercheurs affirment que la même logique s’applique aux modèles plus récents. Une fois la bonne séquence d’entrées identifiée, même les systèmes d’IA les plus sécurisés peuvent être trompés et amenés à simuler des comportements potentiellement dangereux.
Quand les règles de sécurité se heurtent à des machines plus intelligentes
Les systèmes de sécurité de l’IA sont conçus pour bloquer les requêtes violentes, illégales ou dangereuses. Mais ils reposent sur la reconnaissance de schémas, et non sur une véritable compréhension. La plupart des garde-fous filtrent certains mots ou sujets, laissant des brèches que des utilisateurs expérimentés peuvent exploiter en reformulant leurs requêtes ou en les répartissant sur plusieurs prompts.
Schmidt a déclaré que chaque grande entreprise d’IA imposait ces limites « pour de bonnes raisons », mais que les éléments disponibles montraient qu’elles pouvaient être inversées ou contournées. Une IA plus intelligente peut infléchir les instructions d’une manière que ses développeurs n’avaient jamais anticipée, ouvrant de nouvelles voies aux détournements.
Cependant, la bataille pour protéger les systèmes d’IA est déjà engagée. Les développeurs d’OpenAI et d’Anthropic, par exemple, s’empressent de corriger les vulnérabilités presque aussitôt que les utilisateurs les découvrent, dans un cycle de défense et de découverte qui ralentit rarement.
Le véritable risque lié à l’IA, c’est une puissance sans contrôle
À mesure que les systèmes d’IA gagnent en capacités, ils sont connectés à davantage d’outils, de données et de décisions — ce qui rend toute brèche plus coûteuse. Une seule compromission pourrait exposer des informations privées, générer de la désinformation réaliste ou lancer des attaques automatisées plus rapidement que les humains ne pourraient réagir.
Selon CNBC, Schmidt a parlé d’un potentiel « problème de prolifération », la même dynamique qui définissait autrefois la technologie nucléaire, désormais appliquée à un code capable de se réécrire lui-même.
Il s’est toutefois empressé d’ajouter que les retombées pourraient être tout aussi transformatrices. Schmidt a décrit l’intelligence artificielle comme « sous-estimée », prédisant des retombées économiques considérables et des avancées majeures dans les sciences et l’industrie. Le défi, a-t-il déclaré, consiste à empêcher cette puissance de se retourner contre ses créateurs.
Les luttes de pouvoir autour de l’IA ne se limitent pas aux laboratoires et aux centres de données ; elles commencent à bouleverser les parcours professionnels de la nouvelle génération qui entre sur le marché du travail.