Les prochains modèles d’intelligence artificielle d’OpenAI pourraient présenter un risque accru d’être utilisés pour aider à créer des armes biologiques. L’entreprise reconnaît que si un modèle d’IA est suffisamment puissant pour permettre des découvertes scientifiques ou médicales bénéfiques, il peut aussi être utilisé à des fins nuisibles.
« Les mêmes capacités fondamentales qui stimulent les progrès, comme le raisonnement à partir de données biologiques, la prédiction de réactions chimiques ou le guidage d’expériences en laboratoire, pourraient aussi être détournées pour aider des personnes disposant d’une expertise minimale à recréer des menaces biologiques, ou aider des acteurs hautement qualifiés à créer des armes biologiques », écrit OpenAI dans un nouvel article de blog.
OpenAI s’attend à ce que ses prochains modèles d’IA atteignent le niveau de capacité « élevé » en biologie, tel qu’il est défini par son propre Preparedness Framework. Cela signifie qu’ils pourraient fournir « une aide significative à des acteurs novices disposant d’une formation de base pertinente, leur permettant de créer des menaces biologiques ou chimiques ».
Il est à noter que l’article d’OpenAI sur les armes biologiques a été publié un jour après que l’entreprise a accepté un contrat de 200 millions de dollars avec le département de la Défense des États-Unis.
Comment OpenAI s’efforce d’atténuer ces risques
Néanmoins, OpenAI ne commercialisera aucun modèle d’IA tant qu’elle ne sera pas convaincue que les risques ont été atténués. À cette fin, l’entreprise travaille avec des experts en biosécurité, des chercheurs universitaires, des membres d’équipes rouges qui savent tester les vulnérabilités de l’IA, ainsi qu’avec des organismes publics, notamment le US Center for AI Standards and Innovation et le UK AI Security Institute afin de concevoir et de mener le processus de test et de préparer des mesures d’atténuation.
Ces mesures comprennent notamment :
- Entraîner les modèles à ne pas répondre aux requêtes nuisibles ou dangereuses, ou à y répondre de manière sûre.
- Des systèmes de détection et de blocage pour signaler les activités biologiques suspectes.
- Utiliser des systèmes d’IA et des évaluateurs humains pour faire respecter les règles d’utilisation, suspendre les comptes en infraction et faire intervenir les forces de l’ordre lorsque cela est approprié.
- Des contrôles de sécurité, tels que le contrôle des accès et le renforcement de l’infrastructure.
Les modèles d’OpenAI ne sont pas les seuls à accroître les risques pour la biosécurité
La question des modèles d’IA et des armes biologiques n’est pas nouvelle. Par exemple, en mai 2024, 26 pays ont convenu de collaborer à l’élaboration de seuils de risque pour les systèmes d’IA susceptibles de créer des armes biologiques.
En février 2025, ce risque a été mis en évidence dans le UK’s International AI Safety Report.
En avril 2025, des chercheurs ont évalué les principaux modèles d’IA à l’aide du Virology Capabilities Test, une référence mesurant les connaissances de niveau expert en virologie et en protocoles de laboratoire. Ils ont constaté que des modèles comme GPT-4o d’OpenAI surpassaient la plupart des virologues humains, ce qui a suscité des inquiétudes concernant les risques liés aux armes biologiques.
En mai 2025, Anthropic a confirmé avoir mis en place des mesures de sécurité pour Claude Opus 4 afin d’empêcher son utilisation pour fabriquer des armes biologiques et nucléaires, compte tenu du risque accru présenté par le modèle. Pourtant, seulement un mois avant sa commercialisation, le PDG d’Anthropic a reconnu que, tant que nous ne comprendrons pas réellement le fonctionnement de l’IA, ce qui n’est pas le cas, nous ne serons pas en mesure de concevoir en toute confiance des systèmes empêchant ce type de comportement nuisible.
Cette semaine, un groupe d’experts en IA a publié un rapport affirmant que les éléments établissant un lien entre les modèles d’IA et les risques liés aux armes biologiques se sont considérablement multipliés depuis mars, les développeurs ayant fait état de « bonds de capacités » dans ces domaines.
La législation est importante pour réduire ce risque lié à l’IA, mais difficile à adopter
Les experts en IA s’accordent largement à dire qu’une réponse forte et coordonnée est essentielle pour protéger le public contre les risques liés à l’utilisation de l’IA par des individus pour développer des armes biologiques. En février, l’ancien PDG de Google Eric Schmidt a averti que des États voyous comme la Corée du Nord, l’Iran et la Russie pourraient s’emparer de cette capacité en l’absence d’une telle réponse.
Le mois suivant, Anthropic a envoyé une lettre à l’Office of Science and Technology Policy de la Maison-Blanche appelant à une action immédiate en matière de sécurité de l’IA, après que ses propres tests eurent révélé des améliorations alarmantes de la capacité de Claude 3.7 Sonnet à aider dans certains aspects du développement d’armes biologiques.
Malheureusement, l’adoption d’une législation sur l’IA s’est jusqu’à présent révélée difficile, en grande partie en raison de désaccords entre les défenseurs de la sécurité et les entreprises technologiques, ainsi que certains responsables politiques, qui craignent que des garde-fous ne freinent l’innovation et ne limitent les retombées économiques qu’elle génère.
Le projet de loi californien sur la réglementation de l’IA SB-1047, qui visait à empêcher les modèles d’IA de causer des dommages à grande échelle à l’humanité, notamment au moyen d’armes biologiques, aurait constitué la réglementation américaine la plus stricte concernant l’IA générative. Toutefois, ce projet de loi a été rejeté par veto en septembre 2024 par le gouverneur Gavin Newsom, qui le jugeait trop rigide.
Désormais, un projet de loi budgétaire soutenu par les républicains progresse au Congrès. Il interdirait aux États et collectivités locales des États-Unis de réglementer l’IA pendant la prochaine décennie, ses promoteurs estimant qu’un cadre national unifié serait préférable à un ensemble fragmenté de lois adoptées par les États. Les détracteurs soulignent toutefois que la suppression des mesures de mise en conformité au niveau des États laisserait les entreprises technologiques irresponsables, attirant ainsi celles qui cherchent à éviter les délais réglementaires.
Pour en savoir plus sur les raisons pour lesquelles les experts estiment que la législation sur l’IA ne suit pas le rythme des avancées technologiques, consultez notre analyse du veto du gouverneur Newsom au projet de loi californien sur l’IA.