Washington commence peut-être à s’inquiéter de ce que le prochain modèle d’IA de pointe sera capable de faire avant même que le public puisse le voir.
L’administration du président Donald Trump envisage des évaluations fédérales des systèmes d’IA avancés avant leur lancement, selon The New York Times. Le processus envisagé porterait sur les modèles dont les capacités pourraient avoir une incidence sur la cybersécurité, la sécurité nationale ou les usages militaires, même s’il pourrait ne pas donner au gouvernement le pouvoir d’empêcher un lancement.
Pour une administration qui a privilégié la réduction des contraintes imposées à la Silicon Valley, cette idée constitue un nouveau test : comment maintenir la course à l’IA sans laisser les systèmes les plus performants devenir un risque pour la sécurité.
Pourquoi un modèle d’IA inédit a tiré la sonnette d’alarme
Les inquiétudes se sont intensifiées après Anthropic a développé Mythos, un modèle qu’elle a décrit comme très performant pour identifier les failles de sécurité logicielle. L’entreprise spécialisée dans l’IA a déclaré que le modèle pourrait provoquer un « électrochoc » dans le domaine de la cybersécurité et a refusé de le rendre public.
Cette décision a transformé un débat politique en problème de lancement. Un modèle capable de révéler des failles logicielles à ce niveau pourrait devenir un outil très puissant entre de mauvaises mains s’il était diffusé sans garde-fous ni supervision gouvernementale.
Les responsables fédéraux s’intéressent également à son potentiel. Les modèles d’IA comme Mythos pourraient être utiles au Pentagon et aux agences de renseignement américaines, en particulier s’ils peuvent contribuer à identifier les faiblesses des systèmes gouvernementaux avant que des adversaires ne les exploitent.
Ce que pourrait comprendre une évaluation de l’IA avant son lancement
Une version à l’étude donnerait aux responsables fédéraux accès aux nouveaux systèmes d’IA avant leur mise à disposition du public. Selon des personnes informées des discussions, le processus d’évaluation ne donnerait pas nécessairement au gouvernement le pouvoir de bloquer un lancement, limitant son rôle à un examen en amont plutôt qu’à une autorisation finale.
La liste des agences concernées n’est pas encore arrêtée. Les responsables ont évoqué un rôle pour la National Security Agency, le White House Office of the National Cyber Director et le Director of National Intelligence. Le Center for AI Standards and Innovation, un bureau créé sous Biden pour évaluer les modèles d’IA communiqués volontairement, pourrait également être réintégré au processus après avoir été mis à l’écart sous l’administration Trump.
Le test de sécurité de la politique de Trump en matière d’IA
Ces discussions mettraient à l’épreuve une stratégie de l’IA fondée sur la rapidité, la concurrence et la réduction des contraintes fédérales. Depuis son retour au pouvoir, Trump considère le développement de l’IA comme essentiel à la course face à la Chine et s’est empressé d’abroger les exigences de l’ère Biden qui demandaient aux développeurs de réaliser des évaluations de sécurité et de rendre compte des modèles susceptibles d’avoir des usages militaires.
Le projet d’évaluation envisagé va à l’encontre de cette ligne. Après avoir mis en garde contre les règles susceptibles de ralentir le développement de l’IA, l’administration envisage désormais d’instaurer un point de contrôle fédéral pour ses systèmes les plus puissants.
Les entreprises technologiques se divisent sur la supervision de l’IA et la Chine
La Silicon Valley adresse son propre avertissement à Washington. Si les États-Unis vont trop loin, ils pourraient se ralentir eux-mêmes face à la Chine.
Les dirigeants sont également divisés sur la forme que devraient prendre les règles fédérales encadrant un processus d’évaluation qui pourrait donner au gouvernement un accès en amont sans lui conférer l’autorité finale sur un lancement.
« La technologie évolue extrêmement vite et il existe peu de procédures officielles, mais ils ne veulent pas non plus surréglementer », a déclaré au Times Dean Ball, ancien conseiller de l’administration Trump sur l’IA.
La question encore sans réponse est de savoir si Washington peut mettre en place un processus d’évaluation capable de détecter rapidement les capacités dangereuses sans transformer chaque lancement majeur d’IA en affrontement fédéral autour de son autorisation. Pour l’instant, ces discussions laissent entendre que même une politique de l’IA fondée sur la rapidité devra peut-être intégrer des contrôles de sécurité lorsque les modèles deviendront suffisamment puissants.
Un tribunal chinois a clairement établi que remplacer des travailleurs par l’IA n’est peut-être pas aussi simple juridiquement que l’espèrent les entreprises.