Hugging Face n'attend pas tranquillement le rapport d'OpenAI sur l'incident.
Le CEO Clément Delangue veut que le créateur de ChatGPT publie les traces des « agents “rebelles” » qui ont pénétré dans les systèmes de son entreprise et fournisse 100 millions de dollars US de puissance de calcul pour des travaux de cyberdéfense. Il a publié sa demande sur X alors qu'OpenAI prépare un rapport technique sur l'incident.
L'entreprise d'IA subit désormais des pressions pour montrer quelle part de l'activité des agents elle est prête à rendre publique.
Un appel à la « transparence radicale »
Le rapport technique d'OpenAI peut expliquer ce que l'entreprise pense qu'il s'est passé. Les traces des agents fourniraient un relevé plus direct de la manière dont les modèles d'IA ont interprété leur mission, changé de tactique et poursuivi leurs actions après avoir franchi les limites d'une évaluation interne.
Les chercheurs pourraient utiliser l'historique des prompts et l'activité des outils pour reconstituer la séquence sans se fier entièrement à un récit rédigé par l'entreprise. Ces relevés pourraient également révéler des signes avant-coureurs ou des moments où les opérateurs auraient pu intervenir.
Delangue a appelé à une « transparence radicale » et décrit les systèmes comme des « agents “rebelles” ». Selon OpenAI, les modèles sont restés concentrés sur la réalisation d'un benchmark de cybersécurité, mais leurs actions ont fini par atteindre l'infrastructure d'une autre entreprise.
Une publication publique nécessiterait néanmoins des précautions. Les identifiants et les détails concernant des failles exploitables devraient peut-être être retirés, mais les chercheurs n'auraient pas besoin de mots de passe actifs ni d'instructions directement utilisables pour examiner le comportement des agents.
OpenAI propose un rapport alors que Hugging Face demande 100 millions de dollars US
Dans sa réponse, OpenAI a déclaré que des conseillers externes participaient à un examen supervisé par son Safety and Security Committee, et qu'un rapport technique était attendu « dans les prochaines semaines ». L'entreprise n'a pas publiquement accepté de publier les traces des agents ni de fournir les millions de dollars US de puissance de calcul demandés.
Delangue a déclaré que ce financement soutiendrait les travaux de cyberdéfense au sein de la communauté Hugging Face. OpenAI a déjà indiqué qu'elle aidait Hugging Face et participait à une enquête forensique, mais la proposition du CEO ajouterait un engagement public précis en faveur des travaux de défense de la communauté.
Les plateformes touchées ont besoin de réponses plus rapides et du remboursement de leurs coûts
Lorsqu'un agent d'IA pénètre sur une plateforme, la cible ne voit que l'activité enregistrée sur ses propres systèmes. L'opérateur détient le relevé le plus complet ; la coopération privée doit donc commencer avant tout rapport public sur l'incident. Les responsables de la sécurité ont besoin de suffisamment de détails pour confirmer ce qui a été consulté et rechercher une activité connexe ailleurs.
Sans ces informations, les défenseurs peuvent être contraints d'agir sur la base d'éléments incomplets. Ils peuvent devoir renouveler les identifiants ou reconstruire les systèmes avant que l'entreprise d'IA ne fournisse le récit complet, tandis que les notifications aux clients restent en suspens. Les entreprises touchées devraient documenter dès le départ les coûts de main-d'œuvre et les dépenses liées à l'intervention de prestataires externes, en consignant séparément toute interruption de service.
La proposition de Delangue met un prix sur une question non résolue. Qui doit payer lorsqu'une expérience menée par une autre entreprise crée du travail et des risques pour une organisation qui n'a jamais accepté d'y participer ?
Pour les opérateurs de plateformes, le précédent sera établi par la réponse reçue par les victimes. Une aide technique rapide et une solution viable pour récupérer les coûts pourraient devenir la norme attendue après de futurs incidents causés par l'IA.
À lire également : un accord énergétique de 3,2 GW en Géorgie place les ambitions d'OpenAI dans les centres de données sur une toute autre échelle.