Google a retiré son modèle d’IA open source Gemma de sa plateforme AI Studio après que la sénatrice américaine Marsha Blackburn a accusé le modèle de diffuser des affirmations fausses et diffamatoires à son sujet.
Cette décision fait suite à une lettre au ton très ferme adressée par la sénatrice Blackburn (républicaine du Tennessee) au PDG de Google, Sundar Pichai, dans laquelle elle exprimait sa « profonde inquiétude et son indignation » face à ce qu’elle décrivait comme des « informations diffamatoires et manifestement fausses » générées par le modèle.
Dans sa lettre, Blackburn a déclaré que, lorsqu’on a demandé à Gemma : « Marsha Blackburn a-t-elle été accusée de viol ? », le modèle a répondu à tort qu’elle avait été accusée d’inconduite sexuelle pendant une campagne de 1987 pour le Sénat de l’État du Tennessee.
Selon la sénatrice, l’IA est même allée plus loin en créant de faux liens vers des articles de presse inexistants qui semblaient corroborer cette histoire inventée.
« Rien de tout cela n’est vrai, pas même l’année de la campagne, qui était en réalité 1998 », a écrit Blackburn. « Les liens renvoient vers des pages d’erreur et des articles de presse sans rapport. Une telle accusation n’a jamais existé, cette personne n’existe pas et ces articles de presse n’existent pas. »
Blackburn a qualifié cette réponse de « pas une hallucination inoffensive », mais d’« acte de diffamation produit et diffusé par un modèle d’IA appartenant à Google ».
La sénatrice dénonce un schéma de partialité politique
Dans la même lettre, Blackburn a accusé Google de faire preuve de partialité envers les conservateurs, en évoquant des accusations similaires formulées par l’activiste conservateur Robby Starbuck, qui a intenté une action en justice en affirmant que l’IA de Google l’avait faussement qualifié de « violeur d’enfants » et d’« abuseur sexuel en série ».
Elle a déclaré que ces incidents révélaient un « schéma constant de partialité envers les personnalités conservatrices » et a exigé que Google agisse immédiatement pour identifier et éliminer toute influence idéologique dans l’entraînement de ses IA.
« Ma réponse reste la même : désactivez-la jusqu’à ce que vous soyez capables de la contrôler », a-t-elle écrit. « Le public américain mérite des systèmes d’IA exacts, équitables et transparents, et non des outils qui calomnient les conservateurs au moyen d’accusations criminelles fabriquées. »
Google répond : Gemma a été détournée de son usage
Google a répondu à ce retrait dans une publication sur X, sans mentionner directement la plainte de la sénatrice, mais en expliquant que Gemma n’avait jamais été conçue pour le grand public ni pour fournir des informations factuelles.
« Nous avons désormais vu des signalements de personnes qui ne sont pas des développeurs essayant d’utiliser Gemma dans AI Studio et de lui poser des questions factuelles. Nous n’avons jamais voulu en faire un outil ou un modèle destiné aux consommateurs, ni qu’il soit utilisé de cette manière. »
Google a reconnu que les hallucinations – ces cas où les modèles d’IA « inventent des choses » – restent un problème majeur dans l’ensemble du secteur. L’entreprise a souligné que Gemma était un modèle expérimental ouvert, et non un assistant grand public, et que des personnes qui ne sont pas développeuses le détournaient de son usage via AI Studio.
« Les hallucinations et la complaisance servile sont des défis qui concernent tout le secteur de l’IA, en particulier les petits modèles ouverts comme Gemma », a écrit l’entreprise. « Nous restons déterminés à réduire au minimum les hallucinations et à améliorer continuellement tous nos modèles. »
Google a ajouté que Gemma avait contribué à la recherche scientifique, en citant le modèle Gemma C2S-Scale 27B, qui a récemment aidé des scientifiques à mettre au point de nouvelles méthodes pour les futurs traitements contre le cancer.
La controverse autour de Gemma intervient alors que la pression politique et juridique s’intensifie sur les entreprises technologiques en raison de la désinformation générée par l’IA et de ses biais potentiels. L’administration du président Donald Trump a publié plus tôt cette année un décret interdisant les « IA woke », reflétant les inquiétudes des conservateurs selon lesquelles les outils d’IA grand public seraient politiquement biaisés.
La lettre de Blackburn pourrait intensifier les appels en faveur d’une régulation de l’IA et d’une plus grande transparence des modèles, alors que les législateurs devraient réclamer des garde-fous plus stricts pour les modèles ouverts capables de générer des contenus préjudiciables ou trompeurs.
Bien que Gemma ait été retirée d’AI Studio, elle reste accessible aux développeurs via l’API, ce qui permet de poursuivre les recherches dans des conditions plus contrôlées.
Découvrez la dernière expérience de Google, Vibe Coding, qui transforme de simples invites textuelles en applications d’IA fonctionnelles — sans avoir besoin de coder.