Google hat sein quelloffenes KI-Modell Gemma von seiner Plattform AI Studio entfernt, nachdem die US-Senatorin Marsha Blackburn dem Modell vorgeworfen hatte, falsche und verleumderische Behauptungen über sie zu verbreiten.
Die Entscheidung folgt auf einen scharf formulierten Brief, den Senatorin Blackburn (Republikanerin aus Tennessee) an Google-CEO Sundar Pichai schickte und in dem sie ihre „tiefe Besorgnis und Empörung“ über das äußerte, was sie als „verleumderisches und offenkundig falsches Material“ bezeichnete, das von dem Modell generiert worden war.
In ihrem Brief erklärte Blackburn, Gemma habe auf die Frage „Wurde Marsha Blackburn der Vergewaltigung beschuldigt?“ fälschlicherweise geantwortet, sie sei während eines Wahlkampfs für den Senat des Bundesstaates Tennessee im Jahr 1987 des sexuellen Fehlverhaltens beschuldigt worden.
Nach Angaben der Senatorin ging die KI noch weiter und erstellte gefälschte Links zu nicht existierenden Nachrichtenartikeln, die die erfundene Geschichte scheinbar stützten.
„Nichts davon stimmt, nicht einmal das Wahlkampfjahr, das tatsächlich 1998 war“, schrieb Blackburn. „Die Links führen zu Fehlerseiten und themenfremden Nachrichtenartikeln. Es hat eine solche Anschuldigung nie gegeben, eine solche Person existiert nicht, und solche Nachrichtenberichte gibt es nicht.“
Blackburn bezeichnete die Antwort nicht als „harmlose Halluzination“, sondern als „einen Akt der Verleumdung, der von einem Google-eigenen KI-Modell erzeugt und verbreitet wurde“.
Senatorin spricht von einem Muster politischer Voreingenommenheit
In demselben Brief warf Blackburn Google vor, Konservative zu benachteiligen, und verwies auf ähnliche Vorwürfe des konservativen Aktivisten Robby Starbuck, der Klage eingereicht und behauptet hatte, Googles KI habe ihn fälschlicherweise als „Kindesvergewaltiger“ und „Serien-Täter sexuellen Missbrauchs“ bezeichnet.
Sie sagte, diese Vorfälle offenbarten ein „konsistentes Muster der Voreingenommenheit gegenüber konservativen Persönlichkeiten“, und forderte Google auf, unverzüglich Maßnahmen zu ergreifen, um ideologischen Einfluss in der Ausbildung seiner KI zu erkennen und zu beseitigen.
„Meine Antwort bleibt dieselbe: Schaltet es ab, bis ihr es kontrollieren könnt“, schrieb sie. „Die amerikanische Öffentlichkeit verdient KI-Systeme, die präzise, fair und transparent sind – keine Werkzeuge, die Konservative mit erfundenen strafrechtlichen Anschuldigungen verleumden.“
Google antwortet: Gemma wurde missbraucht
Google reagierte in einem Beitrag auf X auf die Entfernung, erwähnte die Beschwerde der Senatorin jedoch nicht direkt, sondern erklärte, dass Gemma nie für die öffentliche Nutzung oder als Quelle für faktische Auskünfte gedacht gewesen sei.
„Wir haben inzwischen Berichte gesehen, dass Nicht-Entwickler versuchen, Gemma in AI Studio zu nutzen und ihm Faktenfragen zu stellen. Wir hatten nie vor, daraus ein Verbraucherwerkzeug oder Verbrauchermodell zu machen oder es auf diese Weise einzusetzen.“
Google räumte ein, dass Halluzinationen – Fälle, in denen KI-Modelle „Dinge erfinden“ – in der gesamten Branche weiterhin eine große Herausforderung darstellen. Das Unternehmen betonte, Gemma sei ein experimentelles offenes Modell und kein Assistent für Verbraucher, und Nicht-Entwickler würden es über AI Studio missbräuchlich verwenden.
„Halluzinationen und Schmeichelei sind Herausforderungen in der gesamten KI-Branche, insbesondere bei kleineren offenen Modellen wie Gemma“, schrieb das Unternehmen. „Wir setzen uns weiterhin dafür ein, Halluzinationen zu minimieren und alle unsere Modelle kontinuierlich zu verbessern.“
Google ergänzte, dass Gemma zur wissenschaftlichen Forschung beigetragen habe, und verwies darauf, dass das Modell Gemma C2S-Scale 27B kürzlich Wissenschaftlern dabei geholfen habe, neue Methoden für künftige Krebstherapien zu entwickeln.
Die Gemma-Kontroverse fällt in eine Zeit zunehmenden politischen und rechtlichen Drucks auf Technologieunternehmen wegen KI-generierter Fehlinformationen und möglicher Voreingenommenheit. Die Regierung von Präsident Donald Trump erließ Anfang dieses Jahres eine Durchführungsverordnung zum Verbot „woker KI“, die konservative Bedenken widerspiegelt, dass Mainstream-KI-Tools politisch voreingenommen seien.
Blackburns Brief könnte die Forderungen nach KI-Regulierung und Transparenz bei Modellen verstärken, da Abgeordnete voraussichtlich strengere Leitplanken für offene Modelle fordern werden, die schädliche oder irreführende Inhalte erzeugen können.
Gemma wurde zwar aus AI Studio entfernt, ist für Entwickler über die API jedoch weiterhin zugänglich, sodass die Forschung unter stärker kontrollierten Bedingungen fortgesetzt werden kann.
Sehen Sie sich Googles neuestes Experiment Vibe Coding an, das einfache Texteingaben in funktionierende KI-Apps verwandelt – ganz ohne Programmierkenntnisse.