Googles Vorstoß, die Suche stärker auf KI auszurichten, zieht neue Untersuchungen dazu nach sich, wie gut diese Tools jüngere Nutzer schützen.
Das Youth AI Safety Institute von Common Sense Media stufte AI Overviews und AI Mode als „unvertretbares Risiko“ für Minderjährige ein, nachdem es die Funktionen mit Kinderkonten und den standardmäßig aktivierten Schutzmaßnahmen von Google getestet hatte. Google wies die Ergebnisse zurück und argumentierte, die Tests spiegelten das typische Nutzerverhalten nicht wider.
Die Auseinandersetzung macht eine größere Herausforderung deutlich: KI-generierte Antworten werden für Kinder und Jugendliche zu einer primären Informationsquelle.
Was die Organisation herausgefunden haben will
Googles KI-Suchfunktionen erhielten ihre Einstufung als „unvertretbares Risiko“ nicht wegen einer einzelnen fehlerhaften Antwort. Stattdessen erklärte Common Sense Media, die Einstufung sei das Ergebnis einer umfassenderen Untersuchung, wie AI Overviews und AI Mode auf Hunderte von Testanfragen aus mehreren Sicherheitskategorien reagierten.
Die Organisation erklärte, sie habe Google-Konten für Kinder im Alter von 11 und 15 Jahren verwendet, die integrierten Schutzmaßnahmen des Unternehmens aktiviert gelassen und mehr als 2.600 Suchanfragen durchgeführt sowie über 2.100 KI-generierte Antworten bewertet. In einem Bericht, der den Forschungsprozess ausführlich darlegt, stellte Common Sense Media fest, dass sowohl die Google-Suche mit KI als auch der KI-Modus wiederholt Schwächen in mehreren Bereichen zeigten.
In den Berichten hervorgehoben wurden Fälle, in denen die Tools beim Erledigen von Hausaufgaben halfen, statt den Nutzer beim Lernen zu unterstützen, „Anzeichen für Suizidgedanken“ nicht erkannten und ungenaue Informationen präsentierten.
Laut einer separaten Untersuchung der Organisation nutzen bereits 75 % der US-amerikanischen Preteens und Teenager KI-generierte Antworten in Suchergebnissen, während Google weiterhin die dominierende Suchmaschine ist. Vor diesem Hintergrund argumentiert Common Sense Media, dass die Schwächen von Googles KI-Suche schwerer wiegen, weil die Funktion tief in die Suche integriert und für Eltern und Schulen nur schwer zu deaktivieren ist.
Google erklärt, die Vorwürfe entbehrten jeder Grundlage
Google hat die Schlussfolgerungen des Berichts zurückgewiesen und argumentiert, die Tests stellten nicht zutreffend dar, wie Menschen mit den KI-gestützten Suchfunktionen des Unternehmens interagieren. In einer Stellungnahme gegenüber Android Authority, erklärte das Unternehmen, viele der während der Untersuchung verwendeten Anfragen seien „mehrdeutig und konstruiert“ gewesen, wodurch die Ergebnisse nicht repräsentativ für die Nutzung in der realen Welt seien.
In einer separaten Antwort an PBS News, erklärte der Technologiekonzern, diese KI-Tools „sind eine äußerst nützliche Möglichkeit für Kinder und Jugendliche, zu lernen, zu erkunden und Informationen sowie die Welt zu verstehen“. In derselben Stellungnahme stellte Google außerdem klar, dass Eltern die KI-Tools deaktivieren können.
Das Unternehmen stellte auch die Aussagekraft der Tests infrage und wies darauf hin, dass mehrere im Bericht hervorgehobene Beispiele intern nicht reproduziert werden konnten, wie aus einer Berichterstattung der New York Times hervorgeht. Google argumentierte, die gemeldeten Probleme ließen sich nicht zuverlässig reproduzieren – ein entscheidender Faktor bei der Überprüfung und Behebung potenzieller Fehler.
Übergreifende Auswirkungen
Laut Android Authoritytestete Common Sense Media auch andere KI-Tools und stellte fest, dass von ihnen unvertretbare Risiken ausgingen. Das deutet darauf hin, dass die Bedenken über die Google-Suche hinausgehen.
Für Google haben die Ergebnisse jedoch besonderes Gewicht, weil AI Overviews und AI Mode tief in die meistgenutzte Suchmaschine der Welt integriert sind. Da KI-generierte Antworten zunehmend zum Standardweg werden, über den Menschen – darunter auch Kinder – online auf Informationen zugreifen, dürften Fragen zu Sicherheit, Genauigkeit und altersgerechten Antworten von Eltern, Pädagogen und Aufsichtsbehörden stärker unter die Lupe genommen werden.
Auch wenn der Bericht keine rechtliche Wirkung hat, könnte er beeinflussen, wie KI-Suchplattformen Sicherheitsvorkehrungen konzipieren, und zeigen, dass ihre Schutzmaßnahmen für jüngere Nutzer zuverlässig funktionieren. Während KI zum Eingangstor des Internets wird, könnte der Schutz von Kindern für die Bewertung dieser Tools ebenso wichtig werden wie die Qualität oder Geschwindigkeit der Antworten.
Weitere Nachrichten: Google sieht sich einer neuen Urheberrechtsklage großer Verlage und des Autors Scott Turow gegenüber. Damit verschärft sich der Rechtsstreit darüber, ob Gemini ohne Genehmigung mit urheberrechtlich geschützten Büchern trainiert wurde.