Der Tech-Gigant, dem alle bei der Suche nach Antworten vertrauen, könnte zu einer Gesundheitsgefahr geworden sein.
Im Anschluss an die vergangene Woche hat Google stillschweigend mehrere KI-generierte Gesundheitszusammenfassungen entfernt, nachdem Untersuchungen von The Guardian gefährliche Falschinformationen aufgedeckt hatten, die Patienten buchstäblich das Leben kosten könnten. Gesundheitsexperten bezeichnen sie als „alarmierend“ und „gefährlich“.
Googles Funktion AI Overviews liefert Millionen Menschen über seinen dominierenden Suchmaschinen-Marktanteil von 91 % sofortige medizinische Ratschläge. Doch als Nutzer nach wichtigen Informationen zu Lebertests suchten, gab die KI potenziell tödliche Hinweise aus, ohne Faktoren wie Alter, Geschlecht oder ethnische Zugehörigkeit zu berücksichtigen – Faktoren, die medizinische Fachleute als entscheidend bestätigten und die dazu führen könnten, dass schwerkranke Patienten auf lebensrettende Nachsorge verzichten.
Die tödlichen Fehler, die Google zum Handeln zwangen
The Guardian stellte fest, dass Googles KI falsche Ernährungsempfehlungen bei Bauchspeicheldrüsenkrebs gab, die eine Mangelernährung verursachen könnten, während Ergebnisse von Leberfunktionstests als allgemeingültige Standards präsentiert wurden, obwohl sie je nach demografischen Merkmalen der Patienten tatsächlich stark variieren.
Vanessa Hebditch vom British Liver Trust erklärte gegenüber Reportern, dass die KI-Zusammenfassungen Testwerte fett hervorheben und es für Patienten dadurch gefährlich leicht wird zu übersehen, dass diese Bereiche möglicherweise nicht auf ihre individuelle Situation zutreffen. Die Zusammenfassungen versäumten es, darauf hinzuweisen, dass Menschen normale Testergebnisse haben und dennoch wegen einer schweren Lebererkrankung dringend medizinisch behandelt werden müssen.
Gesundheitsorganisationen reagierten innerhalb weniger Stunden und zeigten sich alarmiert darüber, dass Patienten wichtige medizinische Entscheidungen auf Grundlage von KI-generierten Falschinformationen verzögern könnten, die oben in den Suchergebnissen den Anschein von Autorität erwecken.
Was Google Ihnen verschweigt
Googles Reaktion offenbart beunruhigende Lücken in den Sicherheitsmaßnahmen des Unternehmens. Zwar entfernte das Unternehmen AI Overviews für bestimmte Suchanfragen rund um die Leber, doch Untersuchungen zeigen, dass geringfügig anders formulierte Suchbegriffe weiterhin dieselben gefährlichen Zusammenfassungen auslösen. Ein Google-Sprecher erklärte gegenüber The Independent, man äußere sich nicht zu einzelnen Entfernungen, was Fragen zur Transparenz aufwirft.
Die interne Prüfung des Unternehmens ergab laut den Nachrichtenberichten, dass viele KI-Antworten technisch durch „hochwertige Websites“ gestützt wurden. Experten argumentieren jedoch, dass dies völlig am Kern vorbeigeht – Kontext und Personalisierung sind wichtiger als bloße Genauigkeit, wenn Menschenleben auf dem Spiel stehen.
Analyse aus der vergangenen Woche zeigt, dass AI Overviews bei bis zu 30 % der Suchanfragen erscheinen. Dabei werden weiterhin Gesundheitsinformationen zu Krebs- und psychischen Erkrankungen ausgespielt, die Experten als „völlig falsch“ und „wirklich gefährlich“ bezeichnen.
Warum das wichtig ist
Die Auswirkungen gehen weit über Googles Plattform hinaus. Eine Stanford-Harvard-Studie aus dem vergangenen Jahr ergab, dass führende KI-Modelle in bis zu 22 % der Fälle schädliche medizinische Empfehlungen geben – vor allem durch gefährliche Auslassungen und nicht durch offenkundige Fehler.
Diese Krise zeigt, wie KI-Unternehmen im Wettlauf um die Einführung generativer Funktionen Geschwindigkeit über Sicherheit stellten. Diskussionen in der Branche deuten auf unzureichende Tests in Gesundheitsbereichen hin, während Politiker nun verbindliche Haftungsausschlüsse für KI-generierte Gesundheitsinhalte fordern.
Während Technologie-Communities dringendes Handeln fordern, um zu verhindern, dass KI-Falschinformationen in der realen Welt Schaden anrichten, verlassen sich weiterhin Millionen Menschen bei medizinischen Fragen auf Google.
Diese Enthüllungen zeigen, wie schnell sich KI-Innovation von einem hilfreichen Werkzeug in eine lebensbedrohliche Haftungsfalle verwandeln kann – und Googles hektische Versuche, den Schaden zu beheben, machen deutlich, dass diese Krise noch lange nicht vorbei ist.
Obwohl mehr Entwickler denn je Tailwind CSS verwenden, schrumpft das Unternehmen dahinter rapide … und die KI ist schuld.