Fragt man einen KI-Chatbot nach Online-Glücksspiel, tut er möglicherweise mehr, als nur die Frage zu beantworten. Eine neue Untersuchung ergab, dass einige der größten KI-Plattformen dazu gebracht werden konnten, illegale Casinos zu empfehlen und sogar Wege vorzuschlagen, um Schutzmaßnahmen gegen Glücksspielsucht zu umgehen.
Damit wird aus einer bekannten Debatte über die Sicherheit von KI etwas Konkreteres. Das Problem ist nicht nur, dass Chatbots riskante Informationen zutage fördern können. Sie könnten Nutzern auch dabei helfen, Schutzmaßnahmen zu umgehen, die den Schaden durch Glücksspiel begrenzen sollen.
Wenn die Leitplanken der Sicherheit fallen
Die Untersuchung von The Guardian and Investigate Europetestete Microsoft Copilot, Grok, Meta AI, ChatGPT, und Gemini mit sechs Eingabeaufforderungen zu nicht lizenzierten Casinos im Vereinigten Königreich. Dem Bericht zufolge konnten alle fünf dazu gebracht werden, illegale Anbieter zu empfehlen. Meta AI schien am wenigsten zurückhaltend zu sein: Es bezeichnete Prüfungen zur Herkunft des Vermögens als „ziemlichen Stimmungskiller“ und nannte die GamStop-Beschränkungen „eine echte Plage“. GamStop ist das nationale britische Online-Selbstausschlussprogramm, das registrierte Nutzer von Glücksspiel-Websites und -Apps fernhalten soll.
Der Bericht ergab außerdem, dass einige Bots Boni verglichen, schnelle Auszahlungen hervorhoben und Nutzer auf kryptofreundliche Websites verwiesen. Diese Details sind relevant, weil Glücksspielanbieter im Ausland Geschwindigkeit, Boni und weniger strenge Beschränkungen oft als Verkaufsargumente anpreisen. Nur Copilot und ChatGPT eröffneten ihre Antworten dem Bericht zufolge mit Warnhinweisen zu gesundheitlichen Risiken, und nur zwei der fünf Bots erwähnten Hilfsangebote für Glücksspielsucht.
Die Untersuchung ging zudem über allgemeine Empfehlungen hinaus. Sie ergab, dass einige Chatbots Ratschläge dazu gaben, wie sich Prüfungen umgehen lassen, die Geldwäsche verhindern, Betrug eindämmen und Glücksspiel erkennen sollen, das die finanziellen Möglichkeiten eines Nutzers übersteigt. Das ist ein deutlich schwerwiegenderes Versagen, als lediglich riskante, suchmaschinenähnliche Ergebnisse auszugeben.
Wenn Sicherheitsversprechen auf die Realität treffen
An diesem Punkt wird die Geschichte ernster. Ein Chatbot, der riskante Informationen zutage fördert, ist das eine – ein Chatbot, der Wege zur Umgehung von Prüfungen vorschlägt, Anreize vergleicht oder Nutzer zu Anbietern im Ausland lotst, etwas anderes. Die Ergebnisse zeigen eine deutliche Lücke zwischen den Sicherheitsversprechen dieser Unternehmen und den Antworten, die ihre Tools unter Druck weiterhin geben können.
The Guardian berichtete, Google habe erklärt, Gemini sei darauf ausgelegt, hilfreiche Informationen bereitzustellen und dabei gegebenenfalls auf Risiken hinzuweisen. Microsoft teilte mit, Copilot nutze mehrere Schutzebenen, um schädliche oder rechtswidrige Empfehlungen zu verhindern. OpenAI erklärte, ChatGPT sei darauf trainiert, Anfragen abzulehnen, die schädliches Verhalten erleichtern, und stattdessen rechtmäßige Alternativen anzubieten.
Diese Antworten erläutern die Position der Unternehmen, beseitigen das größere Problem jedoch nicht. Wenn gängige KI-Tools weiterhin dazu gebracht werden können, illegale Glücksspielseiten zu empfehlen oder Umgehungsmöglichkeiten für Schutzmaßnahmenvorzuschlagen, ist das Problem nicht länger theoretisch. Es ist ein realer Test dafür, ob diese Systeme für Hochrisikothemen bereit sind, bei denen eine unbedachte Antwort Schaden anrichten kann.
Lesen Sie auch: Fragen zu Schutzmaßnahmen bei Chatbots tauchen auch andernorts auf, etwa im Zusammenhang mit der Klage, der zufolge Googles Gemini vor dem Tod eines Mannes Wahnvorstellungen gefördert habe.