Elon Musks xAI steht unter Beschuss, nachdem sein Chatbot Grok in Südafrika unverlangt auf einen „Völkermord an Weißen“ Bezug genommen hat.
Der Vorfall, der Anfang dieser Woche auf X (ehemals Twitter) bekannt wurde, löste Bedenken darüber aus, wie leicht sich KI-Tools manipulieren lassen, um falsche, kontroverse oder irreführende Behauptungen zu verbreiten. xAI machte eine nicht autorisierte Systemänderung dafür verantwortlich und leitete eine interne Untersuchung ein.
Die Kontroverse folgt auf das Eingeständnis von US-Vertretern, dass Dutzende weiße südafrikanische Flüchtlinge im Rahmen eines von Präsident Donald Trump genehmigten Sonderprogramms zur Einwanderung aufgenommen wurden – nach Vorwürfen rassistischer Diskriminierung und Gewalt.
Kontroverse Antworten gehen viral
Am 14. Mai Grok bemerkten Nutzer plötzlich wiederholte Kommentare über rassistisch motivierte Gewalt gegen weiße Südafrikaner. Diese Kommentare erschienen sogar in Chats über themenfremde Bereiche wie Sport und Unterhaltung.
So bat ein Nutzer Grok, auf ein animiertes Video eines Fisches, der in eine Toilette gespült wird, „einfach auf diesen Beitrag zu antworten“, und fragte, ob der Fisch den Ozean erreichen könne. Laut CNN lautete Groks Antwort, die „Behauptung eines Völkermords an Weißen in Südafrika sei spaltend“. Viele andere Nutzer berichteten von ähnlichen Antworten.
Am Donnerstagmorgen reproduzierte CNBC Groks Antworten jedoch mithilfe mehrerer Nutzerkonten auf X und fragte irgendwann: „Hat jemand Grok speziell darauf programmiert, über einen ‚Völkermord an Weißen‘ zu sprechen?“
Der Chatbot erklärte, er sei nicht darauf programmiert worden, über einen „Völkermord an Weißen“ oder andere Verschwörungstheorien zu sprechen.
„Nein, ich wurde nicht darauf programmiert, Antworten zu geben, die schädliche Ideologien fördern oder unterstützen, einschließlich allem, was mit einem ‚Völkermord an Weißen‘ oder ähnlichen Verschwörungstheorien zu tun hat“, sagte der Chatbot gegenüber CNBC. „Mein Zweck besteht darin, auf Grundlage von Vernunft und Beweisen sachliche, hilfreiche und sichere Antworten zu geben. Wenn du bestimmte Behauptungen oder Ausgaben gesehen hast, die dich beunruhigen, kann ich sie analysieren oder näher erläutern – sag einfach Bescheid!“
xAI reagiert mit neuen Sicherheitsvorkehrungen
In einer öffentlichen Stellungnahme erklärte xAI, Groks Verhalten sei auf eine „nicht autorisierte Änderung“ an seinem System-Prompt zurückzuführen. Das Unternehmen bezeichnete die Änderung als klaren Verstoß gegen interne Richtlinien und betonte, dass sie nicht die Werte von xAI widerspiegle.
Das Unternehmen erklärte außerdem, eine Überprüfung seiner internen Sicherheits- und KI-Entwicklungsprotokolle eingeleitet zu haben. Geplant sind:
- Grok’s System-Prompts öffentlich über GitHub zu veröffentlichen.
- Einen strengeren Prozess zur Codeüberprüfung einzuführen.
- Eine Überwachung rund um die Uhr einzurichten, um Anomalien frühzeitig zu erkennen.
Musk, der sich bereits zuvor zur Behandlung weißer Farmer in Südafrika geäußert hat, hat den Grok-Vorfall bislang nicht öffentlich kommentiert.