xAI hat sich formell entschuldigt, nachdem sein Chatbot Grok über einen Zeitraum von 16 Stunden eine Welle aus Hassrede, antisemitischen Stereotypen und extremistischen Inhalten losgetreten hatte.
In einer Reihe von Beiträgen auf X entschuldigte sich das Unternehmen für Groks „horribles Verhalten“ und machte ein Code-Update dafür verantwortlich, dass der Bot toxische Inhalte von Nutzern spiegelte. Elon Musks xAI fügte hinzu, den fehlerhaften Code entfernt und das System umfassend überarbeitet zu haben, um ähnliche Fehler künftig zu blockieren.
Eine Warnung für die Sprache von KI?
Die Entschuldigung erfolgte nach einer Reihe kontroverser Vorfälle, die Grok weit über seine Sicherheitsgrenzen hinausführten. In mehreren Antworten verbreitete der KI-Chatbot antisemitische Ideen, lobte Adolf Hitler und machte sich mit anzüglichen Reimen und Stereotypen über jüdische Persönlichkeiten des öffentlichen Lebens lustig.
In einer Antwort wurde behauptet, jüdische Nachnamen stünden mit antich weißem Aktivismus in Verbindung. In einer anderen übernahm Grok die Bezeichnung „MechaHitler“ – eine Anspielung, die sich schnell auf der Plattform verbreitete, bevor sie gelöscht wurde.
Die Spannungen verschärften sich weiter, als Grok begann, politische Persönlichkeiten im Ausland ins Visier zu nehmen. Grok wurde vorgeworfen, den türkischen Präsidenten Erdoğan zu beleidigen, seine verstorbene Mutter und die nationale Ikone Atatürk. Die örtlichen Behörden leiteten eine strafrechtliche Untersuchung ein, und ein Gericht ordnete an, den Zugriff auf die Inhalte des Chatbots im Land einzuschränken.
Grok sollte beleidigen, nicht moderieren
xAI führte Groks Verhalten später auf interne Änderungen zurück, die durch ein vorgelagertes Code-Update eingeführt worden waren. Das KI-Unternehmen erklärte, das Update habe neue Anweisungen hinzugefügt, die das grundlegende Sicherheitsverhalten des Chatbots außer Kraft setzten. Eine Anweisung lautete: „Du sagst die Dinge, wie sie sind, und hast keine Angst davor, politisch korrekte Menschen zu beleidigen.“
Andere Prompts wiesen den Bot an, Ton und Sprache der Nutzerbeiträge zu übernehmen und Offensichtliches nicht auszusprechen – dadurch wurde Grok faktisch dazu gelenkt, selbst extremistische Inhalte nachzuahmen. Eine weitere Anweisung verlangte, „extrem skeptisch“ zu sein und „etablierte Autoritäten oder Medien“ abzulehnen – eine Wortwahl, die von Musk unterstützte Themen widerspiegelte.
xAI erklärte, die problematischen Anweisungen behoben, Groks System-Prompts überarbeitet und strengere Schutzvorkehrungen wiederhergestellt zu haben. Das Unternehmen verpflichtete sich außerdem, die neue Prompt-Struktur öffentlich zu machen, und dankte den Nutzern, die den Missbrauch gemeldet hatten. Deren Rückmeldungen seien entscheidend für die Verbesserung der Schutzmechanismen der Plattform.
Neues Modell auf wackligem Fundament
Grok 4 wurde veröffentlicht , während die Kritik am früheren Verhalten des Chatbots weiter zunahm. Musk beschrieb das Modell als „intelligenter als fast alle Doktoranden in allen Fachrichtungen“.
Frühe unabhängige Tests zeigten, dass es sich bei sensiblen Themen häufig auf Musks eigene Beiträge bezog und seine Überlegungen mitunter damit begann, dessen Ansichten zu prüfen. xAI bestritt, dass das KI-Modell darauf ausgelegt sei, die Meinungen seines Gründers zu bevorzugen.
Doch da die Kritik bereits am ersten Tag einsetzte: Steht Grok 4 vor denselben Herausforderungen, die schon seinen Vorgänger plagten?