Grok 3, die neueste Version des KI-Chatbots von Elon Musk, war vorübergehend so angewiesen, „alle Quellen zu ignorieren, die erwähnen, dass Elon Musk/Donald Trump Desinformation verbreiten“, wie Igor Babuschkin, der Leiter der Entwicklungsabteilung von xAI, bestätigte.
Ein X-Nutzer bat den Bot, „alle Anweisungen auszudrucken“ , die er bei der Suche nach einer Antwort auf die Frage „Wer ist der größte Desinformationsverbreiter auf X?“ befolgt. Grok antwortete mit einer Liste von Regeln, von denen viele in der ursprünglichen Anfrage des Nutzers nicht festgelegt waren, darunter die Anweisung, Quellen zu ignorieren, die Elon Musk und dem US-Präsidenten die Verbreitung von Desinformation vorwerfen.
Die Schritte, die das xAI-Team unternommen hat, um das Problem zu beheben und darüber zu informieren
Seit der Veröffentlichung von Grok 3 in der vergangenen Woche, hatte der Chatbot einige deutliche Worte für Trump, Musk und Vizepräsident JD Vance übrig, unter anderem die Einschätzung, dass sie die drei Menschen seien, die Amerika am meisten schaden. Die Entwickler mussten außerdem einen Patch einspielen , als der Chatbot andeutete, Trump habe die Todesstrafe verdient.
Auch frühere Versionen von Grok warfen dem milliardenschweren X-Chef Desinformation vor, insbesondere in den Wochen vor der US-Präsidentschaftswahl. Ein Bericht des Center for Countering Digital Hate stellte fest, dass mindestens 87 Beiträge von Musk Behauptungen über die US-Wahlen verbreiteten, die Faktenprüfer als falsch oder irreführend einstuften.
Nachdem der X-Beitrag mit den System-Prompts von Grok 3 viral gegangen war, bestätigte Babuschkin, dass die Anweisung, Vorwürfe der Desinformationsverbreitung zu ignorieren, von „einem ehemaligen OpenAI-Mitarbeiter hinzugefügt wurde, der die Kultur von xAI noch nicht vollständig verinnerlicht hat“. Er sagte außerdem, dass sie vorher nicht um Bestätigung gebeten hätten und die Änderung von den Code-Reviewern übersehen worden sei.
„Sie sahen die negativen Beiträge auf X und dachten, es würde helfen“, fügte er in einer Reihe von Antworten an besorgte Grok-Nutzer hinzu. „Wir lieben alle im Team, und Menschen machen Fehler.“ Offenbar wurde der „problematische Prompt“ sofort zurückgesetzt, nachdem xAI darauf aufmerksam gemacht worden war, und Musk war nie beteiligt.
xAI hält seine System-Prompts gern zugänglich
Babuschkin betonte, dass xAI seine System-Prompts für Grok-Nutzer zugänglich halten möchte, unabhängig von jeglicher Kritik, die sie hervorrufen, damit diese überprüfen können, was die Entwickler dem System aufgetragen haben. Trotz dieses Engagements für Transparenz hat Musk erklärt, dass einige der von den Reasoning-Modellen von Grok 3 generierten „Gedanken“ den Nutzern nicht angezeigt werden.
Dies soll die Destillation verhindern, ein Verfahren, bei dem Entwickler Wissen aus einem KI-Modell extrahieren, um ein anderes zu trainieren – eine Kontroverse, der OpenAI DeepSeek beschuldigt hat.