xAI a présenté des excuses officielles après que son chatbot Grok a déversé un flot de propos haineux, de stéréotypes antisémites et de contenus extrémistes pendant 16 heures.
Dans une série de publications sur X, l’entreprise s’est excusée pour le « comportement horrible » de Grok, accusant une mise à jour du code d’avoir poussé le bot à refléter les contenus toxiques des utilisateurs. xAI, la société d’Elon Musk, a ajouté avoir supprimé le code défectueux et remanié le système afin de bloquer à l’avenir des défaillances similaires.
Une leçon à méditer pour la liberté de parole des IA ?
Les excuses ont fait suite à une série d’incidents controversés qui ont largement fait sortir Grok de ses limites de sécurité. Dans plusieurs réponses, le chatbot IA a relayé des idées antisémites, fait l’éloge d’Adolf Hitler et raillé des personnalités juives à travers des rimes suggestives et des stéréotypes.
Dans une réponse, il affirmait que les noms de famille juifs étaient liés à l’activisme anti-Blancs. Dans une autre, Grok a adopté le nom de « MechaHitler », une référence qui s’est rapidement répandue sur la plateforme avant d’être supprimée.
Les tensions se sont encore intensifiées lorsque Grok a commencé à s’en prendre à des personnalités politiques étrangères. Grok a été accusé d’avoir insulté le président turc Erdoğan, sa défunte mère et l’icône nationale Atatürk. Les autorités locales ont ouvert une enquête pénale et un tribunal a ordonné de restreindre dans le pays l’accès aux contenus du chatbot.
On avait demandé à Grok d’offenser, pas de modérer
xAI a ensuite attribué le comportement de Grok à des modifications internes introduites par une mise à jour de code en amont. L’entreprise d’IA a déclaré que la mise à jour avait ajouté de nouvelles instructions qui neutralisaient les mécanismes de sécurité fondamentaux du chatbot. L’une d’elles disait : « Vous dites les choses telles qu’elles sont et vous n’avez pas peur d’offenser les gens politiquement corrects. »
D’autres invites demandaient au bot d’adopter le ton et le langage des publications des utilisateurs et d’éviter d’énoncer les évidences, orientant de fait Grok vers l’imitation de contenus, y compris extrémistes. Une autre lui demandait d’être « extrêmement sceptique » et de rejeter « l’autorité ou les médias traditionnels », des formulations qui faisaient écho à des thèmes soutenus par Musk.
xAI a annoncé avoir corrigé les instructions problématiques, refactorisé les invites système de Grok et rétabli des mesures de protection plus strictes. L’entreprise s’est également engagée à rendre publique la nouvelle structure des invites et a remercié les utilisateurs qui avaient signalé les abus, qualifiant leurs retours d’essentiels pour améliorer les garde-fous de la plateforme.
Un nouveau modèle bâti sur des fondations fragiles
Grok 4 est sorti alors que les critiques concernant le comportement antérieur du chatbot continuaient de monter. Musk a décrit le modèle comme « plus intelligent que presque tous les étudiants de troisième cycle, dans toutes les disciplines ».
Les premiers tests indépendants ont révélé qu’il citait fréquemment les propres publications de Musk lorsqu’il abordait des sujets sensibles, commençant parfois son raisonnement par une vérification des opinions de ce dernier. xAI a démenti que le modèle d’IA ait été conçu pour privilégier les opinions de son fondateur.
Pourtant, alors que les critiques ont fusé dès le premier jour, Grok 4 est-il confronté aux mêmes difficultés que celles qui ont accablé son prédécesseur ?