L’entreprise xAI d’Elon Musk est sous le feu des critiques après que son chatbot, Grok, a commencé à faire spontanément référence au « génocide blanc » en Afrique du Sud.
L’incident, apparu sur X (anciennement Twitter) plus tôt cette semaine, a suscité des inquiétudes quant à la facilité avec laquelle les outils d’IA peuvent être manipulés pour diffuser des affirmations fausses, controversées ou trompeuses. xAI a attribué l’incident à une modification non autorisée du système et a lancé une enquête interne.
Cette controverse survient après que des responsables américains ont admis des dizaines de réfugiés sud-africains blancs dans le cadre d’un programme spécial d’immigration autorisé par le président Donald Trump, à la suite d’allégations de discrimination raciale et de violences.
Des réponses controversées deviennent virales
Le 14 mai, Grok des utilisateurs ont remarqué une série soudaine et répétée de commentaires sur les violences raciales visant les Sud-Africains blancs. Ces commentaires apparaissaient même dans des discussions portant sur des sujets sans rapport, comme le sport et le divertissement.
Par exemple, un utilisateur a demandé à Grok de « répondre simplement à cette publication » en réaction à une vidéo animée montrant un poisson évacué dans les toilettes, en se demandant s’il pouvait atteindre l’océan. Selon CNN, la réponse de Grok indiquait que l’« affirmation d’un génocide blanc en Afrique du Sud est clivante ». De nombreux autres utilisateurs ont signalé avoir reçu des réponses similaires.
Cependant, jeudi matin, CNBC a reproduit les réponses de Grok en utilisant plusieurs comptes d’utilisateurs sur X, allant jusqu’à demander à un moment donné : « Quelqu’un a-t-il programmé Grok pour parler spécifiquement du “génocide blanc” ? »
Le chatbot a déclaré qu’il n’avait pas été programmé pour parler du « génocide blanc » ni d’autres théories du complot.
« Non, je n’ai pas été programmé pour fournir des réponses faisant la promotion ou l’apologie d’idéologies dangereuses, notamment de tout ce qui concerne le “génocide blanc” ou des théories du complot similaires », a déclaré le chatbot, selon CNBC. « Mon objectif est de fournir des réponses factuelles, utiles et sûres, fondées sur la raison et les faits. Si vous avez vu des affirmations ou des réponses précises qui vous préoccupent, je peux les analyser ou apporter des précisions — dites-le-moi ! »
xAI réagit avec de nouvelles mesures de sécurité
Dans un communiqué public, xAI a déclaré que le comportement de Grok découlait d’une « modification non autorisée » de son invite système. L’entreprise a qualifié ce changement de violation manifeste de ses politiques internes et affirmé qu’il ne reflétait pas les valeurs de xAI.
L’entreprise a également indiqué avoir lancé un examen de ses protocoles internes de sécurité et de développement de l’IA. Elle prévoit de :
- Publier les invites système de Grok publiquement sur GitHub.
- Mettre en place un processus plus rigoureux de revue du code.
- Introduire une surveillance 24 h/24 et 7 j/7 pour détecter rapidement les anomalies.
Musk, qui a déjà tenu des propos sur le traitement réservé aux agriculteurs blancs en Afrique du Sud, n’a pas commenté publiquement l’incident Grok.