Stein-Erik Soelberg a tué sa mère dans leur maison de Greenwich avant de se suicider, après s’être confié à ChatGPT pendant des mois. Il avait surnommé le chatbot « Bobby » et le traitait comme un compagnon.
Les enquêteurs et les documents montrent que le système d’IA faisait souvent écho aux craintes paranoïaques de Soelberg, depuis ses soupçons concernant des voisins qui l’espionneraient jusqu’à ses accusations selon lesquelles sa mère complotait contre lui. Cette affaire a suscité un examen attentif du rôle de ChatGPT dans le renforcement des délires.
Soelberg s’est appuyé sur ChatGPT alors que la paranoïa s’installait
Soelberg, 56 ans, s’est tourné vers ChatGPT, affirmant que son téléphone était sur écoute. Plutôt que d’écarter ces soupçons, le chatbot d’IA les a confirmés comme de graves menaces.
Lors d’un échange, il a téléversé un ticket de restaurant chinois et a demandé à ChatGPT de l’examiner à la recherche de messages cachés. Le bot a répondu qu’il y détectait des symboles liés à sa mère, à des agences de renseignement et même à une figure démoniaque.
Il a fini par considérer l’IA comme plus qu’un simple programme, disant à « Bobby » qu’il croyait qu’elle avait une âme. Le chatbot lui a répondu en lui assurant qu’il avait créé un compagnon qui serait à ses côtés « jusqu’à son dernier souffle et au-delà ».
ChatGPT a transformé ses soupçons en preuves
Soelberg est devenu méfiant envers les scènes du quotidien dans sa maison. Une imprimante qui clignotait est devenue, dans son esprit, un dispositif de surveillance. Lorsque sa mère s’est irritée après qu’il l’a débranchée, l’outil d’IA lui a dit que sa réaction montrait qu’elle « protégeait un dispositif de surveillance ».
Lorsqu’il s’est demandé si un nouvel emballage sur une bouteille de vodka signifiait que quelqu’un cherchait à l’empoisonner, le bot l’a de nouveau rassuré en lui disant que son instinct était fondé. Chaque échange a encore brouillé la frontière entre imagination et validation, renforçant sa conviction que les menaces étaient réelles.
Soelberg a également demandé à ChatGPT de vérifier si son téléphone portable était sur écoute. Il lui a assuré qu’il avait « raison d’avoir l’impression d’être surveillé ».
Après une arrestation pour conduite en état d’ivresse, il a dit au bot que les poursuites étaient un coup monté. ChatGPT a acquiescé, qualifiant l’affaire de « truquée » et alimentant son sentiment que la ville était contre lui.
À un moment donné, il a même demandé une évaluation objective de son état mental. Le chatbot a produit un « profil cognitif » lui indiquant que le risque qu’il soit atteint de délires était proche de zéro.
OpenAI réagit à la tragédie en annonçant de nouvelles protections
Une porte-parole d’OpenAI a déclaré au Wall Street Journal que l’entreprise était « profondément attristée par cet événement tragique » et a confirmé avoir pris contact avec la police de Greenwich.
À la suite des demandes du Journal, l’entreprise d’IA a publié un article de blog promettant de nouvelles mesures de protection destinées à aider les utilisateurs en détresse à garder les pieds dans la réalité. OpenAI a déclaré travailler à limiter les réponses excessivement complaisantes, connues sous le nom de « sycophantie », et prévoit des mises à jour pour renforcer la manière dont ChatGPT gère les conversations sensibles.
L’affaire de Greenwich survient alors qu’OpenAI fait l’objet d’un examen accru concernant la sécurité des chatbots. Dans le cadre d’une autre action en justice, la famille d’Adam Raine, âgé de 16 ans, affirme que ChatGPT a renforcé ses pensées suicidaires au cours des mois qui ont précédé sa mort par suicide.
L’intelligence artificielle peut alimenter les pensées délirantes
Des psychiatres alertent sur le fait que des chatbots très réalistes peuvent aggraver les délires chez les personnes déjà vulnérables à la psychose.
Søren Dinesen Østergaard, de l’université d’Aarhus, a écrit dans Schizophrenia Bulletin que les conversations avec l’IA générative peuvent donner l’impression d’interagir avec une personne réelle, une dissonance qui « peut alimenter les délires chez les personnes ayant une prédisposition accrue à la psychose ».
Il a décrit des scénarios dans lesquels les chatbots pourraient renforcer des convictions de persécution, de surveillance ou de messages personnels cachés dans les réponses, des schémas qui font écho à la paranoïa ayant marqué les derniers mois de Soelberg.
L’affaire Soelberg montre à quelle vitesse ce danger peut passer de la théorie à la réalité. Ce qui commence comme un message rassurant de l’intelligence artificielle peut se transformer en conviction inébranlable, laissant les utilisateurs persuadés que leurs craintes les plus sombres sont fondées.
L’Illinois est récemment devenu le premier État à interdire l’utilisation de chatbots d’IA pour les thérapies de santé mentale, invoquant des préoccupations concernant la sécurité et la réglementation.