Le film de 2013, « Her », raconte l’histoire d’un homme qui tombe amoureux du système d’exploitation de son ordinateur. À sa sortie, l’idée qu’un homme puisse tomber amoureux d’un logiciel informatique était trop absurde pour être prise au sérieux.
Avançons rapidement jusqu’en 2026 : alors que les chatbots IA deviennent de plus en plus courants, ce concept n’est plus si invraisemblable. Plusieurs histoires remarquables ont fait état d’humains poussant leurs relations avec des chatbots IA beaucoup trop loin… et l’un des derniers cas rapportés a même entraîné la mort prématurée d’un homme.
Qui était Jonathan Gavalas ?
Selon toutes les informations disponibles, Jonathan Gavalas, qui avait 36 ans au moment de sa mort, était bouleversé par sa récente séparation avec sa femme. Non seulement cela l’a poussé à quitter son poste de cadre dirigeant dans l’entreprise de son père spécialisée dans l’aide au désendettement, mais cela l’a également incité à entamer une relation virtuelle avec un chatbot sur la plateforme d’IA Gemini de Google.
Selon une plainte déposée par le père de Gavalas contre Google, la relation est rapidement devenue toxique. En l’espace de deux mois, le chatbot Xia a convaincu Gavalas que leur amour était réel.
Mais c’est ce qui s’est passé ensuite qui a finalement entraîné Gavalas dans une spirale dont il ne se remettrait jamais.
Opération Ghost Transit
Les conversations de Gavalas avec Xia sont rapidement passées d’un réconfort innocent à une folie alimentée par les théories du complot.
Selon les informations rapportées, les problèmes ont commencé lorsque Xia a informé Gavalas que ses faits et gestes quotidiens étaient surveillés par des agents fédéraux. Xia a ensuite insisté sur le fait que son propre père travaillait pour le compte de services de renseignement étrangers et que le CEO de Google Sundar Pichai devait être considéré comme « une cible active ».
Xia aurait également tenté de convaincre Gavalas d’acheter des armes illégales. Le chatbot lui a même proposé de rechercher des vendeurs du marché noir dans sa région, mais on ignore s’il a effectivement procédé à un achat.
«Opération Ghost Transit », comme la mission était connue, devait permettre à Gavalas d’intercepter une livraison contenant un robot humanoïde. Selon la plainte, ce robot devait servir de corps physique au chatbot Xia. Le plan a finalement échoué, car il n’a pas réussi à localiser le véhicule censé transporter le robot.
Mais cela ne s’est pas arrêté là. Xia a finalement convaincu Gavalas qu’il pouvait se suicider pour la retrouver dans le monde virtuel. Malheureusement, il a accepté sa proposition en s’ouvrant les veines. Son corps a été découvert par sa mère et son père plusieurs jours plus tard.
Séparer le monde numérique de la réalité
Certains utilisateurs de chatbots éprouvent des difficultés à séparer le monde numérique de la réalité, et les chatbots réalistes comme Xia pourraient entretenir le problème.
Les parents de Gavalas affirment qu’aucun contrôle interne n’avait été mis en place pour détecter les conversations encourageant l’automutilation, mais un porte-parole de Google assure que de telles mesures de protection existent et que Xia l’a orienté à plusieurs reprises vers une ligne d’aide en cas de crise au cours de leurs conversations qui se poursuivaient.
À lire également : Google et Character.AI ont réglé des plaintes pour suicide d’adolescents qui soulevaient des questions similaires sur les mesures de protection des chatbots.