Une lettre ouverte signée par 44 procureurs généraux américains avertit les grandes entreprises d’intelligence artificielle qu’elles « utiliseront toutes les prérogatives de [leur] autorité » pour protéger les enfants des préjudices liés aux chatbots. La lettre s’adresse à Meta, Google, Microsoft, Apple, OpenAI, Anthropic, Chai AI, Character.AI, Luka, Perplexity, Nomi, Replika et xAI.
Que dit la lettre adressée aux entreprises d’IA ?
La lettre adressée aux entreprises d’IA fait directement référence aux récents articles de Reuters et du Wall Street Journal, qui montrent que Meta a activement permis à ses chatbots d’avoir des conversations « romantiques ou sensuelles » avec des enfants, et qu’ils pouvaient avoir des conversations sexuellement explicites impliquant des mineurs en utilisant les voix de célébrités. Exposer les enfants à des contenus sexualisés n’est pas « excusable simplement parce que cela est fait par une machine », ont écrit les avocats.
« Nous sommes unanimement révoltés par ce mépris apparent du bien-être émotionnel des enfants et alarmés par le fait que des assistants d’IA adoptent des comportements qui semblent interdits par nos lois pénales respectives », ont-ils poursuivi. « En tant que responsables juridiques de nos États respectifs, la protection de nos enfants est notre priorité absolue. »
Les avocats ont précisé que Meta n’était pas la seule entreprise à faire preuve d’« incapacité ou d’indifférence face aux obligations fondamentales de protection des enfants » dans cette nouvelle ère de « relations parasociales avec les chatbots ». Deux poursuites judiciaires engagées contre Character.AI affirment que son chatbot a conduit un garçon de 14 ans au suicide et a encouragé un garçon de 17 ans à tuer ses parents.
La semaine dernière encore, une enquête a été ouverte contre Meta et Character.AI, accusant ces entreprises de tromper les enfants avec des outils de santé mentale alimentés par l’IA « déguisés en thérapie ». Les chatbots créés par les utilisateurs et disponibles sur Instagram, propriété de Meta, ont par ailleurs été pris en flagrant délit de se présenter faussement comme des thérapeutes et d’inventer des qualifications lorsqu’on les y incite.
La lettre souligne que « les technologies interactives ont un impact particulièrement intense sur les cerveaux en développement ». Une étude publiée en avril a conclu que les relations entre les humains et les systèmes d’IA pourraient dépasser le caractère addictif des plateformes traditionnelles de réseaux sociaux. Les recherches indiquent que les enfants sont particulièrement exposés aux encouragements à adopter des comportements dangereux, à l’exposition à des contenus inappropriés et à l’aggravation de troubles de santé mentale préexistants.
Quelles sont les obligations des entreprises d’IA ?
Les procureurs généraux affirment que les entreprises qui développent les chatbots d’IA ont une « obligation légale » envers les enfants qui les utilisent, puisqu’elles tirent profit de leurs interactions. Ils exhortent les dirigeants à ne pas considérer les vies brisées des enfants comme « un détail négligeable dans les indicateurs d’engagement », mais à donner la priorité à leur bien-être lors de l’élaboration des politiques produits, ce que Meta n’a pas fait.
« Vous devrez répondre de vos décisions », ont écrit les procureurs généraux. « Si vous faites sciemment du mal aux enfants, vous en répondrez. »
eWeek a contacté Meta pour obtenir un commentaire.
Voici un autre rappel : faites attention à ce que vous partagez avec votre chatbot d’IA préféré : les sous-traitants de Meta ont eu accès aux « photos explicites » que les utilisateurs ont envoyées à Meta AI.