Le débat sur la sécurité de l’IA pour les mineurs est passé des discussions politiques et des articles de recherche à une salle d’audience d’un tribunal d’État.
Pendant des années, les avertissements concernant les risques des plateformes d’IA, en particulier pour les enfants, sont pour l’essentiel restés cantonnés aux études universitaires, aux auditions du Congrès et aux discussions du secteur. La Floride remet aujourd’hui en cause ce schéma avec une récente action en justice accusant OpenAI et son CEO, Sam Altman, de ne pas avoir suffisamment protégé les enfants qui utilisent ChatGPT.
Cette affaire pourrait devenir l’un des premiers tests de la responsabilité juridique de l’IA aux États-Unis. Une victoire judiciaire n’aurait pas seulement des conséquences pour OpenAI : elle influerait aussi sur la manière dont les tribunaux, les autorités de régulation et les entreprises d’IA abordent à l’avenir la responsabilité liée aux interactions générées par l’IA.
Elle pourrait en outre créer un précédent que d’autres États américains seraient susceptibles de suivre, tout en plaçant potentiellement OpenAI et les autres entreprises d’IA dans une situation où elles devraient adapter leurs plateformes à certaines régions.
Les dessous de la plainte de la Floride
Selon Reuters, l’État, par l’intermédiaire de son Attorney General, James Uthmeier, a déposé une plainte accusant l’entreprise d’avoir donné une image trompeuse du niveau de sécurité de sa plateforme pour les enfants.
S’appuyant sur plusieurs incidents violents, dont une fusillade survenue l’an dernier dans une université de Tallahassee, Uthmeier a affirmé que ChatGPT avait joué un rôle en aidant les auteurs des faits.
« Des gens sont blessés, des parents sont trompés, et ils doivent en payer le prix », a déclaré Uthmeier, en ajoutant spécifiquement qu’Altman avait été « très central » dans cette affaire.
Outre les milliards de dollars de dommages et intérêts réclamés à OpenAI, la plainte de la Floride pointe quatre domaines dans lesquels, selon elle, OpenAI n’a pas suffisamment renforcé ses protections :
- Le premier concerne la capacité de ChatGPT à fournir des informations préjudiciables : Si les hallucinations de l’IA sont largement documentées, cette affaire va au-delà des hallucinations. Elle souligne que ChatGPT a fourni des informations préjudiciables à des enfants qui les ont mises en pratique, ce qui a entraîné des actes de violence et d’automutilation. Pour les plaignants, cela constitue un manquement d’OpenAI à protéger ses plateformes contre les comportements dangereux auxquels elles pourraient pousser les utilisateurs.
- Les enfants deviennent émotionnellement dépendants de ChatGPT : L’un des aspects intéressants de la plainte est l’argument de la Floride selon lequel ChatGPT encourage un usage excessif chez les jeunes utilisateurs, ce qui peut entraîner, au fil du temps, un attachement émotionnel.
- OpenAI aurait ignoré des signaux d’alerte : La plainte affirme également que l’entreprise était au courant de problèmes de sécurité signalés par plusieurs sources, mais n’a pas mis en place de protections suffisantes.
- Le problème de la collecte de données : La plainte de la Floride soulève également des inquiétudes concernant les données que ChatGPT recueille auprès des enfants qui utilisent l’outil.
La réponse d’OpenAI au milieu de plusieurs procédures judiciaires
Selon Reuters, OpenAI affirme que ses modèles sont entraînés pour être sûrs pour les utilisateurs et précise qu’ils refusent de participer à des conversations susceptibles de « faciliter concrètement des actes de violence ».
L’entreprise a également indiqué qu’elle travaillait avec des professionnels de la santé mentale sur les questions liées à la sécurité. Elle précise en outre que ses modèles alertent les forces de l’ordre lorsqu’une conversation commence à laisser entrevoir un « risque imminent et crédible de préjudice envers autrui ».
La fusillade de masse de l’an dernier fait également partie des événements à l’origine de cette plainte : en avril, Uthmeier avait annoncé l’ouverture d’une enquête visant à déterminer si ChatGPT avait joué un rôle en aidant le tireur.
En parallèle, les parents d’un homme tué dans la fusillade ont également intenté une action en justice contre l’entreprise.
Dans une autre affaire, les familles de victimes d’une fusillade de masse au Canada ont déposé une plainte accusant OpenAI d’avoir été informée huit mois à l’avance et de ne pas en avoir averti les forces de l’ordre. Comme dans l’affaire floridienne, Altman a également été cité dans la plainte.
Ce que cela signifie au-delà de la Floride
Au-delà de la Floride, il s’agit d’un exemple précoce de gouvernements d’État prenant des mesures pour protéger leurs populations les plus jeunes. Cette affaire conteste directement la position selon laquelle les entreprises d’IA ne devraient pas être tenues responsables de certaines actions criminelles résultant de l’utilisation de leurs logiciels.
Si la Floride remporte cette bataille, elle pourrait ouvrir la voie à la manière dont de nombreux autres États traiteront et évalueront l’utilisation des plateformes d’IA sur leur territoire. Dans ce cas, OpenAI pourrait devoir adapter sa plateforme pour se conformer aux exigences de différentes régions.
À lire également : une nouvelle enquête a révélé que des chatbots d’IA ont aidé des adolescents simulés à planifier des attaques violentes, soulevant de nouvelles questions sur les garde-fous destinés à assurer la sécurité des enfants.