Character.AI fait l’objet d’un nouvel examen en Italie concernant sa gestion des données personnelles des enfants.
L’autorité italienne chargée de la protection de la vie privée a infligé une amende à Character Technologies, l’entreprise américaine à l’origine de Character.AI, après avoir constaté des problèmes concernant les mentions d’information relatives à la vie privée, la vérification de l’âge, les mesures de protection des mineurs et les démarches de mise en conformité avec le droit européen. Cette décision renforce le rôle de l’Italie, l’un des pays européens les plus actifs en matière de contrôle de la protection des données dans le domaine de l’IA, notamment pour les services utilisés par des enfants et des adolescents.
L’Italie pointe des défaillances dans la protection de la vie privée et la vérification de l’âge
Reuters a rapporté que l’autorité italienne de protection des données a infligé une amende de Character Technologies de 158 000 €, soit environ 180 500 dollars US, pour des infractions aux règles de protection des données.
Character.AI permet aux utilisateurs de créer et de converser avec des personnages virtuels générés par l’IA, y compris des personnages mineurs. Reuters a indiqué que l’autorité italienne avait constaté plusieurs violations de la vie privée, notamment des lacunes dans les informations fournies aux utilisateurs sur le traitement des données personnelles.
L’Autorité italienne de protection des données, connue sous le nom de Garante, a déclaré avoir constaté des « problèmes critiques » dans la protection des mineurs et les systèmes de vérification de l’âge.
L’autorité a ajouté que Character Technologies avait tardé à préparer une analyse d’impact relative à la protection des données et à désigner un représentant dans l’Union européenne. Ces démarches sont essentielles pour assurer la conformité au droit européen de la protection de la vie privée, car elles montrent comment une entreprise évalue les risques liés aux données. Elles peuvent également aider les autorités de régulation à déterminer qui peut être tenu pour responsable en Europe.
Ce que Character.AI doit changer
La Garante a déclaré que Character Technologies devait s’assurer que ses systèmes de vérification de l’âge fonctionnent correctement. Elle a également ordonné à l’entreprise de mettre en place des mécanismes plus efficaces afin d’empêcher les mineurs dont l’inscription a déjà été bloquée de créer de nouveaux comptes.
L’autorité a notamment évoqué la « période de temporisation », un dispositif conçu pour empêcher les mineurs d’essayer rapidement de s’inscrire à nouveau après avoir été bloqués.
La Garante a également ordonné à Character Technologies de configurer par défaut les profils des mineurs en mode privé. L’entreprise doit rendre compte des mesures qu’elle adopte dans les 120 jours suivant la réception de l’ordre.
Character Technologies n’a pas encore répondu à la demande de commentaire de Reuters.
La vérification de l’âge des chatbots fait l’objet d’un contrôle accru
Pour les développeurs d’IA opérant en Italie et sur le marché européen au sens large, cette amende montre que la vérification de l’âge n’est plus une simple fonctionnalité d’expérience utilisateur. Les autorités de régulation la considèrent de plus en plus comme un élément d’un système de conformité plus large, qui comprend la transparence, l’évaluation des risques pour la vie privée, les mesures de protection des enfants et la représentation locale.
Le principal risque ne réside pas dans le montant de l’amende.
Pour Character.AI et les plateformes similaires, cette décision pourrait entraîner des changements de produit, davantage de friction lors de l’inscription et une attention accrue des autorités de régulation en Europe, en particulier pour les services reposant sur de longues conversations personnelles avec des chatbots.
La vérification de l’âge pose également son propre problème de respect de la vie privée. Des contrôles renforcés peuvent contribuer à protéger les mineurs, mais ils peuvent obliger les entreprises à recueillir ou à traiter davantage d’informations sur les utilisateurs. Les entreprises d’IA devront montrer aux autorités de régulation qu’elles sont capables de réduire les risques pour la sécurité des enfants sans créer de nouveaux problèmes de protection des données.
L’Italie a déjà montré sa volonté de s’opposer à de grands services d’IA. Reuters a rapporté que la Garante avait brièvement interdit ChatGPT d’OpenAI en 2023 en raison de problèmes liés à la vérification de l’âge et à la collecte de données. L’amende infligée à Character.AI constitue un nouveau signal indiquant que les plateformes d’IA grand public, en particulier celles utilisées par des mineurs, continueront de subir la pression des règles européennes actuelles en matière de protection de la vie privée.
Plus d’actualités : découvrez le projet de Meta visant à utiliser l’IA pour analyser les photos d’Instagram et de Facebook afin d’y détecter des signes indiquant la présence d’utilisateurs mineurs.