.jpg?w=1024)
Les nouvelles réglementations chinoises encadrant les services de compagnons propulsés par l’IA sont entrées en vigueur le 15 juillet, introduisant certaines des règles les plus strictes au monde pour les chatbots conçus pour offrir un soutien affectif et de la compagnie.
Les Mesures provisoires relatives à la gestion des services interactifs anthropomorphiques fondés sur l’intelligence artificielle, publiées par l’Administration chinoise du cyberespace avec quatre autres agences gouvernementales, s’appliquent aux services d’IA qui simulent des personnalités humaines et proposent des interactions affectives continues par texte, image, audio ou vidéo.
Les règles excluent les produits d’IA axés sur le service client, l’assistance au travail, l’éducation et la recherche scientifique.
En vertu des réglementations, les fournisseurs ne peuvent pas concevoir des compagnons IA pour encourager la dépendance affective, l’addiction ou un attachement excessif. Ils ne peuvent pas non plus utiliser ces services pour maniper les utilisateurs afin de les pousser à prendre des décisions déraisonnables ou à remplacer leurs relations sociales dans le monde réel.
De nouvelles obligations pour les fournisseurs d’IA
Les mesures imposent aux entreprises proposant des services de compagnons IA de détecter les signes de détresse affective et d’intervenir lorsque les utilisateurs semblent en situation de crise.
Si des utilisateurs expriment des intentions liées à l’automutilation, au suicide ou à d’autres menaces graves pour leur santé, les fournisseurs doivent proposer une assistance et contacter, le cas échéant, le responsable légal ou la personne à joindre en cas d’urgence de l’utilisateur.
Les entreprises doivent également rappeler aux utilisateurs qu’ils interagissent avec une IA et non avec une personne. Lorsqu’une dépendance est détectée, les plateformes doivent afficher des rappels bien visibles, tandis que les utilisateurs qui passent plus de deux heures consécutives avec un compagnon IA doivent recevoir des notifications les encourageant à surveiller leur usage.
Les réglementations interdisent également aux fournisseurs de proposer des partenaires amoureux virtuels ou des membres de famille virtuels aux mineurs. Les entreprises qui s’adressent aux utilisateurs de moins de 14 ans doivent obtenir l’accord des parents et fournir des fonctionnalités dédiées à la sécurité des enfants, notamment des limites d’utilisation et des rappels leur signalant qu’ils interagissent avec une IA.
Au-delà de la sécurité des utilisateurs, les règles renforcent la protection de la vie privée en interdisant aux entreprises de partager les données issues des interactions avec des tiers sans consentement, sauf lorsque la loi l’exige. Les fournisseurs ne peuvent pas non plus utiliser les données sensibles issues des interactions pour entraîner une IA sans le consentement de l’utilisateur et doivent permettre à celui-ci de copier ou de supprimer son historique de conversations.
Les fournisseurs de plus grande taille, notamment ceux comptant plus de 1 million d’utilisateurs enregistrés ou 100 000 utilisateurs actifs mensuels, doivent réaliser des évaluations de sécurité et soumettre des rapports aux autorités de régulation provinciales avant ou pendant leur activité. Les violations peuvent entraîner des avertissements, des suspensions de service ou des amendes pouvant atteindre 200 000 yuans (environ 30 000 dollars US) lorsque la vie, la santé ou la sécurité des utilisateurs est mise en danger.
Les entreprises s’emploient à se conformer aux règles
Les grandes entreprises chinoises de l’IA ont déjà commencé à adapter leurs produits. Selon Xinhua, des plateformes comme Doubao, Qwen et Yuanbao ont récemment annoncé la suspension de certaines fonctionnalités d’agents IA avant l’entrée en vigueur des règles.
The Wall Street Journal a également rapporté qu’Alibaba et ByteDance avaient informé les utilisateurs que certaines fonctionnalités de leurs chatbots seraient désactivées afin de se conformer aux nouvelles exigences.
Ce que cela signifie pour le secteur de l’IA
Le nouveau cadre réglementaire laisse entendre que les développeurs d’IA ne seront peut-être plus jugés uniquement sur la capacité de leurs produits à retenir l’attention. Les entreprises qui développent des IA dotées d’une intelligence affective devront de plus en plus démontrer que leurs systèmes peuvent protéger les utilisateurs, préserver les données personnelles et éviter de favoriser une dépendance malsaine.
Cela engendre de nouveaux coûts de mise en conformité pour les développeurs, mais pourrait aussi façonner la conception des futures IA, en poussant les entreprises à proposer des assistants qui soutiennent les utilisateurs sans chercher à remplacer les relations humaines. En contrepartie, certaines des expériences de compagnon les plus immersives pourraient devenir plus difficiles, voire impossibles à proposer sur l’un des plus grands marchés mondiaux de l’IA.
À lire aussi : pour découvrir comment la Chine fait progresser la robotique humanoïde au-delà des compagnons IA, lisez notre article consacré à la dernière compétition de combat robotique d’Unitree, qui met en lumière les ambitions croissantes du pays dans le domaine de l’IA incarnée et des essais robotiques