Un député britannique est devenu le premier à proposer un robot d’intelligence artificielle capable de répondre à tout moment aux questions de ses administrés. L’avatar du député travailliste Mark Sewards combine une représentation cartoon de sa photo avec sa véritable voix.
Il a été créé par Neural Voice, une entreprise qui conçoit habituellement des assistants vocaux d’IA pour gérer les appels au service client et les appels commerciaux. Accessible sur le site de Neural Voice, le robot de Sewards accueille les utilisateurs et affiche une transcription de ses réponses dans la fenêtre de discussion. Les utilisateurs posent leurs questions à voix haute — celles-ci sont également transcrites — et la voix générée par l’IA répond comme si elle était celle du député de Leeds South West and Morley.
« Ce prototype d’IA offre à mes administrés un moyen supplémentaire d’échanger avec leur député au sujet de dossiers locaux et de questions de politique publique », a écrit sur X. « Il ne pourra jamais remplacer aucun des autres travaux que j’effectue et offre simplement aux gens une autre possibilité de me contacter, à n’importe quelle heure de la journée. »
Il a ajouté que Jeremy Smith, cofondateur de la start-up spécialisée dans l’IA, était l’un de ses administrés et lui avait suggéré de créer son robot. Toutes les conversations seront examinées par l’équipe de Sewards, qui pourra prendre des mesures concernant les problèmes les plus urgents, et elles « serviront également à entraîner le robot pour le rendre meilleur ».
Les détracteurs accusent Sewards de paresse
L’accueil sur les réseaux sociaux a été largement négatif, certains répondants accusant Sewards de paresse ou de chercher à éviter tout échange personnel avec ses administrés. D’autres ont mis en doute l’utilité du robot, le considérant comme un piètre substitut à une représentation directe, et évoquant le lourd tribut que cette technologie fait payer à l’environnement.
Sewards a reconnu avoir du mal à gérer la charge de travail d’un député. Trois mois après son entrée en fonction, il a déclaré à la BBC qu’il avait « fait de son mieux » pour traiter les 6 000 dossiers qui s’étaient accumulés pendant cette période, mais que « ce n’est pas possible pour une seule personne ».
Les avatars d’IA ne sont pas sans risques
Même s’il pourrait bien libérer du temps pour l’humain Mark, l’IA Mark n’est pas sans risques. Des réponses abruptes, robotiques, voire menaçantes à des sujets sensibles pourraient causer davantage de détresse aux administrés que si ceux-ci abordaient le sujet avec un député humain. Google Gemini a un jour dit à un utilisateur de « mourir » après que celui-ci lui eut posé des questions anodines sur les personnes âgées.
La question de la sécurité des données se pose également, car des chatbots similaires ont rendu publics des détails de conversations et les ont transmis à des sous-traitants. Ceux qui sont entraînés à partir de données accessibles au public sur Internet sont connus pour reproduire des biais et diffuser de fausses informations, ce qui pourrait être dangereux si l’un d’eux représente un homme ou une femme politique.
Neural Voice affirme que ses robots peuvent être entraînés sur des données personnalisées, mais on ignore quelles sources alimentent leurs connaissances de base. Des médias ont rapporté que le chatbot de Sewards refuse de discuter de sujets tels que la peine de mort, le Premier ministre Keir Starmer, d’autres députés et le président américain Donald Trump, ce qui laisse penser que son utilité pour les administrés pourrait être limitée.
Neural Voice a effectivement déclaré au Washington Post qu’il « n’avait pas cette information dans sa base de connaissances » lorsqu’on lui a demandé quels étaient les enjeux les plus importants pour les administrés de Sewards. The Guardian a constaté qu’il avait du mal à transcrire les questions posées par une personne ayant un fort accent du Yorkshire.
L’IA s’impose de plus en plus dans le gouvernement britannique
Même s’il s’agit du premier cas au Royaume-Uni où un responsable politique propose un tel service d’IA, un député IA s’est présenté aux élections générales de 2024 dans le pays. « AI Steve » était un avatar numérique également créé par Neural Voice, qui s’est présenté comme véritable candidat dans la circonscription de Brighton Pavilion, même si la personne réelle derrière l’avatar, le président de Neural Voice, Steve Endacott, aurait occupé le siège en cas d’élection.
Endacott a déclaré à The Independent que l’objectif était de permettre aux électeurs de « dire à [leur député] ce qu’ils veulent depuis le confort de leur domicile ».
Le Royaume-Uni intensifie ses efforts pour intégrer l’IA aux activités gouvernementales afin d’améliorer l’efficacité. En janvier, il a présenté « Humphrey », un ensemble d’outils d’IA conçus pour accélérer l’élaboration des politiques publiques, dont beaucoup reposent sur des modèles d’OpenAI tels que GPT-4o.
Le gouvernement entend appliquer des solutions similaires à d’autres services financés par les contribuables, tels que la justice, la défense et l’éducation, dans le cadre d’un partenariat avec OpenAI. L’objectif est de les rendre plus utiles aux entreprises et aux citoyens britanniques.
Lisez la couverture d’eWeek consacrée à la manière dont les chatbots de thérapie par IA tirent la sonnette d’alarme dans les échanges sur la santé mentale, en particulier avec les utilisateurs vulnérables.