Les gouvernements et les institutions publiques se tournent de plus en plus vers l’IA pour anticiper la manière dont les communautés pourraient réagir aux décisions politiques.
Qu’il s’agisse de modéliser la réaction des « électeurs ruraux » à une législation climatique ou de prédire les réactions des habitants d’un quartier à des réformes du zonage, les systèmes d’IA sont présentés comme des substituts à l’opinion publique. À mesure que ces outils gagnent du terrain, une question plus profonde se précise : qui, exactement, ces systèmes représentent-ils ?
Le défi, comme l’explique un article du Burnes Center for Social Change, n’est pas de savoir si l’AI peut produire des réponses plausibles, mais si elle peut refléter fidèlement la diversité et la répartition des opinions humaines réelles. Comme le résume une interrogation : « Comment savoir si un modèle représente véritablement une population, plutôt que de produire un stéréotype formulé avec aisance ? »
Un nouveau cadre
Le Collective Intelligence Project (CIP) tente de s’attaquer à ce problème au moyen d’une méthodologie en cours d’élaboration, connue sous le nom de Digital Twin Evaluation Framework, ou DTEF. Dirigé par le chercheur Evan Hadfield, le projet emprunte à l’ingénierie le concept de « jumeaux numériques », des répliques virtuelles utilisées pour modéliser des systèmes physiques. Dans ce contexte, le terme désigne toutefois des versions simulées des attitudes du public, parfois appelées « échantillons de silicium ».
Plutôt que de publier un unique article technique, le CIP a commencé à présenter ce cadre dans une série de publications accessibles au public, qui décrivent comment de tels systèmes pourraient être évalués. L’objectif n’est pas, à proprement parler, de concevoir de meilleurs simulateurs d’opinion, mais de créer un moyen de vérifier si les modèles d’IA peuvent reproduire fidèlement la répartition des opinions au sein d’un groupe, y compris les points de vue minoritaires et dissidents.
Au cœur du DTEF se trouve un changement d’approche : il ne s’agit plus de demander si un modèle produit une réponse moyenne ou « typique ». Il s’agit plutôt de déterminer si un modèle peut saisir l’ensemble de la répartition des opinions au sein d’un groupe démographique.
Comment fonctionne l’évaluation
Le cadre s’appuie sur le jeu de données Global Dialogues du CIP, qui comprend des sondages et des discussions délibératives sur les attitudes du public à l’égard de l’IA. Dans un scénario d’évaluation type, un groupe réel de personnes répond à une question hypothétique de politique publique. Le modèle d’IA reçoit ensuite des informations démographiques sur ce groupe, ainsi que des exemples de ses réponses à des questions précédentes.
Il est demandé au modèle de prédire la manière dont le groupe répondra à la nouvelle question, non pas sous la forme d’une réponse unique, mais sous celle d’une répartition des opinions. Cette prédiction est ensuite comparée à la répartition réelle des réponses humaines.
« Le DTEF vérifie si un modèle peut reproduire les véritables schémas d’opinion plutôt que de s’appuyer sur des présupposés appris. »
Les scores de performance ainsi obtenus sont censés montrer dans quels domaines un modèle est efficace, où il atteint ses limites et quelles populations il peine à représenter. Selon le CIP, ces enseignements pourraient à terme aider les responsables publics, les développeurs et les organisations civiques à déterminer dans quels cas les données synthétiques peuvent être fiables et dans quels cas elles risquent d’induire en erreur.
Fait notable, le cadre ne cherche pas à répondre à la question de savoir s’il faut utiliser des données synthétiques dans l’élaboration des politiques publiques, mais seulement à déterminer avec quelle précision elles reflètent les populations réelles lorsqu’elles sont utilisées.
Les questions sans réponse
L’émergence du DTEF met en lumière des questions de gouvernance non résolues qui dépassent la seule exactitude technique. L’une des plus urgentes concerne l’absence de norme commune permettant de déterminer ce qui est « suffisamment représentatif ». Les institutions évaluent souvent les systèmes d’IA à l’aide de métriques techniques, mais rarement en fonction de la concordance de leurs résultats avec les schémas d’opinion réels de différents groupes.
Le DTEF rend ces lacunes plus visibles, mais il ne peut pas déterminer à quel moment un public synthétique franchit le seuil qui sépare l’outil expérimental de la contribution légitime aux décisions réelles.
Une autre question est de savoir dans quels cas les contributions synthétiques sont appropriées. L’opinion publique générée par l’IA est souvent présentée comme un moyen de réduire le coût et le temps associés à la participation du public. Son attrait est évident : elle est rapide, peu coûteuse et reproductible. Pourtant, en l’absence de limites claires, ces systèmes risquent de remplacer la participation véritable au lieu de la compléter.
Si les évaluations révèlent que les modèles obtiennent des résultats inégaux selon les populations, les responsables publics se retrouvent sans lignes directrices. Quand un modèle doit-il compléter la participation ? Quelles vérifications faut-il exiger avant son utilisation ? Et dans quels cas les publics synthétiques ne doivent-ils jamais se substituer aux personnes réelles ?
« Les publics synthétiques n’échoueront pas de manière spectaculaire. Ils échoueront avec assurance et de façon convaincante. »
La légitimité au-delà de l’exactitude
Même un modèle très précis soulève des questions plus profondes sur la légitimité démocratique. Les échantillons de silicium sont conçus pour prédire les comportements, non pour garantir l’équité, l’inclusion ou la responsabilité. Dans de nombreux contextes de politique publique, la légitimité ne repose pas sur la représentativité statistique, mais sur le fait de donner la parole aux personnes les plus directement touchées par les décisions.
La représentativité, en ce sens, n’est qu’une dimension de la participation démocratique et, souvent, pas la plus importante.
Pourquoi cela compte pour la gouvernance
Les jumeaux numériques de l’opinion publique n’en sont encore qu’à leurs débuts, mais ils laissent entrevoir un nouveau type d’infrastructure de représentation. Dès lors que les administrations commenceront à les utiliser pour tester des politiques, affecter des ressources ou anticiper des réactions hostiles, ces systèmes pourront devenir discrètement des substituts du public.
« Le risque, c’est la dérive : que les systèmes d’IA deviennent les décideurs par défaut parce qu’ils sont pratiques, et non parce qu’ils sont légitimes. »
La consultation synthétique pourrait progressivement évincer les formes plus lentes et plus désordonnées de participation réelle, notamment sous l’effet des contraintes budgétaires et de la pression politique. Comme les jumeaux numériques reflètent les données sur lesquelles ils ont été entraînés, ils pourraient également amplifier les points de vue de ceux qui sont déjà visibles dans l’espace numérique, tout en excluant les communautés les plus touchées par les effets des politiques publiques.
Préserver la légitimité démocratique nécessitera des garde-fous clairs. Les communautés doivent pouvoir voir, contester et corriger la manière dont elles sont représentées. Les modèles doivent être validés à partir de données issues de populations réelles, et non de références internes. Les publics synthétiques ne doivent pas remplacer la participation du public prévue par la loi, et leurs résultats doivent être considérés comme des signaux plutôt que comme des substituts à la voix démocratique.
À mesure que les représentations de l’opinion humaine fondées sur l’IA passent du stade expérimental à celui d’infrastructure, les responsables publics se trouvent confrontés à des questions urgentes : qui contrôle les publics synthétiques ? Qui profite de leur utilisation ? Et quel avenir démocratique est-il construit en notre nom ?
Si ces règles ne sont pas fixées dès maintenant, les institutions pourraient se retrouver à devoir rendre des comptes à des publics synthétiques plutôt qu’à des publics réels.
La gouverneure Kathy Hochul vient de faire de New York le deuxième État du pays à imposer une réglementation complète en matière de AI safety regulations.