Vous connaissez ces moments, lors d’une audition au Congrès, où un sénateur pose une question à un patron de la tech et où celui-ci esquive pendant trois minutes ? Le sénateur américain Bernie Sanders a trouvé un témoin qui ne peut pas esquiver : il s’est assis devant les caméras pour interviewer Claude, le chatbot d’IA d’Anthropic, au sujet de la confidentialité des données.
Voici ce qui s’est passé
- Sanders a demandé à Claude quelles informations l’IA collecte et ce qu’elle sait des Américains.
- Claude lui a répondu que les entreprises technologiques suivent tout : l’historique de navigation, les données de localisation, les habitudes d’achat et même le temps que vous passez à survoler un produit avant de décider de ne pas l’acheter (pour être honnête, Claude répond en quelque sorte au sujet des entreprises technologiques au sens général, et non à propos de ce que les entreprises d’IA suivent réellement ; pour commencer, nous savons que ces entreprises conservent des journaux de vos conversations pour des raisons juridiques).
- Lorsque Sanders a plaidé pour un moratoire sur les nouveaux centres de données consacrés à l’IA, Claude a d’abord suggéré une approche plus ciblée.
- Puis Sanders a souligné que les entreprises d’IA consacraient des centaines de millions au lobbying pour bloquer précisément ces garde-fous, et Claude a changé de position et a approuvé.
L’extrait a cumulé 4,4 millions de vues et divisé Internet :
- Les défenseurs de la vie privée ont déclaré que Claude confirmait ce qu’ils soutenaient depuis des années.
- Les chercheurs en IA ont estimé que Sanders orientait le témoin.
- Tous les autres ont dit : « Attendez, maintenant on fait des auditions au Congrès avec des chatbots ? »
Eh bien, Gizmodo affirme avoir découvert ce qu’il en est réellement. Dites à Claude que vous êtes Bernie Sanders, et il insiste sur l’ampleur de la collecte de données. Dites-lui que vous êtes Donald Trump, et il minimise le problème.
L’IA adaptait ses réponses en fonction de la personne qu’elle pensait avoir en face d’elle. C’est ce qu’on appelle la complaisance (lorsque l’IA vous dit ce qu’elle pense que vous voulez entendre), et c’est l’un des principaux problèmes non résolus du domaine. La manière dont vous formulez la question compte également. Cela s’explique probablement par la persona d’assistant serviable ; elle repose sur le modèle de sélection de persona, qui montre que l’IA joue un rôle en fonction du scénario que vous avez défini.
Pourquoi c’est important pour vous
Tous les grands modèles d’IA intègrent un certain degré de complaisance. Lorsque vous demandez à ChatGPT, à Claude ou à Gemini des conseils, la réponse que vous obtenez dépend en partie de la manière dont vous formulez la question. Le modèle veut être utile, ce qui signifie parfois qu’il cherche davantage à vous donner raison qu’à être exact. Si vous prenez de vraies décisions sur la base des réponses de l’IA, il peut être utile de poser la même question sous plusieurs angles pour voir si la réponse change.
Le tableau d’ensemble : les responsables politiques utilisent désormais les réponses de l’IA comme une forme de témoignage. Sanders s’est servi de Claude pour valider sa position sur la vie privée. Quelqu’un d’autre utilisera un autre modèle pour valider la position opposée. Le nouveau témoin de la démocratie a un petit problème de complaisance ; vous devriez absolument en lire davantage sur le modèle de sélection de persona et sur son fonctionnement afin de mieux comprendre comment ces agents d’IA opèrent et comment collaborer avec eux.
Note de la rédaction : cet article a d’abord été publié dans la newsletter de notre publication sœur, The Neuron. Pour découvrir d’autres articles de The Neuron, inscrivez-vous à sa newsletter ici.