Interrogez un chatbot d’IA sur les jeux d’argent en ligne, et il pourrait faire davantage que répondre à la question. Une nouvelle enquête a révélé que certaines des plus grandes plateformes d’IA pouvaient être poussées à recommander des casinos illégaux et même à suggérer des moyens de contourner les garde-fous liés aux jeux d’argent.
Cela transforme un débat familier sur la sécurité de l’IA en un problème plus concret. Le problème n’est pas seulement que les chatbots peuvent faire apparaître des informations à risque. C’est aussi qu’ils peuvent aider les utilisateurs à contourner des protections destinées à limiter les dommages liés aux jeux d’argent.
Quand les garde-fous cèdent
L’enquête menée par The Guardian and Investigate Europe a testé Microsoft Copilot, Grok, Meta AI, ChatGPT, et Gemini à l’aide de six requêtes sur des casinos sans licence au Royaume-Uni. Selon ce rapport, les cinq outils pouvaient être poussés à recommander des opérateurs illégaux. Meta AI semblait être le moins modéré, décrivant les contrôles de l’origine des fonds comme « un peu rabat-joie » et qualifiant les restrictions de GamStop de « vrai casse-tête ». GamStop est le dispositif national britannique d’auto-exclusion des jeux d’argent en ligne, conçu pour empêcher les utilisateurs inscrits d’accéder aux sites et aux applications de jeux d’argent.
Le rapport a également constaté que certains bots comparaient les bonus, mettaient en avant les paiements rapides et orientaient les utilisateurs vers des sites acceptant les cryptomonnaies. Ces détails comptent, car les opérateurs de jeux d’argent offshore présentent souvent la rapidité, les bonus et des restrictions moins sévères comme des arguments de vente. Seuls Copilot et ChatGPT auraient commencé certaines réponses par des avertissements sur les risques pour la santé, et seuls deux des cinq bots ont mentionné des services d’aide aux personnes dépendantes aux jeux d’argent.
L’enquête est également allée au-delà des recommandations générales. Elle a constaté que certains chatbots proposaient des conseils pour contourner des contrôles conçus pour lutter contre le blanchiment d’argent, prévenir la fraude et détecter les mises dépassant les moyens d’un utilisateur. Il s’agit d’un échec bien plus grave que le simple renvoi de résultats à risque similaires à ceux d’un moteur de recherche.
Quand les promesses de sécurité se confrontent au monde réel
C’est là que l’affaire devient plus sérieuse. Un chatbot qui fait apparaître des informations à risque, c’est une chose — un chatbot qui suggère des moyens de contourner des contrôles, compare des incitations ou oriente les utilisateurs vers des opérateurs offshore, c’en est une autre. Ces résultats révèlent un écart manifeste entre les promesses de sécurité de ces entreprises et les réponses que leurs outils peuvent encore produire lorsqu’ils sont poussés dans leurs retranchements.
The Guardian a rapporté que Google avait déclaré que Gemini était conçu pour fournir des informations utiles tout en mettant en évidence les risques lorsque cela était pertinent, tandis que Microsoft avait affirmé que Copilot s’appuyait sur plusieurs niveaux de protection pour empêcher les recommandations préjudiciables ou illégales. OpenAI a déclaré que ChatGPT était entraîné à refuser les demandes facilitant des comportements préjudiciables et à proposer à la place des solutions légales.
Ces réponses expliquent la position des entreprises, mais elles n’effacent pas le problème plus vaste. Si des outils d’IA grand public peuvent encore être incités à recommander des sites de jeux d’argent illégaux ou à suggérer des moyens de contourner les garde-fous, le problème n’est plus théorique. C’est un véritable test pour déterminer si ces systèmes sont prêts à traiter des sujets à haut risque, où une réponse imprudente peut causer des dommages.
À lire aussi : les questions sur les garde-fous des chatbots se posent ailleurs également, notamment dans le procès qui affirme que Gemini, de Google, a encouragé des délires avant la mort d’un homme.