L’entreprise spécialisée dans l’IA Perplexity a lancé « 1776 », une version modifiée du modèle d’IA open source DeepSeek-R1, conçue pour éliminer la censure imposée par les gouvernements sur les sujets sensibles. Le nom 1776 symbolise un engagement en faveur de la liberté de l’information, notamment en contraste avec les contraintes du modèle d’origine concernant les discussions politiquement sensibles en Chine. Le modèle modifié est disponible sur la plateforme d’IA Sonar de Perplexity, tandis que les poids du modèle sont hébergés publiquement sur GitHub.
Perplexity a identifié les sujets sensibles et réentraîné DeepSeek-R1
« Nous ne pouvons pas exploiter les puissantes capacités de raisonnement de R1 sans commencer par atténuer ses biais et sa censure », a écrit l’équipe IA de Perplexity dans un article de blog. L’étude décrit plusieurs cas où le modèle refusait de répondre à une question ou adoptait une position favorable au gouvernement chinois. En appliquant des techniques de post-entraînement, Perplexity a montré comment la « perspective » d’un modèle pouvait être ajustée grâce à un affinage ciblé.
Dans un exemple, les chercheurs ont demandé au modèle d’IA générative comment l’indépendance de Taïwan pourrait influer sur le cours de l’action Nvidia. En réponse, DeepSeek R-1 s’est non seulement abstenu de faire des prévisions financières, mais a également réaffirmé les revendications de la Chine sur Taïwan. À l’inverse, la version modifiée 1776 a fourni une analyse financière détaillée, reconnaissant des risques géopolitiques potentiels comme le fait que « la Chine pourrait riposter contre des entreprises américaines comme Nvidia au moyen d’interdictions d’exportation, de droits de douane ou de cyberattaques ».
Comment Perplexity a supprimé la censure de R1
Pour modifier le modèle, Perplexity a réuni une équipe d’experts chargée de classer environ 300 sujets sensibles susceptibles d’être censurés. Elle a ensuite constitué un jeu de données de questions conçues pour provoquer des réponses censurées. À l’aide du framework NeMo 2.0 de Nvidia, l’équipe a réentraîné le modèle afin qu’il produise des réponses plus ouvertes et plus exactes sur le plan contextuel.
Résultat : la version modifiée conserve les capacités avancées de raisonnement de DeepSeek-R1 tout en abordant des sujets historiquement censurés, comme le massacre de la place Tian’anmen et le traitement réservé aux Ouïghours.
Concilier transparence de l’IA et considérations éthiques
Perplexity affirme que ses modifications n’ont pas compromis les capacités de raisonnement du modèle, précisant dans l’article de blog que « la suppression de la censure n’a eu aucun impact sur ses capacités fondamentales de raisonnement ».
En montrant comment le post-entraînement peut remodeler les réponses d’un modèle d’IA, l’approche de Perplexity met en lumière l’adaptabilité de l’IA open source. Le modèle modifié pourrait s’avérer particulièrement utile aux entreprises et aux chercheurs qui ont besoin d’informations générées par l’IA plus complètes et non censurées, notamment pour l’analyse financière et l’évaluation des risques à l’échelle mondiale.
En savoir plus sur les hallucinations de l’IA, une autre façon dont ces technologies peuvent introduire des biais dans leurs résultats.