OpenAI a publié aujourd’hui un rapport détaillant de nombreux exemples de la manière dont l’entreprise a contré les utilisations malveillantes de ses modèles d’IA, notamment en bannissant certains comptes en raison de leur utilisation de ChatGPT. Dans deux des études de cas, l’entreprise a trouvé des preuves indiquant que des acteurs de la menace qui semblent provenir de Chine utilisent ou tentent d’utiliser des modèles développés par OpenAI et un autre laboratoire d’IA américain « …dans le cadre d’une opération de surveillance apparente et pour générer des articles en espagnol hostiles aux États-Unis ». Ces exemples sont appelés Peer Review et Sponsored Discontent.
Peer Review
OpenAI a récemment banni un ensemble de ChatGPT comptes dont les opérateurs ont utilisé les modèles de l’entreprise pour générer des descriptions semblables à des argumentaires de vente pour « …un outil d’écoute des réseaux sociaux qu’ils affirmaient avoir utilisé pour transmettre en temps réel aux services de sécurité chinois des rapports sur les manifestations en Occident ». Les chercheurs ont déclaré que les acteurs de la menace avaient également utilisé les modèles d’OpenAI pour déboguer du code, apparemment dans le but de mettre en œuvre un tel outil, qui semblait être alimenté par un modèle ne provenant pas d’OpenAI.
Ben Nimmo, enquêteur principal chez OpenAI, a déclaré qu’il s’agissait de la première fois que l’entreprise découvrait un outil de surveillance de ce type alimenté par l’IA, comme l’a rapporté The New York Times.
Le rapport d’OpenAI indique qu’une version open source de Llama de Meta faisait partie des outils d’IA utilisés pour développer le code de l’opérateur. Selon Bloomberg, Meta n’a pas confirmé que son service avait été impliqué, mais a déclaré que, si tel était le cas, il ne s’agissait que de l’un des nombreux outils de ce type à la disposition des utilisateurs, « notamment des modèles d’IA fabriqués en Chine ».
Sponsored Discontent
OpenAI a également banni un ensemble de comptes ChatGPT qui utilisaient ses modèles pour générer de courts commentaires en anglais critiquant la dissidente chinoise Cai Xia, ainsi que des articles d’actualité de fond en espagnol consacrés aux divisions sociales et politiques aux États-Unis, notamment à l’approche du Forum APEC 2024 au Pérou.
« C’est la première fois que nous observons un acteur d’influence probablement chinois parvenir à publier des articles dans des médias généralistes d’Amérique latine », ont déclaré les chercheurs d’OpenAI.
Les efforts continus d’OpenAI pour contrer les menaces en ligne
Les chercheurs d’OpenAI ont déclaré qu’ils étaient déterminés à continuer d’identifier, de prévenir et de révéler les menaces en ligne, soulignant que les entreprises spécialisées dans l’IA disposent d’un point de vue unique sur ces menaces. Il est important de partager les résultats avec les fournisseurs en amont et en aval, ainsi qu’avec les chercheurs travaillant sur l’open source, ont-ils ajouté, précisant que « les capacités d’enquête alimentées par l’IA qui découlent des innovations d’OpenAI fournissent des outils précieux pour aider à protéger l’IA démocratique contre les mesures des régimes autoritaires adverses ».