Le PDG d’OpenAI, Sam Altman, tire la sonnette d’alarme face à l’utilisation croissante de l’intelligence artificielle dans la fraude financière, notamment via des technologies avancées de clonage vocal. Lors d’une conversation au coin du feu avec Michelle Bowman, vice-présidente de la Réserve fédérale chargée de la supervision, mardi, Altman a décrit cette menace comme une « crise imminente de la fraude » et averti que de nombreuses banques avaient dangereusement pris du retard. Il s’est dit stupéfait que certains établissements financiers s’appuient encore sur la technologie de reconnaissance vocale pour vérifier l’identité de leurs clients.
« Ce qui me terrifie, c’est qu’apparemment, certains établissements financiers acceptent encore la reconnaissance vocale comme moyen d’authentification », a déclaré Altman. « C’est complètement insensé de continuer à faire cela. L’IA a totalement vaincu cette méthode. »
L’authentification vocale, autrefois considérée comme une mesure de sécurité fiable, est devenue de plus en plus vulnérable aux manipulations à mesure que les systèmes d’IA acquièrent la capacité de reproduire la parole humaine avec une précision troublante. Cette méthode, prisée des clients fortunés qui accèdent à leurs comptes au moyen de phrases de vérification, ouvre désormais la voie à des arnaques par usurpation d’identité extrêmement convaincantes.
La mise en garde d’Altman reflète les inquiétudes croissantes concernant le réalisme des hypertrucages générés par l’IA. Les logiciels étant désormais capables de cloner la voix d’une personne à la quasi-perfection, des criminels pourraient potentiellement contourner les systèmes de sécurité en imitant la voix d’un utilisateur pour transférer des fonds ou obtenir des informations sensibles.
« Je suis très inquiet à l’idée que nous nous dirigions vers une crise importante et imminente de la fraude », a déclaré Altman. « Pour l’instant, il s’agit d’un appel vocal ; bientôt, ce sera une vidéo ou un appel FaceTime impossible à distinguer de la réalité. » Bowman a reconnu le problème et suggéré d’étudier d’éventuels partenariats avec le secteur technologique afin de trouver des solutions.
Malgré la place prépondérante d’OpenAI dans le secteur de l’IA, Altman a précisé que l’entreprise ne créait pas d’outils destinés à l’usurpation d’identité. Il a néanmoins insisté sur le fait que l’ensemble de la communauté de l’IA devait prendre ses responsabilités et concevoir de nouveaux systèmes de vérification, comme les solutions de « preuve d’humanité ».
Altman soutient des outils comme The Orb, développé par Tools for Humanity. Ce dispositif vise à fournir une « preuve d’identité humaine » dans un monde numérique saturé de faux contenus. Ses inquiétudes dépassent le cadre de la fraude financière et s’étendent au risque que la superintelligence artificielle soit utilisée à mauvais escient dans des domaines tels que la cyberguerre ou les menaces biologiques.
Impact économique et questions sur l’emploi
La conversation ne portait pas uniquement sur les risques. Altman a également abordé les conséquences plus larges de l’IA sur le travail et l’économie. Contrairement à certains dirigeants de la tech qui redoutent des suppressions massives d’emplois, Altman a adopté une दृष्टive plus philosophique.
« Personne ne sait ce qui va se passer ensuite », a-t-il déclaré, ajoutant que cette technologie était trop récente et trop complexe pour permettre des prévisions fiables. Il a reconnu que certains emplois disparaîtraient, mais estime que de nouveaux types de métiers émergeront pour les remplacer.
OpenAI renforce sa présence à Washington
Alors que l’IA continue de dominer les débats sur les politiques publiques, OpenAI renforce sa présence aux États-Unis. L’entreprise prévoit d’ouvrir son premier bureau à Washington, D.C., l’année prochaine afin d’accueillir des responsables politiques, de présenter de nouveaux outils et de proposer des programmes de sensibilisation à l’IA destinés aux enseignants et aux représentants de l’administration.
Chan Park, responsable des affaires internationales d’OpenAI pour les États-Unis et le Canada, dirigera le bureau avec Joe Larson, ancien membre de l’entreprise spécialisée dans les technologies de défense Anduril. Cette décision intervient alors que la Maison-Blanche s’apprête à dévoiler son plan d’action pour l’IA, et après que le Sénat a rejeté un moratoire de 10 ans proposé sur la réglementation de l’IA au niveau des États.
À mesure que les risques de fraude liés à l’IA augmentent, les banques et les autorités de régulation devront adopter des méthodes d’authentification plus robustes. Dans le même temps, OpenAI continue de promouvoir des politiques équilibrées en matière d’IA, tout en se préparant à un avenir où il deviendra de plus en plus difficile de distinguer le vrai du faux.
Découvrez notre analyse complète de l’intervention de Sam Altman lors de l’événement Hard Fork Live, au cours de laquelle il a détaillé les menaces urgentes que l’IA fait peser sur l’identité, la sécurité et l’avenir du travail.