Le PDG d’OpenAI, Sam Altman, tire la sonnette d’alarme face à l’utilisation croissante de l’intelligence artificielle dans la fraude financière, notamment par le biais de technologies avancées de clonage vocal. Lors d’une conversation avec Michelle Bowman, vice-présidente de la Réserve fédérale chargée de la supervision, mardi, Altman a décrit cette menace comme une « crise de la fraude imminente » et averti que de nombreuses banques avaient dangereusement pris du retard. Il s’est dit incrédule que certains établissements financiers s’appuient encore sur la technologie de l’empreinte vocale pour vérifier l’identité de leurs clients.
« Ce qui me terrifie, c’est qu’apparemment certains établissements financiers acceptent encore l’empreinte vocale comme moyen d’authentification », a déclaré Altman. « C’est complètement insensé de continuer à le faire. L’IA a totalement vaincu cette technologie. »
L’authentification vocale, autrefois considérée comme une mesure de sécurité fiable, est devenue de plus en plus vulnérable aux manipulations à mesure que les systèmes d’IA acquièrent la capacité de reproduire la voix humaine avec une précision troublante. Cette méthode, prisée par les clients fortunés qui accèdent à leurs comptes au moyen de phrases de vérification, ouvre désormais la voie à des escroqueries par usurpation d’identité extrêmement convaincantes.
Les avertissements d’Altman reflètent les inquiétudes croissantes concernant le réalisme des deepfakes générés par l’IA. Les logiciels étant désormais capables de cloner la voix d’une personne presque à la perfection, des criminels pourraient potentiellement contourner les systèmes de sécurité en imitant la voix d’un utilisateur pour transférer des fonds ou obtenir des informations sensibles.
« Je suis très inquiet à l’idée qu’une crise de la fraude importante et imminente nous guette », a déclaré Altman. « Pour l’instant, il s’agit d’un appel vocal ; bientôt, ce sera une vidéo ou un appel FaceTime impossible à distinguer de la réalité. » Bowman a reconnu le problème et suggéré d’étudier d’éventuels partenariats avec le secteur technologique afin de trouver des solutions.
Malgré la place prépondérante d’OpenAI dans le secteur de l’IA, Altman a précisé que l’entreprise ne créait pas d’outils destinés à l’usurpation d’identité. Il a néanmoins souligné que l’ensemble de la communauté de l’IA devait prendre ses responsabilités pour développer de nouveaux systèmes de vérification, comme les solutions de « preuve d’humanité ».
Altman soutient des outils comme The Orb, développé par Tools for Humanity. Cet appareil vise à fournir une « preuve de l’humanité » dans un monde numérique saturé de faux contenus. Ses inquiétudes dépassent le cadre de la fraude financière et s’étendent au risque de voir la superintelligence artificielle utilisée à mauvais escient dans des domaines tels que la cyberguerre ou les menaces biologiques.
Impact économique et questions sur l’emploi
La conversation ne portait pas uniquement sur les risques. Altman a également abordé les implications plus larges de l’IA pour le travail et l’économie. Contrairement à certains dirigeants de la tech qui craignent des pertes d’emploi massives, Altman a adopté un point de vue plus philosophique.
« Personne ne sait ce qui va se passer ensuite », a-t-il déclaré, ajoutant que cette technologie était trop récente et trop complexe pour permettre des prévisions fiables. Il a reconnu que certains emplois disparaîtraient, mais estime que de nouvelles formes de travail apparaîtront à leur place.
OpenAI renforce sa présence à Washington
Alors que l’IA continue de dominer les débats politiques, OpenAI renforce sa présence aux États-Unis. L’entreprise prévoit d’ouvrir l’année prochaine son premier bureau à Washington, D.C., afin d’accueillir des responsables politiques, de présenter de nouveaux outils et de proposer des programmes de sensibilisation à l’IA destinés aux enseignants et aux représentants publics.
Chan Park, responsable des affaires mondiales d’OpenAI pour les États-Unis et le Canada, dirigera le bureau avec Joe Larson, ancien membre de l’entreprise spécialisée dans les technologies de défense Anduril. Cette décision intervient alors que la Maison-Blanche se prépare à dévoiler son plan d’action sur l’IA, et après que le Sénat a rejeté un moratoire proposé de 10 ans sur la réglementation de l’IA au niveau des États.
À mesure que les risques de fraude liée à l’IA augmentent, les banques et les régulateurs devront adopter des méthodes d’authentification plus robustes. Dans le même temps, OpenAI continue de promouvoir des politiques équilibrées en matière d’IA, tout en se préparant à un avenir où il deviendra de plus en plus difficile de distinguer le vrai du faux.
Découvrez notre analyse complète de l’intervention de Sam Altman lors de l’événement Hard Fork Live, où il a détaillé les menaces urgentes que l’IA fait peser sur l’identité, la sécurité et l’avenir du travail.