Gary Marcus, spécialiste de l’IA et professeur émérite à New York University, appelle à une réglementation destinée à protéger la démocratie, alors que les progrès des modèles d’intelligence artificielle générative en font de plus en plus des outils redoutables de mensonge et de propagande politique, grâce aux hypertrucages et à la désinformation. Dans son dernier ouvrage, Taming Silicon Valley, Marcus met brillamment au jour les dangers actuels et futurs de l’IA générative et en recense les effets concrets.
Le danger que voit Marcus
L’IA générative est utilisée pour diffuser des mensonges et de la désinformation, imiter des livres et des œuvres d’art protégés par le droit d’auteur, et multiplier les cybercrimes et les escroqueries dans l’espace virtuel et sur les réseaux sociaux. La confidentialité des données des consommateurs entre les mains d’entreprises technologiques non réglementées, libres de vendre les données privées, suscite également une inquiétude croissante.
Aux yeux de nombreux experts, dont Marcus, les États-Unis sont un Far West numérique. Le danger que représente la technologie ne tient pas tant à un scénario apocalyptique dans lequel l’IA anéantirait l’humanité qu’à ce que des grands modèles de langage comme ChatGPT ont déjà fait à la société et aux dommages supplémentaires qu’ils causeront aux personnes et aux institutions s’ils restent sans réglementation.
« (Il) est beaucoup question de… la probabilité que les machines anéantissent toute l’humanité », écrit Marcus dans Taming Silicon Valley. « Je doute que nous assistions à une extinction littérale causée par l’IA. »
La solution proposée par Marcus
Dans un entretien avec The Register au sujet de ce qui est le plus préoccupant dans ChatGPT et les modèles similaires, Marcus a cité « la menace que représentent pour la démocratie la désinformation et les hypertrucages générés automatiquement ». Il suggère la création d’une instance de régulation — une agence de l’IA qui approfondirait les lignes directrices et les règles — chargée de réglementer et de promouvoir un usage responsable de l’IA et des technologies numériques en général.
Il dénonce les grandes entreprises technologiques qui « deviennent de plus en plus puissantes, avec presque aucune contrainte », et estime qu’il faut dompter la Silicon Valley. Pour y parvenir, la pression de l’opinion publique est nécessaire. « Sans davantage de pression publique, a-t-il déclaré, très peu de choses seront faites aux États-Unis pour protéger les citoyens contre une IA de plus en plus intrusive et problématique. »
Les voix, vidéos, photos et livres hypertruqués générés par l’IA et utilisés pour escroquer les gens, ainsi que les grandes entreprises technologiques qui agissent sans avoir à répondre de leurs actes, ne sont que quelques-uns des dangers posés par l’intelligence artificielle, et ils nuisent déjà à la société. L’IA a déjà servi à créer et à diffuser de la désinformation qui a influencé des élections aux États-Unis et aux Philippines. Les autoritaires prospèrent lorsque la vérité est compromise et que des versions alternatives de la réalité remplacent les faits. Sans un travail législatif sérieux pour établir une réglementation, l’IA générative met en danger la démocratie américaine, si chère à ses citoyens.