Un documentaire présenté en avant-première à Sundance cette semaine affirme révéler la réalité troublante qui se cache derrière l’essor fulgurant de l’IA.
Tout commence par une histoire glaçante datant de 2016, qui prédisait le chaos actuel de l’IA. «Ghost in the Machine » s’ouvre sur le chatbot expérimental ‘Tay’ de Microsoft, qui s’est transformé en machine déversant des propos haineux dans les 24 heures suivant son lancement, ouvrant ce que la réalisatrice Valerie Veatch appelle une boîte de Pandore qui dévore désormais l’industrie créative.
Enfin, c’est une façon de voir les choses. Si vous êtes passionné par l’IA, mieux vaut conserver cet état d’esprit positif.
Mais concernant le documentaire, les critiques qualifiaient l’enquête de Veatch de « démolition cinglante du techno-fascisme », qui s’en prend directement à Elon Musk et à la structure de pouvoir de la Silicon Valley. Des images du film relient les origines de l’IA à des mouvements eugénistes racistes discrédités datant d’un siècle, révélant la laide vérité qui se cache derrière les promesses rutilantes de cette technologie.
Biais et contrôle
Les expériences personnelles de Veatch avec des outils d’IA ont produit des biais raciaux troublants et des images extrêmement sexualisées sans qu’on le leur demande. Ce n’étaient pas des dysfonctionnements, mais des fonctionnalités d’un système fondé sur ce qu’elle a découvert être « l’extraction, l’exploitation et le contrôle ».
En déconstruisant pièce par pièce le récit de la Silicon Valley, son enquête révèle la main-d’œuvre humaine sous-payée qui s’épuise à modérer les contenus dans les coulisses. Alors que les milliardaires de la tech présentent l’IA comme révolutionnaire, des images captées en caméra cachée dévoilent une force de travail on ne peut plus humaine, rémunérée à la portion congrue au bas de la pile de l’IA.
Tout porte à croire que l’IA n’est que la dernière tentative de « puissants hommes blancs adeptes de l’exclusion pour refaire le monde entier à leur image ». Ce n’est pas du progrès, mais une recette vieille d’un siècle maquillée sous les traits d’une nouvelle technologie.
Si vous êtes toujours là, ce n’est pas fini.
La guerre au sein de l’industrie
Alors que Veatch appelle à une « résistance radicale » à l’adoption de l’IA, des initiés d’Hollywood révèlent que l’industrie du divertissement est déjà en train de se fracturer. Des dirigeants de studios utilisent secrètement l’IA pour évaluer les scénarios en temps réel, remplaçant les lecteurs humains par des machines qui produisent des notes sur les histoires sans aucune réaction humaine.
Confrontés à des contraintes budgétaires, les studios choisissent des contenus générés par l’IA qui offrent « 80 % de la qualité pour 10 % du coût », bouleversant en profondeur la manière dont les films sont réalisés. Les premières versions sont analysées par l’IA. Les notes sur les histoires ? Générées par des machines. Les lecteurs humains ? Complètement supprimés.
Les signaux d’alerte sont apparus pendant les grèves d’Hollywood de 2023, lorsque scénaristes et acteurs ont fait de la protection contre l’IA une revendication phare. Rolling Stone avait rapporté dès mai 2023 la menace que cette technologie faisait peser sur les emplois créatifs, mais l’industrie avait balayé ces craintes, les jugeant prématurées. Aujourd’hui, moins de trois ans plus tard, ces prédictions deviennent une brutale réalité.
Impact et conséquences
L’historien Yuval Noah Harari a averti ce mois-ci que l’impact réel de l’IA se déploiera sur 200 ans, ce qui signifie que les décideurs actuels, focalisés sur les profits à court terme, libèrent des conséquences qu’ils ne peuvent tout simplement pas comprendre. Harari a comparé le moment présent aux débuts de la révolution industrielle, dont les conséquences les plus profondes ont mis des générations à se manifester, au fil de bouleversements sociaux, politiques et géopolitiques.
Même si le développement de l’IA s’arrêtait aujourd’hui, soutient Harari, ses effets à long terme resteraient impossibles à appréhender. Pourtant, cette technologie transforme déjà la réalisation de documentaires elle-même, des outils d’IA étant utilisés pour tout, de la transcription aux reconstitutions historiques, créant une situation ironique dans laquelle les films qui critiquent l’IA doivent composer avec l’utilisation de la technologie même qu’ils dénoncent.
L’analyse du secteur révèle une implacable équation : les studios ne paieront pas pour une créativité humaine à 100 % lorsqu’ils peuvent obtenir 80 % de la qualité pour 10 % du coût. Comme le prévient un professionnel du secteur, « si vous ne vendez que des mots sur une page, l’IA gagnera à tous les coups en rapidité et en coût. »
Le choix irréversible
La solution proposée par Veatch traverse le chaos de l’industrie avec une clarté saisissante : placer le soin au cœur des communautés, reconstruire les liens humains et résister à l’adoption irréfléchie de l’IA à tout prix. Le système d’étiquetage « NOT AI » de son documentaire n’est pas qu’un gadget : c’est un cri de ralliement pour préserver la créativité humaine à l’ère du remplacement algorithmique.
Au-delà d’Hollywood, l’enquête de Veatch révèle le coût humain de cette transformation. Son film ne se contente pas de diagnostiquer le problème : il tire la sonnette d’alarme sur ce que la société est en train de perdre dans sa hâte d’adopter tout ce qui est généré par des machines.
Voici les huit choses principales que vous ne devriez jamais copier-coller dans un chatbot d’IA, classées des erreurs faciles à négliger aux divulgations les plus dangereuses.