Une cadre dirigeante du matériel chez OpenAI a quitté ses fonctions, affirmant que l’entreprise était allée trop vite dans le cadre d’un accord controversé impliquant l’intelligence artificielle et l’armée américaine.
Caitlin Kalinowski, la dirigeante très en vue recrutée pour piloter les activités d’OpenAI dans le matériel et la robotique, a annoncé sa démission samedi dernier. Son départ est une réaction directe à l’accord récemment conclu par l’entreprise pour intégrer ses modèles d’IA aux réseaux classifiés du Pentagone, une initiative qui, selon elle, a été menée bien trop rapidement pour être rassurante.
Kalinowski n’a pas mâché ses mots pour expliquer son départ. Dans une publication partagée sur LinkedIn et X, elle a expliqué que sa décision était motivée par les enjeux éthiques de la guerre moderne et de la sécurité intérieure.
« J’ai démissionné d’OpenAI. Je tiens profondément à l’équipe Robotics et au travail que nous avons accompli ensemble. Cette décision n’a pas été facile », a écrit Kalinowski. Elle a reconnu la réalité de la défense moderne, mais a pointé du doigt certaines « lignes » qui, selon elle, ont été franchies.
« L’IA joue un rôle important dans la sécurité nationale. Mais la surveillance des Américains sans contrôle judiciaire et l’autonomie létale sans autorisation humaine sont des lignes qui méritaient davantage de réflexion qu’elles n’en ont reçu », a-t-elle déclaré.
Plus tard, dans une publication de suivi sur X, elle a précisé que son départ concernait la manière dont l’entreprise est dirigée. « C’est avant tout une question de gouvernance », a écrit Kalinowski. « Ces enjeux sont trop importants pour que des accords ou des annonces soient précipités. »
La démission met en lumière un fossé grandissant dans la Silicon Valley autour des contrats militaires. L’accord d’OpenAI avec le ministère de la Guerre a été conclu peu après que la relation entre le gouvernement et l’entreprise rivale Anthropic s’est effondrée.
Anthropic avait demandé des limites strictes à l’utilisation de sa technologie, ce qui a finalement conduit l’administration Trump à qualifier l’entreprise de « risque pour la chaîne d’approvisionnement ». OpenAI s’est engouffrée dans la brèche et a conclu un accord pour déployer ses modèles sur les réseaux gouvernementaux classifiés.
Le calendrier de l’accord a fait sourciller jusque chez OpenAI. Le PDG Sam Altman avait précédemment reconnu que le déploiement semblait « opportuniste et bâclé », même si l’entreprise a depuis tenté de clarifier ses limites.
La réponse d’OpenAI
Malgré ce départ à un haut niveau, OpenAI campe sur ses positions et affirme avoir intégré des garde-fous pour empêcher précisément les dérives que redoute Kalinowski.
Dans une déclaration transmise à Fortune, un porte-parole d’OpenAI a déclaré : « Nous pensons que notre accord avec le Pentagone ouvre une voie viable pour des usages responsables de l’IA dans le domaine de la sécurité nationale, tout en fixant clairement nos lignes rouges : aucune surveillance intérieure et aucune arme autonome. »
L’entreprise a ajouté qu’elle « reconnaît que beaucoup ont des opinions tranchées sur ces questions » et a promis de poursuivre le dialogue avec ses employés et les organisations de la société civile.
Qui est Caitlin Kalinowski ?
Kalinowski a rejoint OpenAI en novembre 2024 pour contribuer au développement des activités de l’entreprise dans la robotique et le matériel.
Auparavant, elle a passé plusieurs années chez Meta, où elle a travaillé sur le matériel de réalité augmentée, notamment en dirigeant le développement du projet de lunettes AR Orion. Plus tôt dans sa carrière, elle a travaillé sur des casques de réalité virtuelle chez Oculus et a passé près de six ans chez Apple à contribuer à la conception d’ ordinateurs portables MacBook.
Son rôle chez OpenAI consistait notamment à développer les capacités matérielles de l’entreprise, qui explorait des moyens de relier les systèmes d’IA aux machines et aux infrastructures physiques.
Malgré son départ, Kalinowski a indiqué qu’elle comptait continuer à travailler dans ce domaine.
À lire également : Le conflit entre Anthropic et le Pentagone aide à comprendre pourquoi l’accord militaire d’OpenAI a déclenché une réaction interne aussi vive.