Vous savez probablement qu’Anthropic a été fondée par des personnes ayant quitté OpenAI. Ce que vous ignorez probablement, c’est pourquoi elles sont parties, et à quel point les choses sont devenues personnelles au moment du départ. Cette brouille personnelle devenue rupture idéologique façonne aujourd’hui des décisions qui se chiffrent en milliers de milliards de dollars sur la manière de développer l’IA, les personnes qui la contrôlent et ce qu’elle est autorisée à faire.
Une nouvelle enquête du WSJ menée par le journaliste Keach Hagey, à partir d’entretiens avec des employés actuels et anciens des deux entreprises, livre le récit le plus complet à ce jour de ses débuts. Voici le fil des événements.
Tout a commencé par un désaccord de principe…
Dario Amodei a rejoint OpenAI en 2016, avant de devenir vice-président de la recherche et l’un des principaux architectes de GPT-2 et GPT-3. Mais en coulisses, lui et Sam Altman s’opposaient de plus en plus sur une question fondamentale. À quelle vitesse avancer, et qui devait être aux commandes ?
Les fissures se sont rapidement élargies
- La proposition Russie/Chine. Le cofondateur Greg Brockman a évoqué un plan de levée de fonds comprenant la vente d’un accès à l’AGI à des nations rivales. Dario aurait considéré cela comme proche de la trahison et aurait failli démissionner sur-le-champ.
- La promesse non tenue. Altman avait assuré à Dario que Brockman et Ilya Sutskever, alors directeur scientifique d’OpenAI, n’auraient pas autorité sur lui. Dario a découvert plus tard un accord informel secret qui donnait aux deux hommes le pouvoir de le licencier.
- La confrontation. En 2020, Altman a convoqué Dario et sa sœur Daniela dans une salle de réunion et les a accusés d’organiser des retours négatifs du conseil d’administration à son encontre. La discussion s’est terminée en échange de cris.
Les conditions posées par Dario pour rester étaient simples. Rendre compte directement au conseil d’administration et ne plus jamais travailler avec Brockman. Les deux demandes ont été rejetées. Il est parti en 2021, emmenant Daniela et une douzaine d’autres employés d’OpenAI pour fonder Anthropic.
Au fond, la rupture se résumait à ceci. Dario pensait qu’il était possible de faire évoluer rapidement l’IA ET de la développer en toute sécurité. Altman estimait que la vitesse et la domination du marché passaient en premier. Ils n’ont jamais tranché la question. Ils ont simplement bâti deux entreprises distinctes autour de ces visions. Et si vous pensiez que cela mettait fin à l’histoire, le reportage du WSJ s’arrête là, mais la querelle, elle, n’a absolument pas pris fin.
Les mêmes désaccords sur le contrôle, la sécurité et le pouvoir se retrouvent désormais dans chaque grande décision publique prise par les deux entreprises. Rien qu’en février :
- Les piques du Super Bowl. Anthropic a lancé une campagne de quatre publicités avec un message au premier plan. “La publicité arrive dans l’IA. Mais pas dans Claude.“ Une attaque directe contre le projet d’OpenAI d’intégrer des publicités à ChatGPT. Altman a publiquement qualifié ces publicités de « clairement malhonnêtes ». Le verdict du professeur de marketing Scott Galloway a été sans détour. Les leaders du marché ne reconnaissent pas la concurrence. Altman a cligné des yeux.
- La photo de circonstance en Inde. Lors d’un sommet consacré à l’IA, le Premier ministre indien Modi a tenté de mettre en scène un moment d’unité avec les dirigeants rivaux, poings levés côte à côte. Sundar Pichai, de Google, et le responsable de l’IA chez Meta se sont prêtés au jeu. Altman et Amodei ont levé des poings séparés et évité de se regarder dans les yeux. Internet s’en est donné à cœur joie. Altman a déclaré plus tard qu’il était « simplement confus ». Bien sûr.
- Le bras de fer avec le Pentagone. Lorsque le ministère de la Défense les a sollicités, les deux entreprises ont pris des directions opposées, révélant exactement où se situent leurs priorités. Anthropic a refusé de signer sans garanties strictes contre les armes autonomes et la surveillance de masse de la population. OpenAI a signé quelques heures plus tard. Le secrétaire à la Défense Hegseth a réagi en menaçant de désigner Anthropic comme un risque pour la chaîne d’approvisionnement nationale, ce qui lui interdirait de fait de travailler avec quelque sous-traitant gouvernemental que ce soit.
En privé, la rhétorique est encore plus virulente. Selon le WSJ, Dario aurait comparé en interne le procès opposant Altman et Musk à « Hitler contre Staline », qualifié de « maléfique » le don de 25 millions de dollars de Brockman, cofondateur d’OpenAI, à un super PAC pro-Trump, et comparé OpenAI à une entreprise de tabac.
Pourquoi c’est important
Deux entreprises valorisées à plus de 300 milliards de dollars prennent des décisions sur la publicité, les contrats d’armement et les personnes qui peuvent accéder à l’IA la plus puissante au monde.
Ces décisions remontent à un échange de cris en 2020. Et le fossé continue de se creuser. Cette semaine, des documents d’Anthropic ayant fuité ont révélé un nouveau modèle appelé Claude Mythos qui serait « considérablement » en avance sur tout ce qui existe sur le marché. Il est également décrit comme « très coûteux à exploiter ».
Pendant ce temps, les utilisateurs de Claude ayant souscrit aux offres à 100 dollars par mois atteignent déjà les limites de débit en moins d’une heure. Plus le modèle est puissant, plus il est difficile de le maintenir accessible. C’est précisément ce que Dario disait vouloir quitter OpenAI pour corriger.
Notre analyse…
Dario a bâti Anthropic autour de l’idée que sécurité et passage à l’échelle ne sont pas incompatibles.
Mais pour l’instant, son modèle le plus puissant est trop coûteux à exploiter, ses utilisateurs payants se heurtent à des limites, et le Pentagone vient de menacer son entreprise parce qu’elle a défendu ses principes. Pendant ce temps, OpenAI a signé l’accord de défense, diffuse des publicités et remporte la bataille de la distribution. L’ironie est difficile à ignorer.
La voie « responsable » se révèle être l’activité la plus difficile à gérer. Que cela change, ou que le pari d’Anthropic finisse par payer, est probablement la question la plus importante qui se pose actuellement dans l’IA.
Note de la rédaction : ce contenu a d’abord été publié dans la newsletter de notre publication sœur, The Neuron. Pour lire davantage d’articles de The Neuron, inscrivez-vous à sa newsletter ici.