Sam Altman a publié ce week-end les principes directeurs d’OpenAI.
Ce qui rend le moment choisi particulièrement notable, c’est que le mois qui l’a précédé avait déjà donné lieu à trois articles concernant directement la question de savoir si ces principes sont respectés.
Les cinq principes sont la démocratisation, l’émancipation, la prospérité universelle, la résilience et l’adaptabilité. Il faut d’abord comprendre ces principes selon leurs propres termes.
- Altman soutient que le pouvoir de l’IA doit être largement distribué plutôt que capté par une poignée d’entreprises.
- Il s’engage en faveur d’une prise de décision démocratique : l’évolution de cette technologie doit être façonnée par des processus publics, et pas uniquement par la direction interne.
- Il appelle à la transparence lorsqu’OpenAI change de cap, et demande aux gouvernements de mettre au point de nouveaux modèles économiques qui répartissent les bénéfices de l’IA au lieu de les concentrer.
Ils aboutissent à une affirmation précise sur la responsabilité : OpenAI doit rendre des comptes non seulement à ses investisseurs, mais aussi au public dont cette technologie va transformer la vie. Cette formulation est importante, car les trois articles ci-dessous mettent chacun à l’épreuve un aspect différent de cette idée.
Test n° 1 : les systèmes officiels reflètent-ils les priorités affichées ?
Deux semaines avant la publication de ces principes, OpenAI a publié un Preparedness Framework mis à jour, son processus de suivi de l’évolution des modèles jusqu’au stade où ils deviennent capables de poser de graves risques. Il couvre les menaces biologiques et chimiques, la cybersécurité et les scénarios d’auto-amélioration de l’IA.
C’est un travail détaillé et sérieux. Sur le papier, il correspond exactement au type d’infrastructure décrit par le principe de résilience d’Altman. OpenAI sait manifestement mettre en place des systèmes officiels de sécurité. Ce qui donne d’autant plus matière à réflexion aux deux exemples suivants.
Test n° 2 : la culture interne est-elle à la hauteur des engagements officiels ?
Il y a trois semaines, Ronan Farrow et Andrew Marantz, du The New Yorker , ont publié une enquête fondée sur des mémos internes, des documents des ressources humaines et plus de 100 entretiens avec des employés actuels et anciens. Leurs conclusions ?
- L’ancien directeur scientifique Ilya Sutskever a rassemblé 70 pages de messages Slack dans lesquels il accuse Altman d’avoir induit le conseil d’administration en erreur au sujet des protocoles de sécurité internes.
- L’équipe de superalignement d’OpenAI, à qui l’on avait autrefois promis 20 % de la puissance de calcul de l’entreprise pour ses recherches sur la sécurité existentielle, a été dissoute avant d’avoir achevé sa mission, les ressources effectivement allouées étant apparemment très inférieures à l’engagement initial.
- Lorsque les journalistes ont demandé à parler à une personne de l’entreprise travaillant sur la sécurité existentielle, un porte-parole a répondu qu’il ne connaissait pas ce terme.
Ce dernier détail soulève des questions que les nouveaux principes rendent plus difficiles à écarter. Le principe de résilience d’Altman engage OpenAI à travailler avec les gouvernements et les institutions sur les nouveaux risques. Ce type de responsabilité vis-à-vis de l’extérieur est difficile à maintenir si le langage interne concernant ces risques s’est discrètement effacé.
Test n° 3 : lorsque des dommages surviennent, la responsabilité s’étend-elle au-delà de l’entreprise ?
La veille de cette publication, Altman a présenté des excuses officielles à la communauté de Tumbler Ridge, en Colombie-Britannique. En février, un homme armé y a perpétré une tuerie de masse. Des mois avant l’attaque, les conversations du tireur avec ChatGPT avaient été signalées en interne chez OpenAI, et le compte avait été banni.
Personne n’a alerté les forces de l’ordre. La lettre d’Altman reconnaissait directement cette défaillance. Elle est arrivée un jour avant une publication dans laquelle OpenAI s’engageait à travailler avec les gouvernements et les agences internationales pour prévenir les préjudices graves.
C’est le test auquel les principes sont le moins à même de répondre a posteriori. Le problème n’est pas ici l’écart entre un document et une culture. Il réside entre un engagement affiché en faveur d’une responsabilité externe et une décision qui, au moment où cela comptait, est restée entre les murs de l’entreprise.
Pourquoi c’est important
Chacun de ces articles pose la même question fondamentale sous un angle différent : à qui OpenAI rend-elle réellement des comptes, et de quelle manière ?
Le cadre officiel suggère que la réponse est : à tout le monde, avec rigueur. Les conclusions sur la culture interne soulèvent des questions quant à savoir si cela reste vrai lorsque les choses se compliquent. L’affaire de Tumbler Ridge demande ce qui se passe lorsque ce n’est pas le cas. La publication d’Altman sur les principes ne résout rien de tout cela. Mais elle fixe une norme suffisamment précise pour pouvoir être évaluée.
Notre point de vue
L’intérêt principal de la publication d’Altman est qu’elle existe désormais. Non pas parce qu’elle règle quoi que ce soit, mais parce qu’elle donne aux régulateurs, aux utilisateurs et à tous ceux qui y prêtent attention un élément concret auquel comparer les décisions futures. La norme est fixée. Ce que nous ignorons encore, c’est si l’institution la mieux placée pour la faire respecter est bien celle qui l’a écrite.
Note de la rédaction : ce contenu a d’abord été publié dans la newsletter de notre publication sœur, The Neuron. Pour lire davantage d’articles de The Neuron, inscrivez-vous à sa newsletter ici.