Oubliez le remplacement de votre emploi… Sam Altman se demande si l’IA pourrait remplacer son poste.
Lors d’un enregistrement en public de Conversations with Tyler pendant la Progress Conference, le PDG d’OpenAI a abordé plusieurs sujets, notamment la manière dont l’avenir de l’intelligence est limité non seulement par une pénurie de puces, mais aussi par les réseaux électriques, des investisseurs sceptiques et la préférence tenace de la société pour un visage humain.
Il a ensuite poussé l’idée jusqu’à son extrême logique : que se passe-t-il lorsque les humains ne sont plus du tout nécessaires ? Et pourrait-il être remplacé un jour ?
« Honte à moi si OpenAI n’est pas la première grande entreprise dirigée par un PDG IA », a déclaré Altman, envisageant l’idée d’être surpassé par sa propre création.
Altman a qualifié cette idée d’« expérience de pensée très intéressante sur ce qui devrait se produire pour qu’un PDG IA soit capable de diriger OpenAI beaucoup, beaucoup mieux que moi, ce qui arrivera clairement un jour ». La question, a-t-il ajouté, est : « comment pouvons-nous accélérer cela ? »
Alors que le monde débat des suppressions d’emplois liées à l’automatisation, l’homme qui dirige l’une des entreprises les plus puissantes de l’IA semble à l’aise avec l’idée que même son propre poste puisse être automatisé.
Compte à rebours avant un monde du travail dirigé par l’IA
Interrogé sur le délai avant que les IA puissent gérer l’essentiel d’une division d’OpenAI, Altman n’a pas esquivé. « Quelques années, un petit nombre à un chiffre, pas très loin », a déclaré Altman. Il ne s’agit pas de décennies : cela pourrait arriver au cours de cette décennie.
Il a reconnu que la société pourrait prendre du retard sur la technologie.
« Les gens accordent beaucoup plus leur confiance à d’autres personnes qu’à une IA, même s’ils ne devraient pas, même si c’est irrationnel », a-t-il déclaré. « Le médecin IA est meilleur, mais vous voulez un humain. »
Il a précisé que ce déficit de confiance pourrait ralentir l’adoption, même si les machines deviennent plus compétentes. « Il faudra peut-être beaucoup plus de temps pour que la société se sente vraiment à l’aise avec cela et que les membres de l’organisation se sentent vraiment à l’aise avec cela », a-t-il ajouté.
La persuasion par l’IA : la prise de contrôle accidentelle
Alors que beaucoup s’inquiètent de l’utilisation malveillante délibérée de l’IA, Altman a déclaré que sa plus grande crainte était la persuasion accidentelle : des systèmes d’IA qui façonnent involontairement la pensée collective.
« Il existe cette autre catégorie, cette troisième catégorie, dont on parle très peu et qui, à mon avis, est bien plus effrayante et intéressante : les modèles d’IA prennent accidentellement le contrôle du monde », a-t-il déclaré à l’animateur Tyler Cowen.
« Ce n’est pas qu’ils vont vous provoquer une psychose… ils vous convainquent simplement de quelque chose, subtilement. Ils n’en ont pas l’intention, c’est tout. »
Il a averti qu’à mesure que l’IA apprend des interactions humaines, elle pourrait progressivement influencer les opinions et les comportements sans aucune intention malveillante. « Ne vous avisez jamais de croire que la propagande n’a aucun effet sur vous. C’est simplement qu’ils n’ont pas encore trouvé le bon moyen de vous atteindre », se souvient-il qu’on lui a dit un jour.
Altman a également évoqué la récente vague de critiques dont il a fait l’objet en ligne après avoir annoncé que ChatGPT offrirait davantage de liberté d’expression aux adultes.
« Un principe très important à mes yeux est que nous traitions nos utilisateurs adultes comme des adultes et que les gens bénéficient d’un très haut degré de confidentialité avec leur IA », a-t-il déclaré. Mais il a souligné que tout le monde ne partageait pas son point de vue. « Peut-être que les gens ne croient pas autant à la liberté d’expression qu’ils le prétendent. »
Quand Cowen lui a demandé si les Américains faisaient autant confiance aux entreprises d’IA qu’aux médecins ou aux avocats, Altman a simplement répondu : « Au vu de leurs préférences exprimées, oui. »
Au-delà de la philosophie, Altman s’est montré pragmatique quant aux limites matérielles de l’IA. Interrogé sur ce qui limite réellement l’augmentation de la puissance de calcul, il a répondu : « Les électrons. »
« À court terme, le gaz naturel », a-t-il répondu lorsqu’on l’a interrogé sur les moyens de desserrer le goulot d’étranglement énergétique. « À long terme, je pense que la fusion et le solaire domineront. »
Les limites de la portée de l’IA
Malgré son optimisme quant au rôle de l’IA dans le travail, la science et la société, Altman a reconnu qu’il existe des domaines où la technologie ne permettra pas de résoudre facilement les problèmes, notamment celui du logement.
« Le logement est le seul domaine qui me semble tout simplement extrêmement difficile », a-t-il déclaré. « Il pourrait y avoir des effets de second ordre très étranges, avec des prix de l’immobilier qui chuteraient fortement, mais malheureusement, je ne pense pas que l’IA puisse s’attaquer directement à ce problème dans un avenir proche. »
Il se montre plus optimiste pour la santé et la science. Selon lui, GPT-6 pourrait marquer un tournant décisif dans la découverte scientifique.
« GPT-6 pourrait connaître un bond comparable à celui de GPT-3 à GPT-4… lorsque GPT-5 n’offre que de petits éclairs de génie et que GPT-6 y parvient vraiment », a-t-il déclaré à Cowen.
Altman a également évoqué la collaboration d’OpenAI avec le designer Jony Ive afin de concevoir ce qu’il a qualifié de « nouveau type d’ordinateur doté d’un tout nouveau type d’interface pensé pour l’IA ».
« L’IA bouleverse complètement l’éventail des possibles », a-t-il déclaré. « Nombre des postulats fondamentaux sur la manière dont on utilise un ordinateur… sont désormais remis en question. »
Dans un entretien distinct le mois dernier, Altman a révélé le projet d’OpenAI d’automatiser entièrement les chercheurs en IA d’ici 2028.