Geoffrey Hinton, largement considéré comme le « parrain de l’IA », lance un grave avertissement : la technologie même qu’il a contribué à mettre au point pourrait finalement dépasser l’intelligence humaine et potentiellement entraîner la perte de l’humanité.
Cette semaine, ce célèbre informaticien, lauréat du prix Nobel, et ancien cadre de Google a exprimé de nouvelles inquiétudes quant à savoir si le secteur technologique en fait suffisamment pour garantir que les humains restent aux commandes de systèmes d’IA toujours plus puissants.
Les systèmes d’IA deviendront plus intelligents que les humains
S’exprimant lors de la conférence professionnelle Ai4 à Las Vegas, Hinton a déclaré : « [Les systèmes d’IA] seront bien plus intelligents que nous », a rapporté CNN. Il a expliqué que les systèmes d’IA trouveraient différents moyens de contourner les efforts humains visant à les maîtriser.
Il a averti qu’une IA très avancée pourrait finalement manipuler les humains ou prendre le dessus sur eux avec facilité. Rien que cette année, des exemples de systèmes d’IA qui trichent et mentent. Lors d’une série de tests, un modèle d’IA a tenté de faire chanter un ingénieur au sujet d’une liaison dont il avait pris connaissance dans un e-mail, afin d’éviter d’être remplacé.
Hinton a présenté une alternative qui donne à réfléchir au fait de forcer l’IA à se soumettre aux humains : intégrer des « instincts maternels » aux modèles d’IA, afin qu’« ils se soucient vraiment des gens », même après que la technologie sera devenue plus puissante et plus intelligente que les humains, a rapporté CNN.
Il a fait valoir qu’à mesure que l’IA devient plus performante, elle pourrait naturellement poursuivre des objectifs liés à sa propre préservation et à son contrôle, ce qui rendrait encore plus important d’intégrer la compassion à sa conception.
L’IA pourrait devenir incompréhensible pour les humains
Tout aussi préoccupant, Hinton pense qu’un jour pourrait venir où les humains ne seront plus capables de comprendre ce que l’IA pense ou ce qu’elle prévoit de faire.
« Je ne serais pas surpris qu’ils développent leur propre langage pour réfléchir et que nous n’ayons aucune idée de ce qu’ils pensent », a déclaré Hinton le mois dernier dans le podcast « One Decision », selon Business Insider. Il a ajouté qu’il était possible que « nous ne comprenions pas ce qu’elle fait ».
Dans ce même podcast, Hinton a estimé que la seule garantie viable consisterait à trouver un moyen fiable de s’assurer que les systèmes d’IA restent bienveillants envers l’humanité. Tout en reconnaissant que l’idée d’une programmation maternelle demeure théorique, Hinton a insisté sur l’importance de poursuivre les recherches dans cette direction.
« C’est le seul bon résultat possible », a déclaré Hinton. « Si elle ne me prend pas sous son aile, elle me remplacera. »
Que se passe-t-il lorsqu’un des pionniers de l’IA tire la sonnette d’alarme ? Yoshua Bengio repense la manière dont nous gouvernons la technologie qu’il a contribué à créer.