OpenAI a accordé une subvention d’un million de dollars à une équipe de chercheurs de la Duke University qui cherche à étudier des algorithmes d’IA capables de prédire les jugements moraux des individus. Cette subvention finance la recherche universitaire sur la « moralité de l’IA », alors que les débats sur l’utilisation éthique de l’intelligence artificielle prennent de l’ampleur dans le débat public. Duke étudie depuis quelque temps l’utilisation de l’IA pour aider les individus à prendre des décisions éthiques, et produit des ressources sur l’éthique consacrées aux dernières technologies d’IA.
L’étude, intitulée « Making Moral AI », est menée par le Moral Attitudes and Decisions Lab (MADLAB) de Duke et dirigée par Walter Sinnott-Armstrong, professeur d’éthique pratique et chercheur principal du projet. Jana Schaich Borg, cochercheuse de l’Institute for Social Science Research, participe également au projet.
MADLAB est un laboratoire interdisciplinaire conçu pour comprendre les différents facteurs qui façonnent et influencent les « attitudes, décisions et jugements moraux » des individus. Les chercheurs tentent de comprendre le rôle de l’IA et la manière dont elle peut servir de « GPS moral » pour aider les individus à prendre de meilleures décisions, guidées par des normes et des traditions éthiques, en s’appuyant sur « l’informatique, la science des données, la philosophie, l’économie, la théorie des jeux, la psychologie et les neurosciences ».
À propos de la subvention d’OpenAI
La subvention d’OpenAI servira à « développer des algorithmes capables de prédire les jugements moraux humains dans des scénarios impliquant des conflits entre des caractéristiques moralement pertinentes en médecine, en droit et dans les affaires », selon un communiqué de presse de Duke. Les informations sur cette subvention de recherche n’ont pas été rendues publiques, mais il s’agirait d’un bon début pour OpenAI d’investir dans une telle initiative. L’éthique est extrêmement nuancée. Les technologies actuelles sont encore loin de pouvoir saisir les subtilités des jugements moraux, en particulier lorsque les émotions humaines jouent elles aussi un rôle crucial.
Les modèles d’IA sont entraînés à calculer et à traiter des données et des statistiques. Les grands modèles de langage s’appuient principalement sur des schémas présents dans le langage et le raisonnement pour générer des prédictions. Plusieurs disciplines interviennent dans la recherche sur la moralité, notamment la philosophie, les études socioculturelles et la psychologie. Combiner ces disciplines avec l’IA, l’informatique et la science des données serait une tâche considérable. Il faut également du temps pour intégrer pleinement les enseignements des sciences sociales et de la philosophie dans les algorithmes d’IA.
Consultez notre guide pour relever les défis éthiques de l’IA ou découvrez l’éthique des modèles d’IA générative pour en savoir plus.