Une récente étude de Deloitte Consulting consacrée à la question de savoir si l’on peut faire confiance à l’IA s’est intéressée aux technologies émergentes présentant le plus fort potentiel de risque éthique grave. Le rapport The State of Ethics and Trust in Technology a révélé que les technologies cognitives, comme l’IA, arrivaient en tête, avec 54 %, loin devant la réalité numérique, deuxième avec 16 %, et que 40 % des personnes interrogées citaient la confidentialité des données parmi leurs principales préoccupations concernant l’IA générative (GenAI).
Cependant, 46 % des personnes interrogées ont déclaré que les technologies cognitives offraient également le plus fort potentiel au service du bien social, soulignant la capacité de cette technologie à polariser les opinions depuis son apparition. Les résultats montrent que la méfiance et les préoccupations éthiques à l’égard de l’intelligence artificielle ont diminué de 3 % depuis 2023, tandis que l’espoir de voir l’IA devenir finalement une force au service du bien a progressé de 7 %.
De toute évidence, une familiarité accrue a renforcé le degré d’aisance des professionnels des entreprises et de l’informatique à l’égard de l’IA et de l’IA générative. Mais l’enquête montre que la question reste ouverte. L’adoption accélérée de l’IA générative semble dépasser la capacité des organisations à encadrer cette technologie et à maintenir des normes éthiques et de confidentialité.
Que peut-on faire ?
La confiance n’est jamais loin dans les discussions sur l’IA, alimentées depuis des décennies par les romanciers et les scénaristes qui multiplient les récits d’IA devenant incontrôlables. Si l’étude de Deloitte montre que les préoccupations éthiques persistent, elle indique également qu’elles pourraient commencer à s’atténuer. Pour faire évoluer la perception du public dans la bonne direction, une solution consiste à contribuer à instaurer la confiance.
« Les personnes interrogées se montrent préoccupées par les atteintes à la réputation d’une organisation associées à un usage abusif de la technologie et au non-respect des normes éthiques », indique le rapport. « L’IA est un outil puissant, mais elle nécessite des garde-fous. »
Les entreprises qui ajoutent des garde-fous en matière de gouvernance et de conformité à leur utilisation de l’IA peuvent contribuer à obtenir l’adhésion des employés et des clients et à renforcer la confiance dans cette technologie.
L’IA est-elle fiable ?
Une autre étude jette de sérieux doutes sur l’exactitude des résultats produits par l’IA générative. Si la précision faiblit sur des tâches que les humains jugeraient difficiles, une constatation surprenante est que l’IA générative n’atteint pas une précision de 100 % même sur des tâches considérées comme très simples.
« Les modèles de grande taille ont beaucoup plus souvent tendance à fournir une réponse apparemment sensée, mais erronée », a déclaré le coauteur de l’étude Lexin Zhou, chercheur à l’Université polytechnique de Valence, en Espagne, « y compris des erreurs sur des questions difficiles que les superviseurs humains ne remarquent souvent pas. »
Deloitte recommande de nommer des directeurs de l’éthique chargés de superviser l’IA, dans le cadre d’un effort plus vaste visant à suivre les meilleures pratiques éthiques applicables à la technologie. Ces personnes mettraient en place des processus permettant une utilisation sûre et précise de l’IA, tout en faisant respecter la conformité, en favorisant l’adhésion aux normes et en défendant la responsabilité en matière d’usage éthique. Par exemple, des principes éthiques peuvent être intégrés au code logiciel, aux applications et aux flux de travail.
« Intégrer des principes éthiques dès les premières étapes, puis de manière répétée tout au long du cycle de vie du développement technologique, peut contribuer à démontrer un engagement plus complet en faveur de la confiance au sein des organisations et à maintenir l’éthique au premier plan des priorités et des processus de vos équipes », a déclaré Bill Briggs, directeur technique de Deloitte Consulting.
Les processus et garde-fous appropriés doivent être en place afin de garantir aux utilisateurs de l’IA générative qu’ils peuvent se fier à la fiabilité des résultats et qu’ils ne se livrent pas involontairement à un vol, à du plagiat ou à un usage abusif de la propriété intellectuelle (PI). En outre, des processus doivent empêcher les humains d’accepter aveuglément les conclusions et les réponses de l’IA comme étant vraies à 100 %.
« L’ampleur croissante de l’adoption de l’IA générative pourrait accroître les risques éthiques des technologies émergentes, et les dommages potentiels liés à une mauvaise gestion de ces risques pourraient être réputationnels, organisationnels, financiers et humains », a déclaré Lori Lewis, directrice principale chez Deloitte Consulting.
En savoir plus sur l’éthique de l’IA générative ou sur les politiques et la gouvernance de l’IA.