Politiques et gouvernance de l’IA : ce qu’il faut savoir

Des politiques d’IA détaillées et exhaustives aident les organisations à gérer plus efficacement la gouvernance de l’IA, l’utilisation des données et les bonnes pratiques éthiques en matière d’intelligence artificielle. La gouvernance de l’IA — c’est-à-dire le suivi, la réglementation et la gestion de l’utilisation de l’IA — garantit le respect effectif des politiques d’IA.

Dans ce guide, nous examinerons plus en détail les politiques et la gouvernance de l’IA, en expliquant comment une politique d’IA qui couvre tous les aspects de la gouvernance de l’IA peut favoriser une utilisation plus efficace de l’IA et une activité globale plus éthique et plus performante.

Qu’est-ce qu’une politique d’IA ?

Une intelligence artificielle politique est un cadre documenté et évolutif de gouvernance de l’IA qui aide les organisations à définir des directives, des règles et des principes clairs concernant l’utilisation et le développement des technologies d’IA au sein de l’organisation.

La création d’une politique d’IA doit aider les dirigeants de votre entreprise à clarifier et à mettre en évidence les normes éthiques, juridiques ou de conformité auxquelles votre organisation s’engage, ainsi qu’à identifier le « qui », le « quoi », le « quand », le « pourquoi » et le « comment » d’une utilisation stratégique de l’IA alignée sur les objectifs et les stratégies globales de l’organisation.

La politique d’IA de chaque organisation sera légèrement différente afin de répondre à ses objectifs spécifiques en matière de gouvernance de l’IA, mais, en règle générale, la plupart des politiques d’IA comprennent une version des composants et éléments structurels suivants :

• Une vision globale de l’utilisation et du développement de l’IA au sein de l’organisation.
• Des énoncés de mission, des objectifs clairs et/ou des KPI alignés sur cette vision.
• Des informations détaillées sur les lois régionales, sectorielles et réglementaires applicables en matière de conformité, ainsi que sur les autres considérations éthiques.
• Un catalogue des outils et services approuvés pouvant être utilisés pour le développement et le déploiement de l’IA.
• Des rôles et responsabilités définis en matière d’utilisation de l’IA.
• Un inventaire et une procédure pour les mécanismes de confidentialité et de sécurité des données.
• Une procédure définie pour signaler et traiter les problèmes de performances et de sécurité de l’IA.
• Des normes d’évaluation des performances des modèles d’IA.

Cet exemple de politique d’utilisation de l’IA de SHRM illustre simplement comment les politiques d’IA peuvent servir à gérer l’utilisation des technologies d’IA par les employés. Source : SHRM.

Qu’est-ce que la gouvernance de l’IA ?

La gouvernance de l’IA est une gestion active des bonnes pratiques qui comprend des politiques, des processus standardisés et des contrôles des données et de l’infrastructure contribuant à un écosystème d’intelligence artificielle plus éthique et mieux maîtrisé.

Grâce à une gouvernance de l’IA efficace et active, les données d’entraînement, les algorithmes et l’infrastructure des modèles peuvent être surveillés et contrôlés plus étroitement pendant le développement initial, l’entraînement et le réentraînement, ainsi que le déploiement. La gouvernance de l’IA contribue à une utilisation plus efficace de l’IA et au respect des réglementations pertinentes en matière de confidentialité des données et d’éthique de l’IA.

Pourquoi la gouvernance de l’IA est-elle importante ?

La gouvernance de l’IA est l’un des moyens les plus efficaces d’établir, d’organiser et de faire appliquer des normes pour le développement et l’utilisation de l’IA, en encourageant les pratiques éthiques et conformes, la transparence, le suivi et l’amélioration continus, ainsi que la collaboration entre les équipes.

La gouvernance de l’IA peut améliorer les résultats de l’utilisation des modèles d’IA et aider les organisations à utiliser l’IA de manière à protéger les données des clients et à respecter les exigences de conformité. Une gouvernance rigoureuse et active préserve la réputation de l’entreprise en tant qu’acteur éthique, non seulement auprès de ses clients, mais aussi de ses partenaires et de l’ensemble du secteur.

La mise en place d’un calendrier indépendant de gouvernance de l’IA peut également aider votre organisation à tirer davantage parti des technologies d’IA utilisées, car l’élaboration de ce type de plan oblige votre équipe à préciser sa vision, ses objectifs et ses responsabilités en matière d’IA avec un niveau de détail accru. La responsabilisation intégrée à la gouvernance continue de l’IA contribue à prévenir et à atténuer les biais dangereux, à créer un plan d’action lorsque le développement ou l’utilisation de l’IA déraille, et à réaffirmer l’importance de préserver la confidentialité et la sécurité des données personnelles.

Pour approfondir la gouvernance d’entreprise, consultez notre présentation complète, Qu’est-ce que la gouvernance des données ?

Qui gère la gouvernance de l’IA ?

La gouvernance de l’IA est un processus complexe, en particulier si votre organisation travaille avec plusieurs modèles d’IA générative ou d’autres plateformes d’IA à grande échelle. Les personnes et équipes suivantes jouent un rôle important dans différents aspects de la gouvernance et de la gestion de l’IA :

• Dirigeants : La direction générale et les autres hauts responsables d’une organisation doivent définir l’orientation générale, les objectifs et la vision de la gouvernance de l’IA ainsi que des politiques d’IA associées. Quel que soit leur titre précis, tous les dirigeants doivent savoir clairement quels outils d’IA sont utilisés et quelles réglementations et politiques encadrent cette utilisation.
• Directeur des systèmes d’information : À moins que votre organisation ne préfère confier ce type de mission à un directeur de l’IA ou à un directeur technique, le CIO est le principal responsable opérationnel chargé de traduire les stratégies et objectifs généraux de l’organisation en actions concrètes de développement et de mise en œuvre de la gouvernance de l’IA. Cette personne est également responsable de veiller à ce que l’IA s’intègre de manière fluide et sécurisée à l’ensemble des autres technologies et infrastructures de la pile technologique de votre entreprise.
• Directeur des données : Le CDO est principalement responsable de la gouvernance des données et de l’assurance qualité au niveau des données. Dans le cadre de ses fonctions, il veille à gérer la qualité et la confidentialité des données, la conformité, ainsi que la transparence des workflows de préparation des données pour les jeux de données d’entraînement des modèles d’IA.
• Directeur de la conformité et équipes juridiques/de conformité : Cette personne ou ce groupe suit les réglementations internationales, nationales, régionales, sectorielles et autres susceptibles d’avoir une incidence sur la manière dont votre organisation peut utiliser les données — notamment les informations personnelles identifiables et la propriété intellectuelle — ainsi que les modèles d’IA. Si un directeur de l’éthique fait partie de cette équipe, sa mission peut dépasser la simple gestion de la conformité et s’étendre à la mise en place de cadres de prise de décision et de formation éthiques.
• Équipes de data science, d’IA et de sécurité informatique : Ce sont les équipes qui prennent en charge les tâches concrètes liées aux données d’entraînement, aux algorithmes, aux modèles, au suivi des performances et aux dispositifs de protection de la sécurité. Elles ne participent pas nécessairement à la définition des normes de gouvernance de l’IA, mais joueront probablement le rôle le plus important dans leur mise en œuvre.
• Comité d’éthique de l’IA : Si votre organisation a créé un comité d’éthique de l’IA qui fonctionne indépendamment des dirigeants de votre direction générale, ses membres conseilleront la direction afin d’établir — et de maintenir activement — des cadres de gouvernance qui prennent en compte l’éthique de l’IA sous tous ses angles, notamment la confidentialité personnelle, la transparence de l’origine des données et de leur entraînement, ainsi que l’impact environnemental.
• Équipes des ressources humaines et de la formation et du développement : Ces responsables sont chargés d’intégrer les bonnes pratiques et les règles de gouvernance de l’IA aux processus de recrutement et d’embauche, afin que tous les nouveaux membres de l’équipe connaissent les rôles et responsabilités qui leur incombent lorsqu’ils utilisent l’IA. Cette équipe ne concevra pas nécessairement les supports ou les objectifs de formation eux-mêmes, mais, grâce à son expérience d’autres types de formations, elle pourra être chargée de diriger la formation à l’utilisation de l’IA dans toute l’organisation.
• Consultants externes : Si votre organisation décide de faire appel à des consultants externes pour la gestion des données, le développement de l’IA ou la planification stratégique, ces personnes pourront prendre en charge une partie ou la totalité des autres tâches décrites ci-dessus. Vous devrez toutefois veiller à ce que les principales parties prenantes de votre organisation collaborent avec ces conseillers afin de créer une politique de gouvernance de l’IA à la fois exhaustive et adaptée à vos besoins spécifiques.
• Autorités de régulation gouvernementales et sectorielles : Selon le secteur ou la région dans lesquels vous exercez, des organismes de réglementation externes peuvent jouer un rôle majeur dans la définition de la gouvernance de l’IA au sein de votre organisation, puisqu’ils établissent et font appliquer les règles relatives à l’utilisation éthique de l’IA et des données. De nombreux pays et regroupements régionaux comme l’UE travaillent actuellement à l’élaboration d’une législation plus complète sur l’IA ; il faut donc s’attendre à ce que le rôle de ce groupe dans la gouvernance de l’IA se développe rapidement au cours des prochains mois et des prochaines années.

Les avantages d’une politique d’IA pour la gouvernance de l’IA

Une politique d’IA offre plusieurs avantages aux organisations qui cherchent à développer une stratégie de gouvernance de l’IA. Voici seulement quelques-unes des façons dont une politique dédiée peut vous aider à rester concentré sur vos objectifs, en conformité et aligné sur votre vision initiale :

• Des directives structurées pour tous les développeurs et utilisateurs d’outils d’IA : Ce type de politique d’IA peut servir de manuel d’utilisation aux développeurs d’IA comme aux utilisateurs de ces outils, car elle couvre l’ensemble du cycle de vie de l’IA, du développement au déploiement, en passant par le suivi et l’optimisation continus. Les règles standardisées propres à ce type de politique favorisent l’adhésion de toute l’organisation et aident vos équipes techniques à élaborer une feuille de route pour les bonnes pratiques d’IA dans des situations réelles.
• Un mécanisme de responsabilisation généralisée : Les politiques d’IA fournissent des règles documentées concernant les bonnes pratiques d’IA applicables à l’organisation et à chaque rôle. Ainsi, toutes les parties prenantes concernées disposent d’un point de référence qui décrit clairement leurs rôles, responsabilités, procédures, limites et interdictions en matière d’utilisation de l’IA, ce qui contribue à éviter les problèmes éthiques et de conformité.
• Un meilleur respect des lois relatives à la réglementation et à la sécurité des données : Même si les dirigeants de votre organisation connaissent probablement les lois relatives à la réglementation et à la sécurité des données ainsi que leur application à votre entreprise, la plupart des autres employés pourraient bénéficier de précisions supplémentaires. Faire appliquer une politique d’IA qui rappelle ces lois et leur application à votre organisation peut aider vos équipes de conformité et juridiques à communiquer sur les problèmes liés aux lois de conformité et à les atténuer à tous les niveaux de l’organisation.
• Une présentation claire des normes et mécanismes de confidentialité des données : Au-delà de la simple énonciation des attentes en matière de sécurité et de conformité des données, les politiques d’IA détaillent le fonctionnement de la confidentialité des données et les mécanismes mis en place pour protéger les données lorsqu’elles sont traitées, stockées et exploitées par des modèles d’IA. Ce niveau de détail indique à tous les employés comment protéger les données les plus sensibles de l’organisation et fournit également à l’entreprise un plan précis de ce qu’elle doit rechercher et des endroits où elle doit chercher lors des audits de l’IA.
• Renforcer la confiance des clients et la réputation de la marque : Alors que les capacités et les cas d’utilisation de l’IA continuent de se développer, de nombreuses personnes sont enthousiasmées par les possibilités offertes, tandis que d’autres se méfient davantage de cette technologie. Établir une politique d’IA qui fait respecter la gouvernance de l’IA tout en renforçant la transparence et l’explicabilité est une manière responsable d’aller de l’avant et donne à vos clients davantage confiance dans la façon dont votre organisation utilise l’IA dans ses activités.
• Se préparer aux futures réglementations sur l’IA : Bien que peu de réglementations spécifiques à l’IA soient pour l’instant inscrites dans la loi, plusieurs groupes, dont l’UE, le Royaume-Uni et les États-Unis, œuvrent à l’élaboration de réglementations et de lois plus complètes sur l’IA. Créer dès maintenant une politique d’IA exhaustive peut aider votre organisation à s’aligner de manière proactive sur les bonnes pratiques en matière d’IA avant qu’elles ne deviennent obligatoires dans vos régions d’activité.

Bonnes pratiques en matière de politiques et de gouvernance de l’IA

Si votre politique d’IA ne définit pas clairement ses attentes en matière de gouvernance et d’utilisation générale de l’IA, vos équipes risquent de rencontrer des problèmes de non-conformité, de sécurité et d’autres erreurs évitables commises par les utilisateurs. Suivez ces bonnes pratiques pour aider chaque membre de votre équipe, quelle que soit sa manière de travailler avec l’IA, à rester attaché à des normes élevées de gouvernance de l’IA :

• Prêtez attention aux réglementations pertinentes : Tenez compte des réglementations régionales, nationales et sectorielles importantes et actualisez régulièrement vos connaissances afin que les systèmes d’IA restent constamment conformes.
• Mettez en œuvre des normes de sécurité et de gestion des données : L’IA est une technologie fondée sur les données ; veillez donc à utiliser des outils, des stratégies et des processus de gestion des données adaptés afin de protéger et d’optimiser cet actif.
• Couvrez l’ensemble du cycle de vie de l’IA dans votre politique d’IA : Votre politique d’IA ne doit pas se concentrer uniquement sur la manière dont les modèles d’IA sont développés ou utilisés. Créez plutôt une politique exhaustive couvrant tous les aspects, de la préparation et de l’entraînement des données à la création et au développement des modèles, en passant par leur déploiement, leur suivi et leur optimisation.
• Établissez des normes et des exigences en matière d’utilisation éthique : Tenez compte des rôles et responsabilités propres à chaque employé et mettez en place des contrôles d’accès fondés sur les rôles ou d’autres normes de sécurité pour étayer ces règles et protéger les données les plus sensibles de vos consommateurs. Accordez également une attention particulière à des notions importantes telles que les biais de l’IA, l’équité, les méthodes d’origine des données et les autres facteurs qui influent sur l’utilisation éthique.
• Créez des normes pour l’évaluation continue des performances des modèles : Que chercherez-vous à observer lorsque vous surveillerez vos modèles « dans le monde réel » ? Votre politique d’IA doit détailler les indicateurs de performance et les KPI importants afin que vous puissiez rester fidèle à vos objectifs et évaluer équitablement les performances à toutes les étapes de l’utilisation et du développement de l’IA.
• Accompagnez votre politique d’IA d’une formation dédiée des utilisateurs : Pour aider tous les employés à comprendre comment votre politique de gouvernance de l’IA s’applique à leur travail, proposez une formation dédiée aux utilisateurs couvrant la cybersécurité, l’utilisation éthique et les autres bonnes pratiques, idéalement à l’aide de scénarios et d’exemples concrets.
• Documentez et mettez régulièrement à jour vos politiques d’IA : Les politiques d’IA ne doivent pas être des documents statiques ; elles doivent évoluer en fonction des changements que connaissent au fil du temps les outils, les attentes des utilisateurs, les tendances et réglementations du secteur, ainsi que d’autres facteurs.
• Communiquez vos pratiques éthiques aux parties prenantes concernées et à vos clients : Communiquez de manière stratégique et transparente vos normes de gouvernance et les détails de votre politique aux investisseurs tiers, aux clients, aux partenaires et aux autres parties prenantes importantes. Cette stratégie de communication contribue à renforcer la confiance dans votre marque et dans son approche éthique de l’IA.

Certaines plateformes d’IA et de ML, notamment Amazon SageMaker, intègrent des fonctionnalités de gouvernance des modèles pour prendre en charge les contrôles fondés sur les rôles et d’autres règles d’utilisation. Source : AWS.

En résumé : utiliser votre politique d’IA et les bonnes pratiques de gouvernance pour améliorer les résultats de l’IA

La plupart des entreprises utilisent déjà l’IA d’une manière ou d’une autre, ou adopteront probablement bientôt cette technologie pour rester au niveau de leurs concurrents dans leur secteur. Créer et respecter une politique d’IA qui couvre en détail la conformité, l’éthique, la sécurité et les cas d’utilisation pratiques aide non seulement ces organisations à démarrer des projets d’IA à grande échelle, mais aussi à répondre aux attentes des clients et aux exigences légales lorsqu’elles utilisent des technologies d’IA.

L’élaboration de politiques et de stratégies de gouvernance de l’IA détaillées peut souvent sembler insurmontable ; pour les organisations qui commencent tout juste à explorer l’IA, la mise en place de ces directives peut sembler particulièrement intimidante. Mais c’est une mauvaise manière de voir les choses : considérez plutôt votre politique de gouvernance de l’IA comme une police d’assurance pour l’entreprise moderne. Alors que les réglementations sur l’IA deviennent plus précises au cours des prochains mois et des prochaines années, il sera avantageux de disposer d’une politique d’IA qui ouvre proactivement la voie à une intelligence artificielle plus responsable et plus efficace.

Pour plus d’informations sur les questions sensibles liées aux politiques et à la gouvernance de l’IA, consultez notre guide, Problèmes liés à l’IA et à la confidentialité : ce qu’il faut savoir.