Les modèles d’IA générative sont des outils puissants que les data scientists utilisent pour obtenir des résultats performants, de la création de contenu à l’amélioration des performances de l’analyse des données. Pourtant, il devient évident que de nombreux utilisateurs ne sont pas conscients des risques liés à l’utilisation de l’IA générative.
Alors que de plus en plus d’utilisateurs intègrent l’IA générative à leurs flux de travail quotidiens sans effectuer les vérifications nécessaires, les difficultés et conséquences potentielles liées à l’utilisation de ces modèles d’IA commencent à l’emporter sur leurs avantages. Cela est particulièrement vrai pour les entreprises qui ont besoin de pratiques transparentes en matière de données et de sécurité afin de protéger les données de leurs clients et de respecter les réglementations propres à leur secteur.
Dans ce guide, nous aborderons brièvement certains des risques liés à l’utilisation de l’IA générative. Plus important encore, nous présenterons quelques-unes des meilleures méthodes permettant à votre organisation de gérer et d’atténuer les risques liés à l’IA générative.
Quels sont les risques associés à l’IA générative ?
Les modèles d’IA générative sont d’immenses outils d’intelligence artificielle qui s’appuient sur de grandes quantités de données provenant de tiers, sur une architecture de réseau neuronal, ainsi que sur des algorithmes complexes pour générer du contenu original.
Ces caractéristiques permettent aux modèles génératifs d’effectuer des tâches de résolution de problèmes proches de celles des humains. Mais, à l’instar du cerveau humain, les décisions et les résultats de ces modèles d’IA générative ne sont pas tous faciles à analyser. Le manque de transparence des modèles d’IA constitue l’un des nombreux risques liés à l’IA générative que les utilisateurs doivent prendre en compte dans le cadre de leur travail.
Voici d’autres risques importants liés à l’IA générative :
- La possibilité qu’un modèle d’IA ait utilisé des données ou des créations protégées par le droit d’auteur sans le consentement de leur créateur ; même lorsqu’ils ignorent cette violation, les utilisateurs qui exploitent commercialement un contenu non autorisé peuvent voir leur responsabilité engagée.
- La possibilité d’utiliser des données sensibles de consommateurs et de voir ces données intégrées au jeu de données d’entraînement continu du modèle.
- Les données d’entraînement d’un modèle peuvent être biaisées, incomplètes ou autrement inexactes.
- Les modèles peuvent ne pas disposer d’autant de mécanismes de protection intégrés que nécessaire à votre organisation pour protéger les données et respecter les réglementations.
- Il est toujours possible qu’un employé utilise involontairement un modèle ou des données sensibles à mauvais escient, exposant ainsi la propriété intellectuelle et d’autres informations sensibles de l’entreprise.
- Les modèles génératifs « hallucinent » parfois, c’est-à-dire qu’ils génèrent avec assurance du contenu inexact.
- Les modèles stockent souvent les données pendant une période prolongée, ce qui augmente le risque que les jeux de données soient exposés à une cyberattaque.
- De nombreux modèles disposent nativement de peu, voire d’aucun outil de cybersécurité ; en outre, les modèles d’IA générative peuvent être piégés pour résoudre des énigmes de sécurité au profit d’acteurs malveillants.
- Le manque de transparence des modèles génératifs rend difficiles les tests qualité et l’audit des données et de l’utilisation des modèles.
- Les modèles d’IA générative sont soumis à peu de réglementations, même si plusieurs pays préparent actuellement des lois sur l’IA ; de manière générale, les fournisseurs d’IA générative ne sont pas soumis aux mêmes normes de protection des consommateurs que de nombreuses autres entreprises.
Sur un thème similaire : Éthique de l’IA générative : préoccupations et solutions
Gestion des risques liés à l’IA générative : 6 bonnes pratiques
1) Créer et appliquer une politique d’utilisation de l’IA dans votre organisation
Que vous utilisiez déjà l’IA générative dans toute votre organisation ou que vous soyez simplement en train de réfléchir à ses avantages, il est judicieux d’établir pour votre organisation une politique d’utilisation acceptable de l’IA. Cette politique doit préciser :
- Quels services et quels postes sont autorisés à utiliser des modèles génératifs dans le cadre de leur travail.
- Quelles parties du flux de travail peuvent être automatisées ou complétées par l’IA générative.
- Quelles données et applications internes peuvent ou non être exposées à ces modèles.
L’établissement de ces politiques fournit à vos employés un cadre plus clair concernant ce qu’ils peuvent et ne peuvent pas faire avec l’IA générative, tout en donnant à votre direction une meilleure compréhension des comportements à surveiller et à corriger. Si vous cherchez une politique existante dont vous pourriez vous inspirer, le Artificial Intelligence Risk Management Framework du NIST constitue une excellente option.
Voir aussi : Les meilleures applications et outils d’IA générative
2) Utiliser des données de première partie et obtenir les données de tiers de manière responsable
Lorsque vous utilisez un modèle génératif dans un contexte d’entreprise, vous devez toujours savoir d’où proviennent vos données d’entrée. Dans la mesure du possible, utilisez des données de première partie appartenant à votre entreprise ; cela vous aidera à retracer l’origine de vos données et à déterminer si elles peuvent être utilisées sans risque dans un modèle génératif. S’il devient nécessaire d’utiliser des données n’appartenant pas à votre entreprise, assurez-vous de recourir à des sources tierces fiables et autorisées. Vous augmenterez ainsi vos chances d’utiliser des données de qualité et d’éviter des poursuites pour utilisation non autorisée de données.
Au-delà des données que votre organisation choisit d’intégrer aux modèles existants, il est également utile de se renseigner sur la manière dont les fournisseurs d’IA générative obtiennent leurs données d’entraînement. Les entreprises qui refusent d’expliquer ces processus dans leur documentation devraient éveiller les soupçons de votre organisation et être évitées.
Même si votre organisation utilise ou exploite à son insu des données obtenues illégalement par le fournisseur, elle peut tout de même être tenue responsable des résultats qui enfreignent les lois sur le droit d’auteur ou les droits à la vie privée.
3) Former les employés à l’utilisation appropriée des données et des modèles génératifs
Le simple fait de disposer d’une politique d’utilisation de l’IA ne garantit pas que tous les utilisateurs en connaîtront et en respecteront les règles précises.
C’est pourquoi il est important de former les employés en s’appuyant sur cette politique, puis d’expliquer comment elle s’applique à des postes, des services et des situations précis. Cela aidera votre organisation à maintenir des niveaux optimaux de sécurité et de conformité en évitant les erreurs individuelles, plus difficiles à détecter. Tous les employés devraient suivre cette formation, mais ceux qui travaillent avec vos données et applications les plus sensibles devraient bénéficier d’une formation plus détaillée et plus fréquente.
Pour obtenir de meilleurs résultats dans l’utilisation de l’IA, la formation doit aller au-delà de votre politique et inclure des conseils pour détecter les biais de l’IA, la désinformation et les hallucinations. Vos employés disposeront ainsi de la confiance nécessaire pour utiliser efficacement les modèles et prendre des décisions plus réfléchies dans le cadre de tâches telles que l’analyse des données pilotée par l’IA.
Voir aussi : Les avantages de l’IA générative
4) Investir dans des outils de cybersécurité qui répondent aux risques de sécurité liés à l’IA
Les modèles d’IA générative et les outils d’intelligence artificielle en général nécessitent de solides protections de cybersécurité pour sécuriser toutes les informations qu’ils contiennent. Malheureusement, de nombreux modèles d’IA générative disposent de peu d’infrastructures de cybersécurité natives, voire d’aucune, ou leurs fonctionnalités sont si difficiles à configurer que la plupart des utilisateurs ne les mettent pas en place.
Pour protéger les données d’entrée et de sortie contre les cybermenaces, vous devriez considérer tous les modèles d’IA générative que vous utilisez comme faisant partie de la surface d’attaque de votre réseau et configurer vos outils de sécurité réseau en conséquence. Si vous n’utilisez pas encore d’outils de cybersécurité pour protéger le réseau de votre entreprise, nous vous recommandons d’investir dans des outils tels que les suivants, conçus en tenant compte de l’IA et des autres surfaces d’attaque modernes :
- Gestion des identités et des accès.
- Outils de chiffrement et de sécurité des données.
- Gestion de la posture de sécurité dans le cloud (CSPM).
- Tests d’intrusion.
- Détection et réponse étendues (XDR).
- Renseignement sur les menaces.
- Prévention des pertes de données (DLP).
5) Constituer une équipe d’analystes de l’assurance qualité de l’IA
Si vous prévoyez d’utiliser des modèles d’IA à plus grande échelle, il peut être intéressant d’embaucher ou de former des employés existants pour qu’ils travaillent comme analystes ou ingénieurs de l’assurance qualité de l’IA. Ces personnes sont chargées de gérer et de surveiller à la fois les modèles d’IA utilisés par votre organisation et les données qui y sont injectées.
Parmi les responsabilités les plus importantes d’un analyste de l’assurance qualité de l’IA figurent les suivantes :
- Détecter les problèmes dans les données d’entraînement comme dans les données d’entrée.
- Tester les résultats à des fins d’assurance qualité afin de garantir que le contenu généré est exact, original et correctement attribué.
- Surveiller les modèles génératifs, les API et les autres infrastructures pertinentes afin de détecter les comportements inhabituels.
- Tenir à jour une documentation régulière des anomalies comportementales des modèles et des inexactitudes des données afin de faciliter les audits ultérieurs.
- Travailler en étroite collaboration avec les équipes de cybersécurité et de data science pour utiliser efficacement les outils d’IA générative.
6) Étudier les modèles d’IA générative avant de les utiliser
Bien que les fournisseurs d’IA générative ne soient actuellement pas légalement tenus de fournir une documentation transparente ou des informations sur l’entraînement de leurs modèles, un certain nombre d’entre eux ont étoffé leur documentation à la demande de leurs clients.
Par exemple, ChatGPT d’OpenAI propose un index de recherche accessible au public, qui recense les articles régulièrement publiés sur des produits individuels ainsi que les mesures prises par l’entreprise pour rendre les grands modèles de langage plus sûrs et plus efficaces. L’entreprise dispose également de plusieurs conditions et politiques juridiques, notamment des politiques d’utilisation et des politiques d’utilisation des données des API.
Les clients de l’IA générative devraient consulter ce type de recherches, non seulement pour mieux comprendre l’ensemble des capacités de ces outils, mais aussi pour déterminer si les données ont été obtenues et si les modèles ont été entraînés d’une manière conforme aux valeurs de l’entreprise et aux réglementations du secteur.
Il est également prudent de suivre l’actualité et les poursuites judiciaires liées aux entreprises d’IA, car ces informations pourraient influencer les produits que vous choisirez d’utiliser à l’avenir.
Voir aussi : Entreprises d’IA générative : les 12 leaders
En résumé : atténuer les risques liés à l’IA générative
Les modèles d’IA générative offrent aux entreprises un certain nombre d’automatisations par l’IA, de raccourcis et de réponses simples, ce qui en fait d’excellents outils de croissance et d’innovation. De fait, ces modèles sont si avancés et évolutifs qu’ils sont utilisés pour des tâches complexes allant de la découverte de médicaments à la fabrication intelligente.
Mais l’utilisation de modèles d’IA générative comporte de sérieux risques si vous refusez d’étudier ces solutions et de les renforcer avec les outils, politiques et bonnes pratiques de cybersécurité appropriés. Les capacités de ces modèles évoluent et s’étendent presque quotidiennement. Il est donc important de se tenir au fait de leurs cas d’utilisation potentiels, de la manière dont ils sont réglementés et de ce que vous pouvez faire pour veiller à ce que leur utilisation en interne soit conforme à la fois aux réglementations générales et aux propres politiques et bonnes pratiques de votre organisation.
Voir aussi : Plus de 100 entreprises d’IA incontournables aujourd’hui