Selon le Pew Research Center, 68 % des innovateurs technologiques, des développeurs et des dirigeants d’entreprise s’attendent à ce que les principes éthiques axés sur l’intérêt général continuent d’être négligés dans la plupart des systèmes d’intelligence artificielle jusqu’en 2030.
Alors que l’IA s’efforce d’égaler les capacités humaines, l’une des principales préoccupations est qu’elle puisse potentiellement dépasser notre capacité à la contrôler dans un cadre éthique. C’est pourquoi un mouvement grandissant cherche à créer des lignes directrices éthiques pour les systèmes d’IA. Mais pour faire respecter l’éthique de l’IA, le secteur doit d’abord définir cette éthique.
Divers individus et organisations ont tenté de créer des codes pour une IA éthique au fil des ans. Par exemple, en 2016, l’UE a adopté le GDPR, qui a posé les fondations d’un modèle visant à faire respecter l’éthique liée aux outils immatériels qui influencent le comportement humain. Les entreprises ont ainsi dû prendre en compte les enjeux éthiques liés à l’utilisation et au stockage des informations personnelles, une première étape cruciale lorsqu’il est question d’IA.
Pourtant, il n’existe toujours pas aujourd’hui de cadre d’éthique de l’IA largement accepté ni de moyen de le faire respecter. De toute évidence, l’IA éthique est un sujet vaste ; dans cet article, j’aimerais donc le circonscrire et l’examiner sous l’angle des technologies de supervision des réseaux.
À lire également : Top AI Software
IA et supervision des réseaux
L’IA présente de nombreux avantages potentiels lorsqu’elle est appliquée à la supervision et aux performances des réseaux. Alors que de nombreux employés craignent d’être remplacés par l’IA, dans le domaine des réseaux, le développement de l’IA est en réalité synonyme d’amélioration, et non de suppression d’emplois.
En fait, l’IA dans les environnements de supervision informatique peut simplifier les réseaux complexes, automatiser certaines tâches et contribuer à accroître l’efficacité de la détection et de la correction des menaces — pour ne citer que quelques domaines. Elle peut également simplifier le rôle de l’informatique en matière de supervision et aider à identifier plus rapidement la cause première des problèmes.
Examinons quelques exemples précis d’utilisation de l’IA dans la supervision des réseaux, afin de mieux comprendre ensuite les principales questions éthiques.
- Détection des anomalies utilise l’IA/ML pour distinguer les comportements normaux des comportements anormaux (afin d’établir des références) sur un réseau. Elle sert à créer des modèles représentant le trafic habituel, adaptés à des lieux, des utilisateurs et des périodes spécifiques. Ces modèles peuvent être très détaillés, jusqu’à l’application précise. Ils permettent aux organisations de comprendre les schémas en extrayant les caractéristiques de l’application du point de vue du réseau.
- L’analyse prédictive exploite les données avec l’IA/ML pour prévoir les problèmes susceptibles de survenir à l’avenir sur un réseau. Comme la détection des anomalies, elle utilise également l’analyse des données pour étudier les schémas et les événements historiques, et rechercher et apprendre les schémas susceptibles de provoquer des problèmes.
- L’automatisation utilise également l’IA/ML pour déterminer quelle pourrait être la cause première d’un problème réseau et le corriger automatiquement. Les techniques de ML, comme les arbres de décision ou des méthodes plus sophistiquées, peuvent créer des processus appris pour diagnostiquer les problèmes, plutôt que de recourir à des systèmes manuels fondés sur des règles, qui peuvent être sujets aux erreurs et difficiles à entretenir.
À lire également : Tendances de l’analyse des données
Réseaux et enjeux éthiques de l’IA
Si l’IA peut offrir un nouveau niveau de visibilité et de résolution des problèmes lorsqu’elle est appliquée à la supervision des réseaux, le secteur doit également examiner certaines considérations et questions éthiques. L’IA éthique fait l’objet de nombreux débats, mais la plupart s’accordent à dire que l’éthique de l’IA est un ensemble de principes et de techniques moraux destinés à guider le développement et l’utilisation responsable des technologies d’IA.
Mais qu’est-ce que cela signifie dans le domaine de la supervision des réseaux ? Je ne prétends pas avoir toutes les réponses, mais j’ai quelques questions essentielles que nous devrions tous nous poser et auxquelles nous devrions travailler ensemble pour répondre.
- Les données utilisées respectent-elles les réglementations applicables en matière de confidentialité et de protection — qu’il s’agisse du GDPR dans l’UE ou d’autres réglementations ? Les données réseau peuvent contenir des informations personnelles, comportementales et relatives aux tendances. Il est important de veiller à leur conformité avec la réglementation, en particulier à mesure que les systèmes d’IA/ML ingèrent davantage de données.
- Les données présentent-elles un risque potentiel de biais lorsque des caractéristiques sont extraites et utilisées pour entraîner les modèles ? Au fur et à mesure du développement des modèles, les humains biaisent les détections en fonction de schémas susceptibles d’être corrélés au genre, à la race, à l’origine ethnique, etc. Le phénomène est plus marqué avec les données sociales, mais les utilisateurs qui génèrent le trafic réseau peuvent présenter des schémas propres à un groupe donné. Même si cela ne crée pas nécessairement de biais social, cela peut produire des modèles qui ne fonctionnent pas universellement comme prévu.
- Les actions recommandées ou exécutées le sont-elles en fonction de l’analyse et de leurs implications potentielles ? Comme on l’a constaté avec les voitures autonomes, il existe toujours des cas limites ou des scénarios imprévus sur lesquels les systèmes d’IA n’ont peut-être pas été entraînés. Il convient d’étudier et de prendre en compte toutes les issues possibles, même lorsqu’elles ne sont pas étayées par les données.
Il est important de noter que le secteur ne part pas complètement de zéro, mais que les normes relatives à l’IA n’en sont encore qu’à leurs débuts. Aujourd’hui, des initiatives dans le domaine informatique visent à contribuer à la création et à l’élaboration d’une IA éthique. Elles comprennent notamment le GDPR, qui ne traite pas directement de l’éthique de l’IA, mais porte sur la protection des données et la confidentialité, ce qui a des implications pour l’utilisation de ces données par l’IA.
Il existe également un projet de règlement européen sur l’IA qui établira des règles spécifiques concernant le développement et l’utilisation des produits fondés sur l’IA. Mais pour l’essentiel, l’éthique de l’IA est pour l’instant laissée aux développeurs technologiques — une situation qui devra changer à l’avenir.
À mesure que l’innovation dans le domaine de l’IA se poursuit, la mise en place de garde-fous et de normes sera essentielle. Une IA sans contrôle est universellement considérée comme une recette pour la catastrophe.
Mais une IA conçue et mise en œuvre dans le respect de lignes directrices éthiques possède, dans le domaine de la supervision des réseaux, un potentiel remarquable pour faire gagner aux équipes NetOps un temps et des ressources considérables lorsqu’il s’agit de collecter, d’analyser, de concevoir et de sécuriser les réseaux.
À lire également : Qu’est-ce que la visualisation des données ?
À propos de l’auteur :
John Smith, directeur technique et cofondateur de LiveAction