Au cours de ma carrière, j’ai généralement eu tendance à examiner les revers d’une technologie donnée lorsque tout le monde s’intéresse à ses avantages. Le cloud computing en est le dernier exemple : chacun se penche sur ses atouts, tandis que peu de gens considèrent ses inconvénients. Je suis donc à la fois expert du cloud computing et commentateur du secteur – quelqu’un qui connaît bien les difficultés du cloud.
Ce n’est un secret pour personne : le succès passe par la prise en compte des avantages et des inconvénients de toute nouvelle technologie. Malheureusement, lorsque la presse spécialisée gonfle les voiles d’une nouvelle technologie avec son battage médiatique, les acteurs du marché émergent sont moins réceptifs aux critiques et ne veulent entendre que ce qui va bien.
C’est ainsi que nous finissons par utiliser une technologie à des fins pour lesquelles elle n’a jamais été conçue. Dans bien des cas, un minimum de compréhension au départ aurait permis d’éviter l’échec à l’arrivée. Encourageons un peu de scepticisme salutaire en nous intéressant à la dernière technologie qui embrase le monde : l’IA générative.
Qu’est-ce qui ne va pas avec les systèmes d’IA générative, et qu’est-ce qui va bien ? Le vieux conseil général reste valable : il faut considérer chaque chose sous un angle équilibré.
Sur un sujet connexe : Qu’est-ce que l’IA générative ?
À lire également : Les start-up de l’IA générative
Nourrir l’IA générative avec de mauvaises données
L’IA générativeLes modèles nécessitent de vastes volumes de données pour apprendre et générer de nouveaux contenus. De fait, des systèmes d’IA générative comme ChatGPT ont récemment utilisé toutes les données disponibles sur Internet pour s’entraîner à fournir des réponses particulièrement impressionnantes.
Ce n’est pas que nous ne puissions pas trouver la réponse ailleurs ; c’est que nous pouvons lui demander de répondre d’une manière très précise. Par exemple : « Écris-moi une chanson sur l’informatique quantique utilisée dans des systèmes d’analyse sanguine. »
Cependant, si les données utilisées pour entraîner le modèle sont biaisées ou incomplètes, elles peuvent avoir un impact négatif sur le résultat généré, avec des réponses inexactes, voire offensantes. C’est le principe « garbage in, garbage out », qui constitue une limite fondamentale de l’IA en général et de l’IA générative en particulier.
Plus vous posez de questions à un système d’IA générative – des questions dont les réponses sont connues –, plus vous le verrez se tromper. Plus les questions sont précises, plus les défauts des réponses le sont aussi. Ce n’est pas la faute du système, mais celle des données incorrectes utilisées pour l’entraîner. Ses réponses sur des sujets connexes seront donc également erronées.
Par exemple, j’ai demandé à ChatGPT de dresser la liste de tous les livres que j’ai écrits. Il a cité deux fois le même livre et deux livres que je n’ai pas écrits. Une recherche rapide sur Google aurait produit des résultats plus exacts dans ce cas. Je n’utilise donc pas les systèmes d’IA générative comme source unique pour mes recherches.
Et : ChatGPT : comprendre le chatbot ChatGPT
L’absence de contrôle dans l’IA générative
Les modèles d’IA générative sont conçus pour être autonomes, c’est-à-dire qu’ils fonctionnent indépendamment et prennent leurs propres décisions. Il peut donc être difficile de contrôler le résultat ou de s’assurer que le contenu généré correspond à l’objectif ou aux valeurs visés.
Si vous avez utilisé un système d’IA générative pendant un certain temps, vous avez déjà vu des réponses qui ne correspondaient pas à ce que vous vouliez, ou qui n’étaient pas présentées dans le format ou le contexte souhaités. Cela rend fous les utilisateurs de l’IA générative : ils doivent formuler correctement la question centrale et définir la manière dont le système doit répondre. Sinon, ils obtiennent des réponses inutiles.
Pour en savoir plus, consultez également : Les meilleurs logiciels d’IA
L’IA générative et la propriété intellectuelle
Avec l’essor de l’IA générative, des inquiétudes se font jour concernant la propriété intellectuelle et la titularité des contenus générés. Déterminer à qui appartiennent ces contenus peut s’avérer difficile, en particulier si le modèle a été entraîné à partir de données accessibles au public.
Même s’il ne s’agit pas à proprement parler de plagiat, puisque le texte d’un autre auteur n’est pas copié mot pour mot, cela soulève des questions : vous exploitez le travail de quelqu’un d’autre sans le citer, ce qui peut avoir des implications éthiques et juridiques.
Plus préoccupant encore, certaines informations peuvent être rassemblées par l’IA générative et les données qui en résultent peuvent remonter à d’autres œuvres protégées par le droit d’auteur. Vous risquez alors d’être mis en cause sur le plan juridique, éthique, ou les deux – ce qui enlève une bonne partie du plaisir de laisser un système d’IA générative faire tout le travail à votre place.
Pour en savoir plus, consultez également : Les meilleures start-up de l’IA
Les enjeux éthiques de l’IA générative
L’IA générative soulève des questions éthiques, notamment lorsqu’il est question de deepfakes et de médias synthétiques, dans lesquels la technologie peut apprendre à partir de contenus falsifiés ou trompeurs, voire être utilisée pour en créer. Nous ne pouvons que conjecturer sur les répercussions potentielles en matière de vie privée, de sécurité et de confiance.
Nous nous interrogeons souvent sur la légalité et l’éthique de toute technologie émergente, mais la puissance exceptionnelle de l’IA générative pousse beaucoup de gens à se demander : « Devrait-on le faire ? » plutôt que « Peut-on le faire ? »
La question est l’effet négatif que l’IA générative pourrait avoir sur les êtres humains, avec son lot de préoccupations. On craint également que l’IA générative ne soit utilisée comme une arme pour commettre des crimes tels que des fraudes et des failles de sécurité, contre lesquels les entreprises doivent se prémunir et se défendre.
Prenons un exemple simpliste : de nouvelles menaces liées à l’IA générative pourraient contraindre une entreprise à dépenser 8 dollars dans des mécanismes de sécurité et de détection renforcés, alors qu’elle n’aurait gagné que 5 dollars de valeur supplémentaire grâce à l’utilisation de l’IA générative. Pour de nombreuses entreprises, l’apparition même de cette technologie dans leur environnement se traduit donc par une perte nette.
Sur un sujet connexe : Le marché de l’IA : présentation générale
IA générative : la grande question
L’IA générative doit-elle devenir un élément central de l’évolution de vos systèmes informatiques ? Ou l’utilisation de cette technologie en pleine évolution apporte-t-elle plus de problèmes que de bénéfices ? La réponse aux deux questions est « peut-être ».
Nous devons considérer les bons côtés comme les mauvais. Connaître les faits concernant l’IA générative et les exigences propres à nos cas d’usage nous guidera sur la bonne voie. Les nouvelles technologies progressent toujours aussi vite que nous sommes capables de suivre leurs évolutions. La technologie de l’IA générative pourrait dépasser notre capacité à anticiper ses conséquences avant d’y être confrontés. Aujourd’hui plus que jamais, le futur, c’est maintenant.
Sur un sujet connexe : L’avenir de l’intelligence artificielle