Le 5 févr., la branche d’informatique en nuage d’Amazon a présenté en détail une méthode mathématique éprouvée qu’elle entend utiliser pour réduire les hallucinations de l’IA générative.
Amazon n’a pas précisé si la nouvelle technique serait utilisée sur Amazon.com ; selon The Wall Street Journal, l’entreprise souhaite plutôt s’en servir pour inciter davantage de clients à faire confiance aux offres d’IA générative d’Amazon Web Services.
Le raisonnement automatisé diffère de la méthode de raisonnement récemment devenue populaire parmi les modèles de pointe, comme Gemini 2.0. Alors que le raisonnement ralentit les processus afin de fournir des réponses plus approfondies, le raisonnement automatisé d’Amazon s’appuie sur des preuves mathématiques pour garantir que l’IA produira un résultat donné.
Comment fonctionne le raisonnement automatisé ?
En termes simples, le raisonnement automatisé fonctionne en définissant certaines affirmations comme des vérités incontestables. Il les « vérifie » ensuite au moyen de chaînes logiques telles que, dans l’exemple d’Amazon : « si les chats sont des mammifères et que les mammifères vivent sur terre, alors les chats vivent sur terre ».
AWS Vice President and Distinguished Scientist Byron Cook a déclaré à The Wall Street Journal que le raisonnement automatisé est issu de l’IA symbolique, une spécialisation des mathématiques fondée sur des recherches vieilles de 2 000 ans. Contrairement à la prédiction utilisée par de nombreux systèmes d’apprentissage automatique et d’IA générative, l’IA symbolique repose sur des règles. Amazon s’est emparé d’une part importante du vivier relativement restreint de mathématiciens maîtrisant ce domaine.
Amazon a réussi à attirer davantage de clients vers ses activités cloud en déployant Automated Reasoning Checks, un outil fondé sur des preuves mathématiques issues du raisonnement automatisé. L’entreprise espère obtenir le même résultat pour convaincre les DSI qui pourraient ne pas faire confiance aux réponses générées par l’IA.
Le raisonnement automatisé est déjà utilisé dans des produits AWS, notamment CodeGuru Reviewer, la fonctionnalité Network Reachability d’Inspector Classic, AWS IAM Access Analyzer, son Virtual Private Cloud Reachability Analyzer et le guide d’IA d’entreprise Bedrock Guardrails. Ailleurs, comme l’a illustré Amazon, les ingénieurs en conception électronique pourraient utiliser le raisonnement automatisé pour définir des termes et confirmer qu’une conception matérielle donnée respecte les spécifications.
Le raisonnement automatisé ne peut pas effacer toutes les hallucinations de l’IA générative
Le raisonnement automatisé a toutefois certaines limites ; par exemple, Amazon a déclaré plus haut qu’il ne pouvait pas servir à faire des « prédictions ou des généralisations ». Ainsi, un système reposant entièrement sur le raisonnement automatisé ne pourrait pas affirmer, à tort, que « tous les mammifères vivent sur terre ». Le raisonnement automatisé convient surtout aux cas où les données fournies suivent des règles strictement définies, comme les politiques importantes d’une entreprise.
Le raisonnement automatisé n’est qu’une méthode parmi d’autres pour réduire les hallucinations de l’IA générative ; la génération augmentée par récupération offre une autre manière de vérifier le contenu généré par l’IA.