Qu’est-ce que le traitement automatique du langage naturel ?

Traitement automatique du langage naturel (TALN) est une branche de l’intelligence artificielle (IA) qui vise à permettre aux ordinateurs d’intégrer la parole et le texte d’une manière comparable à la compréhension humaine. Ce domaine de l’informatique s’appuie sur la linguistique informatique — généralement fondée sur des méthodes statistiques et mathématiques — qui modélise l’usage humain du langage.

Le TALN joue un rôle de plus en plus important dans l’informatique — et dans la vie quotidienne. Les assistants intelligents comme Siri d’Apple, Alexa d’Amazon et Cortana de Microsoft sont des exemples de systèmes utilisant le TALN.

En outre, divers autres outils reposent sur le traitement automatique du langage naturel. Parmi eux : les systèmes de navigation automobile ; les systèmes de transcription parole-texte comme Otter et Rev ; les chatbots ; et les systèmes de reconnaissance vocale utilisés par le service client. En fait, le TALN intervient dans un univers en expansion rapide d’applications, d’outils, de systèmes et de technologies.

Dans tous les cas, l’objectif est de simplifier l’interface entre les humains et les machines. Souvent, pouvoir parler à un système ou lui faire reconnaître une saisie écrite constitue le moyen le plus simple et le plus direct d’accomplir une tâche.

Même si les ordinateurs ne peuvent pas « comprendre » le langage comme les humains, les technologies de traitement du langage naturel savent de mieux en mieux reconnaître le contexte et le sens des phrases et des mots, puis les transformer en réponses — et en actions — appropriées.

Voir aussi : Principales entreprises du traitement automatique du langage naturel

Traitement automatique du langage naturel : bref historique

L’idée de machines capables de comprendre la parole humaine remonte aux premiers romans de science-fiction. Toutefois, le domaine du traitement automatique du langage naturel a commencé à prendre forme dans les années 1950, après la publication par le pionnier de l’informatique Alan Turing d’un article intitulé « Computing Machinery and Intelligence ». Celui-ci présentait le test de Turing, qui fournissait une première méthode pour évaluer les capacités d’un ordinateur en matière de langage naturel.

Au cours de la décennie suivante, les chercheurs ont expérimenté la traduction de romans et d’autres documents entre des langues parlées, mais le processus était extrêmement lent et sujet aux erreurs. Dans les années 1960, Joseph Weizenbaum, professeur au MIT, a développé ELIZA, qui imitait remarquablement bien les schémas de la parole humaine. Au cours des vingt-cinq années suivantes, le domaine a continué d’évoluer. Lorsque les systèmes informatiques sont devenus plus puissants dans les années 1990, les chercheurs ont commencé à réaliser des progrès notables grâce aux méthodes de modélisation statistique.

Les logiciels de dictée et de traduction ont commencé à atteindre leur maturité dans les années 1990. Toutefois, les premiers systèmes nécessitaient un entraînement ; ils étaient lents, peu pratiques à utiliser et sujets aux erreurs. Ce n’est qu’avec l’introduction de l’apprentissage automatique supervisé et non supervisé au début des années 2000, puis celle des réseaux neuronaux autour de 2010, que le domaine a commencé à progresser de manière significative.

Grâce à ces avancées, les systèmes d’apprentissage profond ont pu ingérer d’immenses volumes de texte et d’autres données, puis les traiter au moyen de méthodes de modélisation du langage beaucoup plus avancées. Les algorithmes qui en ont résulté étaient bien plus précis et utiles.

Voir aussi : Principaux logiciels d’IA 

Comment fonctionne le traitement automatique du langage naturel ?

Les premiers systèmes de TALN reposaient sur des règles codées en dur, des recherches dans des dictionnaires et des méthodes statistiques. Ils prenaient souvent en charge des modèles élémentaires d’arbres de décision. Avec le temps, l’apprentissage automatique a automatisé les tâches tout en améliorant les résultats.

Les frameworks actuels de traitement automatique du langage naturel utilisent des techniques de modélisation du langage bien plus avancées — et précises. La plupart de ces méthodes reposent sur des réseaux neuronaux convolutifs (CNN) pour étudier les schémas linguistiques et produire des résultats fondés sur les probabilités.

Par exemple, une méthode appelée vecteurs de mots applique des modèles mathématiques complexes pour pondérer et relier les mots, les phrases et les constructions. Une autre méthode, appelée reconnaissance de l’implication textuelle (RTE), classe les relations entre les mots et les phrases sous l’angle de l’implication, de la contradiction ou de la neutralité. Ainsi, la prémisse « un chien a des pattes » implique que « les chiens ont des jambes », mais contredit « les chiens ont des ailes », tout en restant neutre par rapport à « tous les chiens sont heureux ».

Une composante essentielle du TALN est la représentation vectorielle des mots. Elle consiste à attribuer des pondérations numériques aux mots dans un contexte donné. Ce processus est nécessaire, car de nombreux mots et expressions peuvent avoir des sens différents selon leur emploi ou leur contexte (« aller dans un club », « appartenir à un club » ou « balancer un club »). Certains mots peuvent aussi se prononcer de la même façon tout en ayant des sens différents (« through », « threw » ou « witch », « which »). Il faut également comprendre les expressions idiomatiques qui n’ont pas de sens littéral, comme « Tu es la prunelle de mes yeux » ou « ça ne casse pas trois pattes à un canard ».

Les modèles actuels sont entraînés sur d’énormes volumes de données linguistiques — dans certains cas, plusieurs centaines de gigaoctets de livres, d’articles de magazines, de sites web, de manuels techniques, d’e-mails, de paroles de chansons, de pièces de théâtre, de scénarios et de sources publiques comme Wikipédia. À mesure que le système d’apprentissage profond analyse des millions, voire des milliards de combinaisons — en s’appuyant sur des centaines de milliers de cœurs de processeurs ou de processeurs graphiques —, il étudie les schémas, relie les éléments entre eux et apprend les propriétés sémantiques des mots et des expressions.

Il est également souvent nécessaire d’affiner les systèmes de traitement automatique du langage naturel pour des tâches précises, comme celles d’un chatbot ou d’une enceinte intelligente. Mais même après cette étape, un système de traitement du langage naturel peut ne pas toujours fonctionner comme annoncé. Même les meilleurs systèmes de TALN commettent des erreurs. Ils peuvent rencontrer des difficultés lorsque les utilisateurs font des fautes d’orthographe ou prononcent mal les mots, et ils comprennent parfois mal l’intention ou traduisent incorrectement les expressions. Dans certains cas, ces erreurs peuvent être flagrantes — voire catastrophiques.

Aujourd’hui, d’importants modèles de langage naturel sont disponibles sous différents modèles de licence. Parmi eux figurent OpenAI codex, LaMDA de Google, IBM Watson et des outils de développement logiciel comme CodeWhisperer et CoPilot. En outre, certaines organisations développent leurs propres modèles propriétaires.

Voir aussi : Principaux logiciels de business intelligence 

Comment le traitement automatique du langage naturel est-il utilisé ?

Les utilisations du traitement automatique du langage naturel se multiplient. Elles comprennent notamment :

IA conversationnelle. La capacité des ordinateurs à reconnaître les mots ouvre la voie à de nombreuses applications et de nombreux outils. Les assistants personnels comme Siri, Alexa et Microsoft Cortana sont des exemples marquants d’IA conversationnelle. Ils permettent de passer un appel depuis un téléphone mobile en conduisant, ou d’allumer et d’éteindre les lumières d’une maison intelligente. Ces systèmes comprennent de mieux en mieux l’intention et agissent en conséquence. Par exemple, les chatbots peuvent répondre à une saisie vocale ou textuelle avec des réponses qui semblent provenir d’une autre personne. De plus, ces systèmes utilisent l’apprentissage automatique pour s’améliorer en permanence.

Traduction automatique. Le recours au TALN pour les tâches de traduction automatique se développe. Il peut s’agir de traductions qui remplacent les mots d’une langue par ceux d’une autre (de l’anglais vers l’espagnol ou du français vers le japonais, par exemple). Google Translate et DeepL sont des exemples de cette technologie. Mais la traduction automatique peut aussi prendre d’autres formes. Par exemple, le TALN peut convertir des paroles — sous la forme d’un enregistrement ou d’une dictée en direct — en sous-titres pour une émission de télévision ou en transcription d’une réunion Zoom ou Microsoft Teams. Pourtant, même si ces systèmes sont de plus en plus précis et utiles, ils continuent de produire certaines erreurs.

Analyse des sentiments. Le TALN peut analyser des données non structurées — l’analyse des réseaux sociaux en est un exemple majeur —, extraire les schémas courants de mots et de formulations, puis transformer ces données en indicateur des tendances dans les échanges sur les réseaux sociaux et en ligne. Cette capacité est également utile pour comprendre les avis sur les produits, l’efficacité des campagnes publicitaires, la réaction des utilisateurs à l’actualité et à d’autres événements, ainsi que pour de nombreuses autres applications. L’analyse des sentiments révèle des éléments qui pourraient autrement échapper à la détection humaine.

Analyse de contenu. Le TALN peut également servir à donner du sens à des systèmes complexes. Par exemple, cette technologie peut ingérer d’immenses volumes de données textuelles et de bases de recherche, puis créer des résumés ou des synthèses portant sur les contenus les plus pertinents et les plus importants. De même, l’analyse de contenu peut être utilisée en cybersécurité, notamment pour détecter les spams. Ces systèmes peuvent réduire, voire éliminer, le besoin d’intervention humaine manuelle.

Génération de texte et d’images. Une branche du traitement automatique du langage naturel qui se développe rapidement se concentre sur la génération de texte, d’images et même de musique. Déjà, certaines organisations de presse produisent de courts articles à l’aide du traitement automatique du langage naturel. Par ailleurs, OpenAI a développé un outil qui génère du texte et du code informatique au moyen d’une interface en langage naturel. Un autre outil d’OpenAI, baptisé Dall-E-2, crée des images de haute qualité via une interface de TALN. Saisissez les mots « chat noir sous un escalier » et une image apparaît. GitHub Copilot et Amazon CodeWhisperer peuvent compléter et générer automatiquement du code informatique en langage naturel.

Voir aussi : Principaux outils de visualisation des données 

Cas d’usage du TALN en entreprise

L’utilisation du TALN est de plus en plus courante dans le monde de l’entreprise. Parmi les principaux cas d’usage :

Chatbots et systèmes d’interaction vocale. Les distributeurs, les prestataires de santé et d’autres acteurs s’appuient de plus en plus sur les chatbots pour interagir avec leurs clients, répondre aux questions élémentaires et les orienter vers d’autres ressources en ligne. Ces systèmes peuvent également mettre un client en relation avec un agent humain lorsque cela est nécessaire. Les systèmes vocaux permettent aux clients d’indiquer verbalement ce dont ils ont besoin plutôt que d’appuyer sur des touches du téléphone.

Transcription. À mesure que les organisations adoptent les réunions virtuelles sur Zoom et Microsoft Teams, elles ont souvent besoin d’une transcription de la conversation. Des services comme Otter et Rev fournissent des transcriptions très précises — et sont souvent capables de mieux comprendre les accents étrangers que les humains. En outre, les journalistes, les avocats, les professionnels de santé et d’autres personnes ont besoin de transcriptions d’enregistrements audio. Le TALN peut fournir les résultats d’une dictée ou d’un enregistrement en quelques secondes ou minutes.

Traduction internationale. Le TALN a révolutionné les interactions entre les entreprises de différents pays. Même si les traducteurs restent nécessaires, il est désormais facile de convertir des documents d’une langue à une autre. Cela a simplifié les interactions et les processus commerciaux des entreprises internationales, tout en facilitant le commerce mondial.

Systèmes de scoring. Les institutions financières, les compagnies d’assurance et d’autres organisations utilisent le langage naturel pour extraire des éléments et analyser des documents, des données, des demandes d’indemnisation et d’autres ressources textuelles. La même technologie peut également contribuer à la détection des fraudes, à l’audit financier, à l’évaluation des CV et à la détection des spams. En fait, ce dernier cas constitue un type d’apprentissage automatique supervisé qui fait appel au TALN.

Veille stratégique et analyse des sentiments. Les spécialistes du marketing et d’autres professionnels s’appuient de plus en plus sur le TALN pour produire des informations sur les marchés et les tendances sentimentales. Les moteurs sémantiques extraient du contenu de blogs, de sites d’actualité, de sources issues des réseaux sociaux et d’autres sites afin de détecter les tendances, les attitudes et les comportements réels. De même, le TALN peut aider les organisations à comprendre le comportement des visiteurs sur un site web, notamment les termes de recherche qui signalent des problèmes courants et la façon dont les utilisateurs se servent d’un site de commerce électronique. Ces données peuvent entraîner des changements de conception et d’ergonomie.

Développement logiciel. Une tendance croissante consiste à utiliser le langage naturel pour coder des logiciels. Les environnements low-code et no-code peuvent transformer des demandes parlées ou écrites en véritables lignes de code logiciel. Des systèmes comme CodeWhisperer d’Amazon et CoPilot de GitHub intègrent des fonctions prédictives qui complètent automatiquement le code, de la même manière que Google Mail prédit ce qu’une personne va taper ensuite. Ils peuvent également extraire des informations d’un environnement de développement intégré (IDE) et produire plusieurs lignes de code à la fois.

Génération de texte et d’images. OpenAI codex peut générer des documents entiers à partir d’une demande élémentaire. Il devient ainsi possible de générer des poèmes, des articles et d’autres textes. DALL-E 2 d’Open AI génère des images et des œuvres d’art photoréalistes à partir d’une saisie en langage naturel. Cela peut aider les designers, les artistes et d’autres professionnels.

Voir aussi : Meilleurs outils d’analyse des données 

Quelles préoccupations éthiques le TALN soulève-t-il ?

Les préoccupations liées au traitement automatique du langage naturel portent principalement sur la précision des modèles et la garantie de l’absence de biais. Nombre de ces algorithmes d’apprentissage profond sont des « boîtes noires », ce qui signifie qu’il est impossible de comprendre le fonctionnement du modèle sous-jacent et de déterminer s’il est exempt de biais susceptibles d’influencer des décisions critiques concernant les prêts, les soins de santé et bien d’autres domaines.

La question de savoir si ces systèmes sont « sensibles » fait également débat. La question de savoir si l’IA peut réellement penser et ressentir comme un humain a été évoquée dans des films tels que 2001: A Space Odyssey et Star Wars. Elle est réapparue en 2022, lorsque Blake Lemoine, ancien scientifique spécialiste des données chez Google, a publié des discussions entre un humain et une machine avec LaMDA. Lemoine affirmait que le système avait acquis une conscience. Toutefois, de nombreux experts en linguistique et en informatique ont objecté qu’un système à base de silicium ne peut ni penser ni ressentir comme les humains. Il ne fait que répéter le langage d’une manière extrêmement convaincante.

En fait, des chercheurs ayant expérimenté des systèmes de TALN ont pu générer des erreurs grossières et manifestes en saisissant certains mots et certaines expressions. Atteindre une précision de 100 % en TALN est pratiquement impossible en raison du nombre presque infini de combinaisons de mots et de concepts dans une langue donnée.

Une autre question concerne la propriété des contenus — en particulier lorsque des contenus protégés par le droit d’auteur sont intégrés au modèle d’apprentissage profond. Comme beaucoup de ces systèmes sont construits à partir de sources publiques extraites d’Internet, des questions peuvent se poser quant à la personne qui possède réellement le modèle ou le contenu, ou quant à la nécessité de rémunérer les contributeurs. Cela a jusqu’à présent donné lieu à une poignée de procès, ainsi qu’à des questions éthiques plus larges sur la manière dont les modèles doivent être développés et entraînés.

Voir aussi : IA et apprentissage automatique : intelligence artificielle et machine learning

Quel rôle le TALN jouera-t-il à l’avenir ?

Il ne fait aucun doute que le traitement automatique du langage naturel jouera un rôle majeur dans les interactions professionnelles et personnelles à venir. Les assistants personnels, les chatbots et autres outils continueront de progresser. Cela se traduira probablement par des systèmes capables de comprendre des schémas linguistiques plus complexes et de fournir une assistance technique ou des instructions automatisées, mais précises, pour assembler ou réparer un produit.

Le TALN permettra également une analyse plus avancée des données médicales. Par exemple, un médecin pourrait saisir les symptômes d’un patient, puis une base de données utilisant le TALN les comparerait aux dernières publications médicales. De même, un consommateur pourrait se rendre sur un site de voyage et indiquer où il souhaite partir en vacances et ce qu’il veut y faire. Le site fournirait alors des suggestions et des recommandations très personnalisées, fondées sur les données de voyages précédents et les préférences enregistrées.

Pour l’instant, les dirigeants d’entreprise doivent suivre l’évolution du traitement automatique du langage naturel et continuer à étudier la manière dont cette technologie peut améliorer les produits, les outils, les systèmes et les services. La capacité des humains à interagir avec les machines selon leurs propres modalités simplifie de nombreuses tâches. Elle apporte également une valeur supplémentaire aux relations commerciales.

Voir aussi : L’avenir de l’intelligence artificielle