Des traductions instantanées et la génération d’idées à la rédaction d’e-mails et d’essais de toutes pièces, ChatGPT commence à s’immiscer dans notre quotidien. Selon une étude USB, le chatbot a atteint 100 millions d’utilisateurs actifs mensuels en janvier, seulement deux mois après son lancement, ce qui en fait l’application grand public connaissant la croissance la plus rapide de l’histoire.
Il présente toutefois certains inconvénients et certaines limites qui empêchent ChatGPT et l’IA en général d’exploiter pleinement leur potentiel. C’est là que l’architecture événementielle, ou EDA, peut faciliter la circulation des informations entre les systèmes qui « publient » des événements et les autres systèmes qui signalent leur intérêt pour ce type d’informations en « s’abonnant » à des sujets.
La conception d’applications avec l’EDA est un moyen idéal de relier les fonctionnalités internes et de les rendre plus réactives. Cela signifie que l’EDA absorbe les requêtes et les traite lorsque ChatGPT est sollicité, contribuant ainsi à améliorer les temps de réponse, à réduire la consommation d’énergie inutile et même à créer de nouvelles opportunités d’e-commerce pour les entreprises B2B et B2C. Voici comment.
Voir aussi :Principales applications et principaux outils d’IA générative
5 façons dont l’EDA libère le potentiel de ChatGPT
1) Aucune question à poser ! Activez les réponses automatiques en fluidifiant le cycle des requêtes et des réponses
Aujourd’hui, ChatGPT fonctionne selon ce que nous autres spécialistes de la technologie appelons un mode « requête/réponse ». Demandez, et vous recevrez, pourrait-on dire. Imaginez maintenant que ChatGPT puisse vous envoyer de manière proactive quelque chose qui, il le sait, vous intéresserait !
Par exemple, supposons que vous utilisiez ChatGPT pour résumer une réunion Zoom réunissant une douzaine de participants et en extraire les actions à mener. Au lieu que chaque participant pose une question, l’EDA permettrait à ChatGPT d’envoyer les notes à tous les participants simultanément, y compris à ceux qui ont manqué la réunion.
Tout le monde serait automatiquement et instantanément informé des résultats de la réunion, ce qui réduirait considérablement la charge de ChatGPT puisqu’il enverrait de manière proactive un seul message à une douzaine de destinataires au lieu de traiter au fil du temps une multitude d’interactions de type requête/réponse, améliorant ainsi la qualité de service pour les utilisateurs.
Toute activité de groupe nécessitant les mêmes suggestions, avec l’aide de ChatGPT, peut tirer parti de cette fonctionnalité. Par exemple, les équipes travaillant conjointement sur une base de code. Plutôt que de suggérer des modifications ou des améliorations à chaque développeur dans son IDE, ChatGPT permettrait aux utilisateurs d’« abonner » l’IDE aux suggestions ; la technologie EDA sous-jacente pourrait alors les transmettre à tous les développeurs abonnés au moment où ils lancent la base de code.
Sur un sujet connexe :Qu’est-ce que l’IA générative ?
2) Réduire la consommation d’énergie de ChatGPT grâce à une utilisation intelligente des ressources
ChatGPT est très gourmand en ressources et donc coûteux du point de vue du traitement et du processeur, et il nécessite des puces spéciales appelées processeurs graphiques (GPU). Et il en utilise un très grand nombre. La charge de travail considérable imposée aux GPU (désormais estimée à 28 936 et plus) pour entraîner le modèle ChatGPT et traiter les requêtes des utilisateurs entraîne des coûts importants, estimés entre 0,11 et 0,36 dollar US par requête.
Et n’oublions pas les coûts environnementaux du modèle. La forte consommation électrique des GPU contribue au gaspillage d’énergie, et des rapports de data scientists estiment l’empreinte carbone quotidienne de ChatGPT à 23,04 kgCO2e, soit un niveau comparable à celui d’autres grands modèles de langage tels que BLOOM.
Toutefois, le rapport explique que « l’estimation de l’empreinte carbone quotidienne de ChatGPT pourrait être trop élevée si les ingénieurs d’OpenAI ont trouvé des moyens ingénieux de traiter plus efficacement l’ensemble des requêtes ». Il est donc clairement possible d’améliorer ces émissions de carbone.
En mettant en œuvre l’EDA, ChatGPT peut mieux utiliser ses ressources en ne traitant les requêtes qu’à leur réception, au lieu de fonctionner en continu.
Voir aussi :Principales entreprises de l’IA : les visionnaires qui façonnent la révolution de l’IA
3) Éliminer l’indisponibilité de ChatGPT lorsqu’il atteint sa capacité maximale
ChatGPT doit traiter un volume élevé de requêtes entrantes de la part des utilisateurs. La popularité, la croissance rapide et l’imprévisibilité de ChatGPT le dépassent fréquemment, car il peine à répondre à une demande extrêmement volatile et, comme nous disons, en « rafales ».
Aujourd’hui, cela entraîne des messages d’erreur du type « désolé, je ne peux pas vous aider » pour les utilisateurs de ChatGPT, qu’ils soient abonnés ou non. Les récentes interruptions de ChatGPT montrent à quel point le système est en train d’arriver à saturation, alors qu’il peine à monter rapidement en charge pour répondre à un trafic toujours croissant et à rivaliser avec de nouveaux concurrents tels que Google Bard.
Alors, où l’EDA intervient-elle ?
En cas de surcharge de ChatGPT, la mise en œuvre de l’EDA peut mettre les requêtes en mémoire tampon et les traiter de manière asynchrone au moyen de plusieurs microservices événementiels, à mesure que le service ChatGPT redevient disponible. Grâce au découplage des services, la défaillance de l’un d’eux n’entraîne pas celle des autres.
Le courtier d’événements, composant essentiel de l’architecture événementielle, est un intermédiaire avec état qui fait office de tampon : il stocke les événements et les distribue lorsque le service revient en ligne. Ainsi, il est possible d’ajouter rapidement des instances de service pour monter en charge, car cela n’entraîne pas l’interruption de l’ensemble du système — ce qui améliore la disponibilité et l’évolutivité.
Avec l’aide de l’EDA, les utilisateurs des services ChatGPT partout dans le monde peuvent demander ce dont ils ont besoin à tout moment, et ChatGPT peut leur envoyer les résultats dès qu’ils sont prêts. Les utilisateurs n’auront ainsi pas à saisir de nouveau leur requête pour obtenir une réponse générative, ce qui améliore l’évolutivité globale et réduit le temps de réponse.
Voir aussi :ChatGPT contre GitHub Copilot
4) Intégrer ChatGPT aux opérations commerciales pour bouleverser le marché de l’e-commerce fondé sur l’IA
L’IA joue un rôle essentiel sur le marché de l’e-commerce — en fait, selon les prévisions, le marché de l’IA appliquée à l’e-commerce atteindra 45,72 milliards de dollars US d’ici 2032. Il n’est donc pas surprenant que les principaux acteurs de l’e-commerce cherchent à comprendre comment intégrer ChatGPT à leurs opérations commerciales. Shopify, par exemple, a développé avec ChatGPT un assistant d’achat capable de recommander des produits aux utilisateurs en analysant leurs requêtes dans les moteurs de recherche.
L’EDA pourrait améliorer encore davantage l’expérience d’achat et aider les entreprises B2C et B2B à mieux connaître leurs clients. Elle y parvient en suivant les événements clés à grande échelle sur les plateformes d’e-commerce, afin d’aider les entreprises à comprendre les tendances du comportement des clients : quels articles sont les plus rentables dans certaines régions et quels facteurs influencent les décisions d’achat, par exemple.
Ces informations peuvent ensuite être envoyées vers un entrepôt de données afin que le modèle d’apprentissage automatique de ChatGPT prédise le comportement des clients et formule des recommandations de produits personnalisées. Ce n’est que le début du développement de ce type de modèles fondés sur ChatGPT.
5) Améliorer la réactivité pour votre base d’utilisateurs mondiale
Puisque ChatGPT et les applications ChatGPT disposent d’une base d’utilisateurs mondiale, vous voudrez distribuer efficacement les données issues de vos requêtes GPT. Une maille événementielle constitue l’architecture idéale pour répondre à cette exigence.
Une maille événementielle est une couche d’architecture composée d’un réseau de courtiers d’événements, qui permet d’acheminer et de recevoir les événements d’une application vers ou par toute autre application, quel que soit leur lieu de déploiement. Elle permet d’acheminer dynamiquement les données, à la demande, vers les abonnés intéressés, plutôt que d’envoyer vos résultats ChatGPT à toutes les applications et de recourir à la logique applicative pour les filtrer. Il en résulte une meilleure expérience utilisateur et une réduction des ressources de calcul et de réseau mobilisées.
Voir aussi :Gemini contre ChatGPT 4 : l’IA gagnante révélée
Libérer tout le potentiel de ChatGPT grâce à l’EDA
ChatGPT en est peut-être encore à ses débuts, mais avec l’adoption rapide par les utilisateurs et l’annonce régulière de nouvelles fonctionnalités, l’histoire semble loin d’être terminée. Qu’elle soit utilisée pour remédier aux interruptions de service et à la consommation excessive d’énergie, permettre une évolutivité, une résilience et une flexibilité accrues, ou introduire de nouveaux cas d’usage commerciaux dans les organisations B2B et B2C, l’EDA peut aider ce nouvel outil d’IA générative à capitaliser sur son succès récent.
À propos de l’auteur :
Thomas Kunnumpurath est vice-président de l’ingénierie des systèmes pour les Amériques chez Solace