Qu’est-ce que le MLOps ? Présentation des opérations de machine learning

Les opérations de machine learning, plus connues sous le nom de MLOps, constituent une approche stratégique du développement des modèles de machine learning visant à standardiser et à rendre reproductible le processus de création et le cycle de vie de ces modèles.

À mesure notamment que les modèles de machine learning et leurs capacités s’intègrent davantage aux activités courantes des entreprises, un nombre croissant d’équipes spécialisées en IA/ML et en technologies adaptent leurs processus opérationnels à une approche MLOps.

Examinons en détail ce qu’est le MLOps, son fonctionnement en pratique et les mesures à prendre pour optimiser votre stratégie MLOps dès le départ.

Qu’est-ce que le MLOps ?

Le MLOps, ou machine learning operations, regroupe un ensemble varié de bonnes pratiques, de processus, de stratégies opérationnelles et d’outils axés sur la création d’un cadre permettant de rendre les cycles de vie du développement des modèles de machine learning plus cohérents et plus évolutifs.

L’idée est qu’en donnant à davantage d’équipes une visibilité et un contrôle accrus sur le cycle de développement — tout en ajoutant des normes plus structurées quant au déploiement et à la modification de ces modèles au fil du temps — on pourra créer des modèles de meilleure qualité, évolutifs et reproductibles.

À la base, le MLOps se veut un effort collaboratif entre les différentes équipes techniques et opérationnelles qui travaillent sur des modèles de machine learning. Ainsi, les bonnes pratiques MLOps sont généralement définies par une équipe réunissant :

• Des data scientists
• Des ingénieurs en machine learning
• Des membres de l’équipe informatique
• Des ingénieurs DevOps
• Des responsables issus des différents pôles et secteurs de l’entreprise

L’objectif est de créer un processus adapté aux workflows de projet de chaque équipe, tout en l’alignant sur les budgets, les objectifs et les bonnes pratiques de l’organisation dans son ensemble.

Le MLOps a gagné en popularité non seulement en raison de son accent sur la standardisation et la collaboration, mais aussi grâce à l’étendue des domaines du développement ML que ses bonnes pratiques opérationnelles peuvent couvrir. De manière générale, le MLOps s’applique à la conception et à la construction des modèles, à leur déploiement, à la gestion et à l’intégration des données, à la gestion de projet, à la maintenance des modèles et à d’autres domaines liés à la gestion du cycle de vie des modèles de ML.

Pour couvrir cet éventail de domaines du développement des modèles de ML, le MLOps s’appuie souvent sur l’automatisation et d’autres bonnes pratiques DevOps afin d’éliminer les tâches fastidieuses, de standardiser les workflows de projet et de fournir plus rapidement et à plus grande échelle un modèle de ML fonctionnel.

Le cycle de vie d’un déploiement MLOps

MLOps et DevOps

Le MLOps et le développement pour les opérations (DevOps) sont tous deux des cadres de bonnes pratiques axés sur la mise en place d’un cycle de développement rationalisé, automatisé et évolutif, mais le DevOps constitue une version plus large du concept.

Alors que le MLOps s’applique principalement aux modèles de machine learning ainsi qu’aux équipes, aux tâches et aux bonnes pratiques qui contribuent à optimiser les modèles de ML, le DevOps regroupe des bonnes pratiques applicables à tout projet ou cycle de vie de développement logiciel dans le domaine des opérations informatiques.

MLOps et AIOps

L’intelligence artificielle appliquée aux opérations informatiques, ou AIOps, concerne les automatisations pilotées par l’IA qui peuvent être appliquées à diverses opérations informatiques et à différents projets DevOps.

Pour mettre en œuvre des automatisations utiles dans des domaines tels que l’analyse des données et l’optimisation des ressources, l’AIOps s’appuie sur une combinaison de DataOps et de MLOps afin de collecter et de préparer des données exploitables et de développer des modèles de ML utilisables. Bien que le MLOps soit généralement considéré comme un sous-ensemble de ce qui se déroule dans un cadre AIOps, l’AIOps est aussi souvent appliqué aux projets MLOps pour automatiser l’analyse et la surveillance des modèles de ML.

En savoir plus : 10 bonnes pratiques AIOps

MLOps et LLMOps

Les opérations liées aux grands modèles de langage (LLMOps) constituent un sous-domaine émergent du MLOps qui se concentre sur les bonnes pratiques, les automatisations, les outils et les normes opérationnelles de machine learning nécessaires à la gestion du développement des LLM. Alors qu’un nombre croissant d’organisations adoptent des modèles d’IA générative, qu’il s’agisse de créer leurs propres modèles ou d’affiner ceux de tiers, le LLMOps fournit des recommandations ciblées pour développer des itérations de LLM reproductibles et évolutives.

Avantages et inconvénients du MLOps

Avantages du MLOps

• Des cycles de développement des modèles de ML standardisés et efficaces : Lorsque des processus et des outils standardisés, communs aux équipes et aux projets, sont en place pour le développement des modèles de ML, votre équipe peut s’assurer de produire régulièrement des modèles cohérents. Cela peut également rendre plus efficaces le cycle CI/CD (intégration continue / développement continu) et d’autres étapes comme les tests et la surveillance, car tout le monde dispose des mêmes informations.
• Collaboration et développement entre les équipes : Comme les normes et les bonnes pratiques de développement ont été documentées et harmonisées entre les équipes et les disciplines, vos modèles de machine learning bénéficieront des meilleures pratiques et des cas d’usage de chacun. Vous pourrez également vous assurer qu’aucun travail redondant et inutile n’est effectué en vase clos dans votre entreprise.
• Des modèles de ML de meilleure qualité : En plus de bénéficier des bonnes pratiques de toutes les équipes, les modèles de ML tendent à gagner en qualité lorsque le MLOps est appliqué, car celui-ci vise à produire des résultats reproductibles à toutes les étapes du développement des modèles. Avec les outils et les plans MLOps adaptés, les organisations améliorent notamment la gouvernance des modèles, le suivi des performances et la qualité de l’environnement de développement.
• Des processus et une documentation évolutifs : Les processus standardisés et l’infrastructure évolutive associés au MLOps permettent aux organisations d’augmenter la capacité de leurs opérations de développement de modèles de ML et de travailler avec des jeux de données plus volumineux et des types de modèles plus complexes. Le contrôle des versions et la documentation sont deux aspects essentiels du MLOps : ils permettent aux utilisateurs de suivre leur progression et de tirer des enseignements des itérations précédentes du développement des modèles de ML afin de créer des modèles toujours plus performants.
• Automatisation : Une grande partie du MLOps consiste à automatiser les tâches fastidieuses et répétitives susceptibles de ralentir votre équipe. L’automatisation peut empêcher votre équipe d’introduire involontairement de nouvelles erreurs et de s’écarter de procédures standardisées et conformes. Plus important encore, elle peut libérer du temps pour permettre à votre équipe de se consacrer à des tâches plus stratégiques de développement et de gestion des modèles.

Inconvénients du MLOps

• Nécessite une expertise interne ou externe : Si vous ne disposez pas déjà d’une équipe composée de développeurs, de data scientists et de spécialistes du ML, il peut être difficile de concevoir et de respecter des procédures et des outils MLOps adaptés à vos objectifs de production. Si vous prévoyez de recruter prochainement ce type de collaborateurs, il peut être préférable d’attendre leur avis sur un processus MLOps avant de vous engager.
• Le coût de l’infrastructure, des outils et des ressources MLOps : Lorsque vous décidez d’adopter une stratégie MLOps, vous pouvez être amené à investir dans de nouveaux outils et de nouvelles ressources pour l’intégration des données, les pipelines de données, la surveillance et l’analyse en temps réel, entre autres. Bien qu’il existe des versions gratuites et peu coûteuses de nombreux outils MLOps, le passage au MLOps peut tout de même s’avérer extrêmement onéreux, notamment en raison de l’échelle et du coût des ressources de calcul potentiellement nécessaires.
• La multiplication des erreurs des utilisateurs par l’automatisation : L’automatisation est une arme à double tranchant : selon son utilisation, elle peut minimiser ou multiplier les erreurs des utilisateurs. Si vous n’effectuez pas un contrôle approfondi de la qualité des données au début de votre cycle de vie MLOps, puis régulièrement par la suite, vous pourriez tout à fait augmenter la fréquence et la gravité d’une petite erreur présente dans votre jeu de données.
• Une agilité quelque peu limitée : Il est vrai que l’un des principaux avantages de l’adoption d’une stratégie basée sur le DevOps est de pouvoir travailler selon une méthodologie agile, mais en pratique, l’agilité du MLOps présente certaines limites. Il s’agit certes d’un cadre évolutif, mais il est moins agile dans le sens où ses règles de collaboration et de développement peuvent compliquer l’abandon de projets éprouvés au profit de concepts plus récents.
• La difficulté de la gestion continue des données : À mesure que les modèles de ML, leurs données d’entraînement et leurs entrées gagnent en volume, il peut devenir difficile de gérer la qualité et la fiabilité de toutes ces données. Cette prolifération des données peut compliquer la production de résultats de qualité, sans parler de la difficulté accrue à garantir que toutes les données sont utilisées de manière éthique et conformément aux réglementations applicables en matière de confidentialité des données.

Principaux outils et solutions MLOps

De nombreuses plateformes de machine learning de bout en bout, solutions d’intégration et de gestion des données, ainsi qu’un éventail d’outils open source et propriétaires prennent actuellement en charge les bonnes pratiques et les workflows MLOps. Selon votre portefeuille d’outils et votre expertise actuels, votre équipe pourrait tirer profit de plusieurs des meilleurs outils et solutions MLOps suivants :

• MLflow : Une plateforme de machine learning open source qui comprend un registre central de modèles ainsi que des API, des intégrations et des outils de gestion du cycle de vie du ML. Avec Apache Spark, la plateforme peut évoluer pour traiter des charges de travail liées au big data.
• Amazon SageMaker : Une plateforme ML entièrement gérée d’AWS proposant divers outils et frameworks pour prendre en charge la création, l’entraînement et le déploiement de modèles ML. La solution est conçue pour fonctionner avec différents formats de données, applications et langages de programmation.
• TensorFlow : Une plateforme et bibliothèque de machine learning open source qui prend en charge la préparation des données, la création et le déploiement des modèles, l’automatisation des données, la surveillance des performances et d’autres aspects essentiels du MLOps. Les utilisateurs peuvent créer leurs propres modèles ou s’appuyer sur des modèles TensorFlow prédéfinis.
• Iguazio : Une plateforme spécifiquement dédiée au MLOps qui se concentre principalement sur les pipelines ML automatisés, mais propose également des solutions de surveillance des modèles, de CI/CD, de data mesh et d’IA générative. Plusieurs solutions open source, notamment MLRun et Nuclio, sont également disponibles.
• Weights & Biases : Une plateforme pour les développeurs en IA et le MLOps qui prend en charge les scénarios et projets MLOps reposant sur le big data, notamment pour les LLM, la vision par ordinateur et les systèmes de recommandation. La plateforme propose également de nombreuses fonctionnalités de suivi des expériences et de gestion des versions des modèles.
• Neptune.ai : Une plateforme d’expérimentation MLOps qui donne accès à des fonctionnalités de gestion des versions des modèles, de création de pipelines, de journalisation et de suivi des artefacts. Les offres payantes incluent également des analyses avancées et des contrôles d’accès.
• H2O MLOps : Une solution MLOps de bout en bout qui comprend des fonctionnalités de mise à l’échelle automatique et de détection des dérives. Les utilisateurs peuvent surveiller et déployer des modèles dans différents langages, frameworks et formats.
• Flyte : Une plateforme d’orchestration des workflows pouvant être utilisée pour le machine learning, l’analytique, l’orchestration de l’IA et la bio-informatique. Elle est considérée comme une solution particulièrement conviviale pour les data scientists et les data engineers.

Un déploiement MLOps type hébergé dans le cloud. 

Découvrez des outils et solutions similaires dans ces guides :

• Les meilleurs outils et plateformes MLOps
• Les meilleures plateformes de machine learning

Bonnes pratiques MLOps

Lorsque vous débutez avec le MLOps, il est important de prendre en compte les bonnes pratiques suivies par les professionnels du DevOps et de les adapter à des cas d’usage plus spécifiques du développement des modèles de ML. Les bonnes pratiques suivantes combinent des conseils et astuces propres au DevOps et au MLOps pour obtenir de meilleurs résultats et favoriser l’adoption à l’échelle de l’organisation :

Mener une phase de conception complète

La phase de conception constitue la première étape du développement de modèles piloté par le MLOps. C’est à ce moment que les data scientists, les ingénieurs en machine learning et les autres parties prenantes concernées se réunissent pour concevoir l’architecture idéale de leur modèle et déterminer les éléments nécessaires à la mise en œuvre de ce plan.

La phase de conception doit tenir compte non seulement des problèmes à résoudre et du type de modèle et d’entraînement le plus adapté, mais aussi de la collecte et de la préparation des données, de l’ingénierie des caractéristiques et des exigences, ainsi que d’une documentation détaillée de chaque décision prise.

À ce stade, vous devez également dresser l’inventaire des outils et ressources dont vous disposez déjà et de ceux qui vous manquent, en identifiant les coûts ou complications supplémentaires susceptibles d’accompagner ces nouveaux investissements.

Automatiser lorsque cela est pertinent

L’automatisation constitue une grande partie de ce qui rend le MLOps reproductible et évolutif, mais il est important de réfléchir à ce que vous automatisez, ainsi qu’au moment et à la manière de le faire. Avant tout, assurez-vous que les données et les règles définies pour une automatisation sont exactes et exemptes d’erreurs, afin de ne pas multiplier involontairement les erreurs existantes. Après avoir contrôlé la qualité des données, commencez par des automatisations de moindre ampleur et testez-les — idéalement dans un environnement de test — afin de déterminer si des optimisations sont nécessaires.

De la validation des jeux de données à la détection de la dérive des modèles, en passant par la surveillance des performances, tout peut être automatisé avec les outils et la configuration adéquats. Réfléchissez donc aux principaux points de friction de vos équipes aujourd’hui et à la manière dont les automatisations peuvent les aider à gagner en efficacité.

Surveiller et tester en continu les performances du MLOps

Le MLOps repose sur l’idée qu’un cycle d’intégration et de développement continus permet de créer et de standardiser de meilleurs modèles au fil du temps. Mais pour vous améliorer continuellement, vous devez surveiller et tester en permanence les performances des modèles actuels et identifier les axes d’amélioration ainsi que les besoins de formation supplémentaires.

Si vous ne savez pas quoi surveiller lors de l’évaluation des performances du MLOps, envisagez de créer des indicateurs fondés sur les éléments de performance importants suivants :

• Dérive des données et des concepts
• Confiance du modèle
• Exactitude et précision du modèle
• Biais du modèle
• Rappel du modèle et journaux historiques
• Retards et latence des performances
• Explicabilité
• Commentaires des utilisateurs (le cas échéant)

Investir dans des outils MLOps éprouvés et très bien notés

Les outils MLOps peuvent vous aider à automatiser différentes tâches MLOps, notamment la gestion de la qualité des données, la surveillance des modèles ML, les analyses en temps réel et bien plus encore.

Investir dans un ou plusieurs des outils présentés plus haut est un excellent moyen de permettre à tous les membres de votre équipe, quelle que soit leur expérience en développement, d’avoir une meilleure visibilité sur le cycle de vie du MLOps et sur leur rôle dans sa réussite.

Obtenir l’adhésion des membres concernés de l’équipe et les former

La réussite du MLOps dépend entièrement des équipes qui travaillent sur ces modèles. C’est pourquoi il est important de le déployer de manière réfléchie, en réunissant les équipes chargées des données, du développement, des opérations et d’autres domaines de façon à favoriser les échanges et la collaboration.

La transition sera difficile pour nombre de ces équipes, en particulier si elles n’ont pas l’habitude de travailler ensemble. Veillez donc à fournir diverses ressources d’apprentissage, des projets pratiques et des possibilités de formation pour favoriser une gestion plus efficace du changement organisationnel.

Contrôler la qualité des données, des automatisations et de tous les processus

Les normes MLOps peuvent rapidement devenir incontrôlables si aucun membre dédié de l’équipe ne vérifie la qualité des données d’entraînement, des automatisations, des processus et des autres aspects du développement des modèles. Une équipe ou un spécialiste de l’assurance qualité consacré à ce type de tâches peut repérer les erreurs et les vulnérabilités avant qu’elles ne causent des problèmes plus importants. Plusieurs plateformes MLOps proposent également des outils de gestion de la qualité et d’automatisation susceptibles d’aider.

Documenter votre travail et la structure de vos projets

Le MLOps ne consiste pas à produire un excellent modèle de ML, mais à créer le cadre stratégique et les fondations nécessaires à la production de plusieurs excellents modèles de ML. Même si votre parcours MLOps commence difficilement, il est indispensable de documenter chaque étape, qu’il s’agisse de la préparation des données, du développement et du déploiement des modèles ou de tout ce qui se situe entre ces étapes. Cette documentation favorise la reproductibilité et l’évolutivité, tout en fournissant à votre équipe les données historiques nécessaires pour améliorer ses décisions passées.

Gardez à l’esprit que la documentation est un processus continu dans le MLOps. Chaque fois que votre équipe apporte une modification à un modèle ou à un processus, cette modification doit être documentée, idéalement dans un système cloud en temps réel où toutes les parties prenantes peuvent voir la preuve de cette modification et son impact sur le reste.

En résumé : intégrer le MLOps aux workflows de votre entreprise

Le MLOps peut être intégré à la pratique de développement des modèles ML de toute entreprise, que vous débutiez tout juste dans le machine learning ou que vous cherchiez à transformer des opérations de grande ampleur déjà en cours.

Alors que de plus en plus d’entreprises s’efforcent de rationaliser et de monétiser le développement des modèles de machine learning pour leurs opérations internes comme pour celles destinées aux clients, le MLOps est devenu un véritable cadre de bonnes pratiques qui aide les acteurs techniques de ces entreprises à rester sur la bonne voie et à collaborer plus efficacement tout au long du cycle de développement.

Développer et adopter un programme MLOps standardisé peut prendre du temps et s’avérer difficile, surtout si l’on tient compte de la conduite du changement organisationnel qu’implique ce type de transition. Toutefois, comprendre les difficultés liées au MLOps auxquelles vous pourriez être confronté et l’aborder avec un plan d’action clairement défini, ainsi qu’avec les bonnes pratiques présentées ci-dessus, constitue un bon premier pas vers une mise en œuvre réussie et évolutive.

À lire ensuite : 13 meilleurs logiciels d’intelligence artificielle (IA)