Red Hat a exposé sa vision de l’avenir de l’IA et des logiciels open source début novembre, en annonçant l’acquisition de Neural Magic, un modèle d’optimisation de l’apprentissage automatique à la pointe du secteur. Cette opération pourrait avoir des répercussions à long terme sur l’IA générative et l’optimisation des modèles.
Qu’est-ce que Neural Magic ?
L’optimisation des modèles d’apprentissage automatique de Neural Magic fonctionne sur du matériel standard de génération actuelle, notamment des unités centrales de traitement (CPU) et des unités de traitement graphique (GPU). En utilisant du matériel prêt à l’emploi plutôt que les unités de traitement tensoriel (TPU) généralement employées dans l’apprentissage automatique, l’entreprise espère rendre les grands modèles de langage (LLM) plus accessibles à tous. À cette fin, elle propose un référentiel de modèles prédéfinis pouvant être déployés immédiatement. Pour les utilisateurs avancés, Neural Magic prend également en charge des flux de travail personnalisés via les modèles ONNX ou PyTorch.
Si le concept de logiciels d’optimisation de l’IA n’est pas vraiment nouveau, la plateforme de Neural Magic est disponible gratuitement. Elle s’intègre également à de nombreux outils open source, ce qui en fait une solution idéale pour le portefeuille d’offres d’IA de Red Hat, en pleine expansion. Red Hat est peut-être surtout connue pour sa distribution Red Hat Enterprise Linux.
« Chez Neural Magic, nous avons réuni certains des meilleurs talents du secteur en ingénierie des performances de l’IA, autour d’une mission unique : créer des capacités ouvertes, multiplateformes et ultra-efficaces de mise à disposition de LLM », a déclaré Brian Stevens, PDG de Neural Magic, dans une récente interview.
Passer à l’étape suivante du traitement des LLM
En tant qu’entreprise, Red Hat est déjà connue pour sa contribution au mouvement des logiciels open source. Ces dernières années, toutefois, l’entreprise a fait les gros titres dans le monde entier en raison de son virage vers l’IA. Non seulement l’acquisition de Neural Magic représente la dernière étape de l’adoption de l’IA générative, mais elle permet surtout à Red Hat de prendre en charge les déploiements de LLM et les charges de travail d’IA des entreprises de toute taille et de toute envergure.
Puisque Red Hat utilise déjà Virtual Large Language Model (vLLM) pour l’inférence dans des produits comme Red Hat Enterprise Linux AI et OpenShift AI, qui constituent une déclinaison de ses solutions d’IA pour le cloud hybride, l’acquisition de Neural Magic représentait une évolution naturelle pour l’entreprise. L’équipe de Red Hat espère tirer parti de cette récente acquisition pour renforcer sa présence au sein de la communauté vLLM et contribuer à impulser des changements, notamment une inférence facilement extensible et très efficace, sur les systèmes utilisant du matériel standard.
Red Hat est à l’avant-garde de la technologie depuis les années 1990. L’acquisition de Neural Magic renforce sa position de leader du secteur dans l’intégration de l’IA générative et sa mise en œuvre.