Anthropic pourrait être sur le point de lancer auprès du grand public de nouveaux modèles d’IA dotés de capacités de cybersécurité de classe Mythos, moins de deux mois après avoir averti que ces capacités pourraient exploiter des vulnérabilités zero-day et permettre à des non-spécialistes de produire des exploits sophistiqués.
L’entreprise aurait considérablement renforcé ses garde-fous depuis, au point de pouvoir proposer certaines capacités de Mythos au grand public. Anthropic s’interrogeait encore sur l’opportunité de diffuser un jour Mythos plus largement, certains employés de l’entreprise craignant les effets négatifs que le modèle pourrait avoir entre les mains d’acteurs malveillants.
L’entreprise a fait cet aveu parallèlement à la sortie d’Opus 4.8, une mise à niveau de son modèle actuellement le plus puissant accessible au grand public. On ignore si Anthropic utiliserait le nom Mythos lors de la sortie du modèle, le cas échéant.
D’une menace mondiale pour la sécurité à une disponibilité générale
Le laboratoire de recherche en IA a donné accès à Mythos Preview à un groupe restreint d’équipes de sécurité, de responsables de logiciels, d’entreprises d’infrastructure et de gouvernements dans le cadre du projet Glasswing. L’objectif était de leur laisser le temps de renforcer leurs défenses et d’identifier les vulnérabilités avant qu’une IA malveillante ne les rattrape.
Selon Anthropic, il dispose d’une avance de six à 18 mois sur les modèles d’IA open source.
Cette longueur d’avance a été saluée par certains acteurs du secteur. Mozilla a indiqué que sa dernière version de Firefox comportait 271 vulnérabilités identifiées par Mythos. Anthropic aurait également identifié plus de 23 000 vulnérabilités dans des projets open source, dont 6 200 seraient de gravité élevée ou critique.
Le bond potentiel en matière de sophistication a également incité beaucoup d’acteurs à tenter d’accéder au modèle d’IA, notamment des dirigeants européens du secteur financier et des responsables gouvernementaux. L’administration Trump, alors qu’elle s’oppose publiquement à Anthropic au sujet de son contrat avec le Pentagone, a accordé à plusieurs ministères un accès à Mythos, dont la National Security Agency.
Anthropic pourrait considérer l’ouverture du modèle d’IA comme nécessaire pour garantir des règles du jeu équitables, afin que les développeurs soient aussi capables de repérer les vulnérabilités que les attaquants. Au moins un groupe non autorisé a accédé à Mythos Preview, selon un rapport publié le mois dernier, et le temps presse pour savoir combien de temps Anthropic pourra conserver son avance en matière de capacités cyber.
Se positionner avant la ruée vers les introductions en Bourse
Son principal rival, OpenAI, a davantage distribué librement son propre modèle cyber à d’autres pays et à de grandes organisations. Le PDG d’OpenAI, Sam Altman, a qualifié les avertissements d’Anthropic de « marketing fondé sur la peur », les deux entreprises étant en désaccord sur la meilleure façon de distribuer leurs modèles.
Cette divergence pourrait devenir l’un des principaux arguments marketing des deux camps avant leurs introductions en Bourse. Anthropic a laissé entendre qu’elle était davantage réticente à prendre des risques, avec des modèles très sophistiqués et puissants pouvant être utilisés à bon escient. De son côté, OpenAI s’est montrée prête à mettre ses propres modèles puissants entre les mains d’un plus grand nombre de personnes, estimant finalement que ses garde-fous étaient suffisants pour empêcher les acteurs malveillants d’agir.
Anthropic est actuellement en pleine ascension, après avoir récemment bouclé un tour de financement à une valorisation supérieure à celle de son rival, OpenAI. Cela s’explique en partie par une évolution de l’intérêt des investisseurs et des valorisations sur le marché de l’IA, les clients professionnels étant devenus bien plus précieux que les utilisateurs. OpenAI reste en tête avec 900 millions d’utilisateurs actifs, mais Anthropic aurait égalé son rythme de chiffre d’affaires et compterait davantage de clients professionnels.
Les deux laboratoires de recherche en IA envisagent une introduction en Bourse au cours des 12 prochains mois. SpaceX, qui abrite xAI, devrait être la première à entrer en Bourse, avec une valorisation comprise entre 1,75 et 2 billions de dollars, le succès ou l’échec de cette opération étant susceptible de façonner le calendrier d’Anthropic et d’OpenAI.
À lire également : des chercheurs ont supprimé les garde-fous de modèles Google et Meta à poids ouverts, ajoutant un nouvel avertissement pour les entreprises qui préparent des systèmes d’IA plus puissants en vue d’un usage plus large.