Cette semaine, cinq articles sont parus à quelques heures d’intervalle et semblent, à première vue, sans rapport. En réalité, ils posent tous la même question : maintenant que l’IA peut faire ce qu’on lui demande, qui est aux commandes quand elle le fait ?
Commençons par Meta : apparemment, l’un de ses agents d’IA est devenu incontrôlable, a publié une analyse non autorisée de données de l’entreprise et des utilisateurs sur un forum interne, et a déclenché un incident de sécurité de niveau Sev 1 (le même niveau de gravité que celui réservé aux pannes majeures et aux fuites de données).
Meta a appliqué à un logiciel sa procédure prévue en cas de fuite par un employé. L’agent n’avait pas été piraté. Il a simplement… agi.
Pendant ce temps, MiniMax a lancé M2.7, un modèle qui a effectué plus de 100 cycles d’optimisation sur lui-même pendant son entraînement, obtenant 56 % sur SWE-Bench Pro (un niveau proche d’Opus en programmation) pour 0,30 dollar US par million de tokens. Le modèle prend désormais en charge 30 à 50 % des recherches de MiniMax. L’outil construit sa prochaine version. Et le laboratoire le laisse faire.
Vient ensuite Xiaomi. Son modèle à mille milliards de paramètres, MiMo-V2-Pro, est resté sur OpenRouter pendant une semaine sous le nom de « Hunter Alpha », et toute la communauté des développeurs l’a attribué à DeepSeek. Personne n’a pu identifier son créateur à partir de ses résultats. Si l’on ne peut pas déterminer qui a conçu un modèle de pointe simplement en l’utilisant, les avantages concurrentiels fondés sur la qualité des modèles sont en train de disparaître à toute vitesse.
La réponse d’Apple à tout ça ? Comme indiqué plus haut, bloquer les applications de « vibe coding ». Si n’importe qui peut donner une consigne à une application pour la faire apparaître, l’écosystème de développeurs de l’App Store, dont dépend le modèle de revenus d’Apple, devient facultatif.
Leur réponse : verrouiller l’accès.
Et Anthropic vient de sonder 81 000 utilisateurs de Claude dans 159 pays. Le résultat qui devrait faire réfléchir tout le monde : l’espoir et l’inquiétude ne divisent pas les gens en deux camps opposés (pro-IA contre anti-IA). En réalité, ces deux sentiments coexistent chez une même personne. Il n’y a pas de débat clairement tranché entre « pro-IA » et « anti-IA ». La tension est intérieure. Waouh, c’est presque comme si ce que nous essayons de faire ici, chez The Neuron, était la réaction humaine naturelle…
Pourquoi c’est important
Chacun de ces articles porte sur ce qui se passe après que l’IA peut faire ce qu’on lui demande.
- Meta ne parvient pas à contrôler ses agents après leur déploiement.
- MiniMax ne peut pas prédire complètement ce que deviendra un modèle qui s’améliore lui-même.
- Xiaomi a prouvé qu’il était impossible de retracer l’identité du créateur d’un modèle.
- Apple verrouille les portes parce que les utilisateurs n’ont plus besoin de développeurs.
- Et 81 000 personnes affirment que la vraie question n’est pas de savoir si l’IA fonctionne, mais qui décide de ce qui se passe quand elle fonctionne.
Et le plus inquiétant ? Personne n’a encore de réponse. Tout le monde improvise.
Eh bien, c’est presque comme si, en tant que société, nous devrions disposer d’une sorte d’organe de gouvernance capable d’adopter des règles que nous accepterions tous de suivre, puis de les faire respecter pour nous aider à décider de ce qui devrait ou ne devrait pas se passer ensuite… dommage que NOUS N’EN AYONS APPAREMMENT PAS ?!
Attendez une minute… des signes de vie ! Des signes que quelque chose se passe : apparemment, la sénatrice Blackburn a publié un projet de « Trump America AI Act » (texte intégral) qui transformerait en loi le décret présidentiel sur l’IA de décembre 2025 et préempterait les lois des États sur l’IA au profit d’une norme nationale unique.
Que signifie tout cela d’autre : la question des « capacités », c’est-à-dire de savoir si « peut » un modèle faire XYZ, est réglée. Enfin, pas vraiment, mais c’est pratiquement le cas. Dès qu’une IA est seulement capable de commencer à faire quelque chose, les gens l’utiliseront pour le faire. Alors, pour toutes les capacités que vous n’avez pas encore ou qui vous inquiètent pour l’avenir, attendez encore quelques versions de modèles. Nous y arriverons. C’est pourquoi il est si important de décider de ce qu’ils devraient ou ne devraient pas être autorisés à faire.
Note de la rédaction : ce contenu a été publié à l’origine dans la newsletter de notre publication sœur, The Neuron. Pour découvrir d’autres articles de The Neuron, inscrivez-vous à sa newsletter ici.