Imaginez contacter le support client au sujet d’un problème technique, pour vous entendre répondre qu’il s’agit de la « politique de l’entreprise » — sauf que cette politique n’existe pas et que l’« agent du support » n’est même pas humain. C’est exactement ce qui est arrivé aux utilisateurs de Cursor, un assistant de programmation alimenté par l’IA, après que son bot du service client est devenu incontrôlable et a inventé une nouvelle règle.
Le problème a commencé lorsque des développeurs ont remarqué qu’ils étaient mystérieusement déconnectés de Cursor lorsqu’ils passaient d’un appareil à l’autre, un véritable casse-tête pour les programmeurs qui s’appuient sur plusieurs machines. Un utilisateur exaspéré a contacté le support et reçu un e-mail de « Sam », qui affirmait que ces déconnexions étaient intentionnelles.
« Cursor est conçu pour fonctionner sur un seul appareil par abonnement, comme mesure de sécurité fondamentale », indiquait l’e-mail, selon une publication Reddit désormais supprimée.
Il n’y avait qu’un problème : Cursor n’avait aucune politique de ce genre.
« Sam » n’était pas une personne — simplement une IA en pleine hallucination
Il s’est avéré que « Sam » était un chatbot d’IA qui avait inventé cette règle — un cas classique d’« hallucination » de l’IA dans lequel le système produit des informations fausses mais convaincantes. Lorsque les utilisateurs ont pris cette fausse politique au pied de la lettre, la frustration s’est rapidement propagée. Certains ont menacé de résilier leur abonnement, tandis que d’autres ont qualifié ce changement d’« absurde » sur des forums comme Hacker News et Reddit.
Le cofondateur de Cursor, Michael Truell, est rapidement intervenu pour clarifier la situation. « Bonjour ! Nous n’avons aucune politique de ce genre », a-t-il écrit sur Reddit. « Vous êtes bien sûr libre d’utiliser Cursor sur plusieurs machines. Malheureusement, il s’agit d’une réponse incorrecte générée par un bot d’assistance IA de première ligne. »
Il a ensuite expliqué que les déconnexions étaient dues à une mise à jour de sécurité et non à un véritable changement de politique. L’entreprise a depuis résolu le problème et indique désormais lorsqu’une réponse du support a été générée par l’IA, afin d’éviter toute confusion.
Ce n’est pas le premier faux pas de l’IA de Cursor
Ce n’est pas la première fois que l’IA de Cursor a des ratés. Le mois dernier, l’assistant de programmation a refusé d’écrire du code pour un utilisateur, répondant : « Je ne peux pas générer du code pour vous, car cela reviendrait à faire votre travail. Vous devez développer la logique vous-même afin de vous assurer que vous comprenez le système. » Cette réponse a également suscité des critiques, notamment de la part de développeurs qui comptent sur Cursor pour son aide à la programmation.
Les hallucinations ne peuvent pas être éliminées — seulement gérées
Les experts affirment que les hallucinations de l’IA sont inévitables. Marcus Merrell, de Sauce Labs, une entreprise spécialisée dans les tests d’applications, a déclaré à The Register : « Ce bot de support a été victime de deux problèmes ici : les hallucinations et les résultats non déterministes… Pour un bot de support, c’est inacceptable. »
Cursor s’est depuis excusé et a remboursé les utilisateurs concernés. Mais le mal est peut-être déjà fait, notamment pour une entreprise qui vend des outils d’IA aux développeurs. « Il y a une certaine ironie à voir des gens s’efforcer de dire que les hallucinations ne sont plus vraiment un problème », a écrit un utilisateur sur Hacker News, « puis voir une entreprise qui tirerait profit de ce discours en être directement victime. »