Rien ne casse plus vite la magie d’une danse robotique que de voir le personnel devoir éloigner le robot.
C’est ce qui s’est passé lors d’un événement organisé dans une université chinoise, où un robot humanoïde a semblé sortir du script et attirer une étudiante dans une étreinte inattendue sur scène. L’incident, signalé en premier par Global Times, s’est produit pendant une représentation lors d’une rencontre sportive à Xi’an Eurasia University, dans la province du Shaanxi.
L’étudiante n’a pas été blessée, mais l’incident a rapidement transformé une représentation insolite en nouveau rappel des risques de sécurité associés aux démonstrations de robots à proximité du public.
Quelques secondes ont suffi à changer l’ambiance
Une vidéo de la représentation a rapidement commencé à circuler en ligne, donnant à l’incident une portée bien supérieure à celle de l’événement universitaire. Sur les images, les étudiants sont en place pour la chorégraphie tandis que le robot humanoïde évolue à proximité, apparemment intégré à la chorégraphie.
Puis le rythme change. Le robot se tourne vers une étudiante, s’approche d’elle et l’attire dans une étreinte inattendue avant que le personnel n’intervienne pour les séparer.
Le moment a été bref, mais il a dissipé le vernis habituel d’une démonstration technologique. L’étudiante n’a pas été blessée et a par la suite décliné les sollicitations des médias.
Une interférence, pas une intention
Après la représentation, l’université a rejeté toute suggestion selon laquelle la scène aurait été mise en scène. Un membre du personnel a déclaré que ce mouvement ne faisait pas partie de la chorégraphie et que, « d’après ce que nous avions compris à ce moment-là, le robot avait fait une erreur ». Le même membre du personnel a décrit cela comme un dysfonctionnement du programme d’IA.
Le robot n’appartenait pas à l’université. Il avait été fourni par une entreprise fondée par des anciens élèves et a été rendu après l’événement. Lorsque l’établissement a ensuite contacté le fournisseur, l’explication est passée de la chorégraphie à un problème de signal.
L’entreprise a mis en cause de possibles interférences sur le site, affirmant que plusieurs drones opéraient pendant la représentation et avaient pu perturber les signaux du robot. Elle a également nié que l’incident ait été organisé à l’avance.
Gao Huan, directeur adjoint du laboratoire d’intelligence et de cognition de Chongqing Normal University, a déclaré que le cas de Xi’an ne devait pas être interprété comme la preuve d’une « conscience indépendante » du robot. Selon lui, l’incident était plus probablement lié à des anomalies du contrôle des mouvements, à des écarts dans l’exécution ou à une redondance de sécurité insuffisante sur place.
La question la plus importante, a souligné Gao, est de savoir pourquoi le robot a tout de même pu entrer en contact avec une personne après le début de son comportement anormal.
Les incidents impliquant des robots humanoïdes s’accumulent
Le dysfonctionnement de Xi’an pourrait plus facilement être considéré comme un cas isolé étrange s’il n’était pas mis en regard d’autres incidents récents impliquant des robots.
En mars, un robot dansant dans un restaurant californien aurait perdu les pédales pendant une représentation, projetant assiettes et nourriture tandis que le personnel et les clients réagissaient. Le même mois, une autre démonstration devenue virale en Chine a montré un robot humanoïde frappant un enfant lors d’une représentation publique, transformant ce qui devait être un moment insolite en nouvelle alerte de sécurité.
Aucun de ces incidents ne prouve que les robots humanoïdes sont dangereux par défaut. Mais ils ne cessent de remettre au premier plan la même question de sécurité.
Lorsque des machines sont placées dans des environnements bondés et ludiques où les gens se tiennent à portée de main, la marge d’erreur devient mince. Un mauvais signal, un virage mal négocié ou quelques secondes de mouvement inattendu peuvent sembler anodins sur le papier, mais à proximité d’étudiants, de clients ou d’enfants, à partir de quand cela devient-il un problème de sécurité ?
Optimus pourrait bientôt sortir des murs de Tesla tandis que l’entreprise accélère sa production et ses tests.