Un robot destiné à inspirer les élèves a finalement déclenché un débat plus large sur l'IA dans l'éducation.
Un district scolaire new-yorkais a suspendu son projet d'introduire un robot humanoïde doté d'une IA dans une classe de lycée, après que les critiques d'enseignants, de parents, de membres de la communauté et de responsables de l'État ont soulevé des questions sur la vie privée, la sécurité des élèves et le rôle croissant de l'intelligence artificielle dans les établissements scolaires.
Le Salamanca City Central School District a annoncé le 24 juillet que son projet pilote avec Realbotix, dont le siège est à Toronto, était suspendu, le temps de renforcer les accords relatifs à la confidentialité des données des élèves avec le New York State Education Department et de poursuivre les discussions avec la communauté locale.
Cette décision est intervenue quelques heures seulement après l'envoi par la New York State Education Commissioner Betty Rosa d'une lettre faisant part de ses inquiétudes concernant le projet et indiquant que le département surveillerait celui-ci afin de déceler d'éventuels problèmes juridiques, pédagogiques, liés à la vie privée ou à la sécurité, entre autres.
Le projet était centré sur « Sally », un robot d'environ 58 000 dollars humanoïde conçu par Realbotix. Selon l'entreprise, ce robot à la peau de silicone peut tenir des conversations naturelles, afficher des expressions faciales et interagir avec les élèves en temps réel afin de favoriser l'apprentissage en classe.
Le district a déclaré que le robot était destiné à compléter le travail des enseignants plutôt qu'à les remplacer. Le Superintendent Mark Beehler avait précédemment déclaré aux membres du conseil scolaire : « Il ne va pas parcourir les couloirs », en réponse aux craintes suscitées par le projet. Il avait également précisé que le système n'enregistrerait pas les conversations avec les élèves et fonctionnerait sur un réseau fermé plutôt que sur Internet ouvert.
Les détracteurs se sont néanmoins demandé si cette technologie avait sa place dans les salles de classe.
Le syndicat New York State United Teachers s'est fermement opposé à l'initiative. Son président, Melinda Person, a déclaré : « Un robot fabriqué par une entreprise associée aux poupées sexuelles n'a rien à faire dans nos salles de classe. »
Elle a ajouté : « Nos élèves n'ont pas besoin de robots. Ils ont besoin de relations réelles avec des adultes bienveillants. Les enseignants voient quand les élèves sont en difficulté, célèbrent leurs réussites et les aident à découvrir qui ils peuvent devenir. Aucun robot ne peut faire cela, quelle que soit l'apparence réaliste de sa peau ou la précision de son accent régional. »
L'histoire de Realbotix a intensifié la controverse. En 2024, l'entreprise a racheté Simulacra, la société mère de RealDoll, même si Realbotix a affirmé à plusieurs reprises que ses activités dans l'éducation étaient distinctes de toute activité liée aux produits pour adultes.
Realbotix défend le programme
Le CEO de Realbotix, Andrew Kiguel, a soutenu la décision du district de suspendre le déploiement.
« Nous respectons pleinement toute décision prise par l'établissement et encourageons toutes les parties prenantes à procéder à des vérifications approfondies », a déclaré Kiguel à New York Focus. « Nous voulons que le programme soit manifestement sûr, pleinement approuvé par le district et largement soutenu par les enseignants. »
L'entreprise a également déclaré que Sally n'enregistrait ni audio ni vidéo, n'utilisait pas la reconnaissance faciale et n'était pas conçue pour remplacer les enseignants. De son côté, le New York State Education Department a indiqué qu'il élaborait des recommandations pour les établissements scolaires sur l'utilisation responsable de l'IA et d'autres technologies émergentes.
Ce que cela signifie pour l'IA en classe
Le cas de Salamanca montre que les établissements scolaires pourraient rencontrer une résistance croissante lorsqu'ils introduisent des outils d'IA qui ressemblent étroitement à des humains, même si la technologie est conçue pour aider les enseignants plutôt que les remplacer.
L'épisode montre que les seules capacités techniques pourraient ne pas suffire à gagner la confiance du public pour les entreprises technologiques. Les districts scolaires devront probablement faire face à une pression accrue pour démontrer l'efficacité de leurs protections de la vie privée, expliquer comment les données des élèves sont traitées et associer parents et enseignants avant de déployer des systèmes dotés d'une IA.
Le débat pourrait également influencer les futures politiques de l'État, le syndicat des enseignants de New York appelant désormais à l'adoption de règles contraignantes à l'échelle de l'État pour encadrer l'utilisation de l'IA dans les établissements scolaires, en particulier les robots humanoïdes qui interagissent directement avec les élèves.
Si le projet pilote de Salamanca a été suspendu — et non annulé —, son issue pourrait influencer la manière dont les autres districts scolaires évaluent les outils de classe dotés d'une IA.
Si New York adopte finalement des recommandations à l'échelle de l'État ou une nouvelle législation, cela pourrait établir un cadre que d'autres États utiliseraient pour déterminer jusqu'où l'IA, et notamment les robots à l'apparence humaine, devrait être autorisée à aller dans les salles de classe.
À lire également : La Norvège restreint l'IA générative dans les établissements scolaires, allant presque jusqu'à l'interdire pour les élèves âgés de 6 à 13 ans, tout en autorisant son utilisation limitée et encadrée par les élèves plus âgés.