Ein Klassenraumroboter, der Schülerinnen und Schüler inspirieren sollte, hat stattdessen eine breitere Debatte über KI im Bildungswesen entfacht.
Ein New Yorker Schulbezirk hat die Pläne pausiert, einen humanoiden, KI-gestützten Roboter in einem Klassenraum einer weiterführenden Schule einzusetzen, nachdem die Kritik von Lehrkräften, Eltern, Mitgliedern der Gemeinde und Staatsvertretern Fragen zum Datenschutz, zur Sicherheit der Schülerinnen und Schüler sowie zur wachsenden Rolle künstlicher Intelligenz an Schulen aufgeworfen hatte.
Der Salamanca City Central School District gab am 24. Juli bekannt, dass sein Pilotprojekt mit dem in Toronto ansässigen Unternehmen Realbotix auf Eis liegt, während er gemeinsam mit dem New York State Education Department an strengeren Vereinbarungen zum Schutz der Daten von Schülerinnen und Schülern arbeitet und die Gespräche mit der örtlichen Gemeinde fortsetzt.
Die Entscheidung fiel nur wenige Stunden, nachdem die New Yorker Bildungskommissarin Betty Rosa in einem Schreiben ihre Besorgnis über den Vorschlag geäußert und erklärt hatte, das Ministerium werde das Projekt auf mögliche rechtliche, pädagogische, datenschutzrechtliche, sicherheitsbezogene und andere Probleme hin überwachen.
Im Mittelpunkt des Projekts stand „Sally“, ein rund 58.000 US-Dollar teurer humanoider Roboter , der von Realbotix entwickelt wurde. Nach Angaben des Unternehmens kann der mit einer Silikonhaut versehene Roboter natürliche Gespräche führen, Gesichtsausdrücke zeigen und in Echtzeit mit Schülerinnen und Schülern interagieren, um das Lernen im Klassenraum zu unterstützen.
Der Bezirk erklärte, der Roboter solle Lehrkräfte ergänzen, statt sie zu ersetzen. Superintendent Mark Beehler hatte zuvor gegenüber Mitgliedern des Schulvorstands erklärt: „Er läuft nicht durch die Gänge“, und damit Befürchtungen über das Projekt zurückgewiesen. Außerdem sagte er, das System werde keine Gespräche mit Schülerinnen und Schülern aufzeichnen und in einem geschlossenen Netzwerk statt im offenen Internet betrieben.
Dennoch stellten Kritiker infrage, ob diese Technologie überhaupt in Klassenräume gehört.
Die Lehrergewerkschaft New York State United Teachers lehnte die Initiative entschieden ab. Gewerkschaftspräsidentin Melinda Person sagte: „Ein Roboter, der von einem Unternehmen entwickelt wurde, das mit Sexpuppen in Verbindung steht, hat in unseren Klassenräumen nichts zu suchen.“
Sie fügte hinzu: „Unsere Schülerinnen und Schüler brauchen keine Roboter. Sie brauchen echte Beziehungen zu fürsorglichen Erwachsenen. Lehrkräfte bemerken, wenn Schülerinnen und Schüler Schwierigkeiten haben, freuen sich mit ihnen über Erfolge und helfen ihnen dabei, herauszufinden, wer sie werden können. Kein Roboter kann das leisten – ganz gleich, wie lebensecht seine Haut oder wie ausgeprägt sein regionaler Akzent ist.“
Die Unternehmensgeschichte von Realbotix verschärfte die Kontroverse. Im Jahr 2024 übernahm das Unternehmen Simulacra, die Muttergesellschaft hinter RealDoll, obwohl Realbotix wiederholt erklärt hat, dass sein Bildungsgeschäft von allen Geschäftsbereichen mit Erwachsenenprodukten getrennt ist.
Realbotix verteidigt das Programm
Realbotix-CEO Andrew Kiguel unterstützte die Entscheidung des Bezirks, die Einführung auszusetzen.
„Wir respektieren jede Entscheidung der Schule voll und ganz und begrüßen eine gründliche Prüfung durch alle beteiligten Parteien“, sagte Kiguel gegenüber New York Focus. „Wir wollen, dass das Programm nachweislich sicher, vollständig vom Bezirk genehmigt und von den Lehrkräften nachdrücklich unterstützt wird.“
Das Unternehmen erklärte außerdem, dass Sally weder Audio- noch Videoaufnahmen anfertige, keine Gesichtserkennung nutze und nicht dafür konzipiert sei, Lehrkräfte zu ersetzen. Unterdessen teilte das New York State Education Department mit, es entwickle landesweite Leitlinien für Schulen zur verantwortungsvollen Nutzung von KI und anderen neuen Technologien.
Was das für KI in Klassenräumen bedeutet
Der Fall Salamanca zeigt, dass Schulen mit wachsendem Widerstand rechnen müssen, wenn sie KI-Werkzeuge einführen, die Menschen stark ähneln, selbst wenn die Technologie darauf ausgelegt ist, Lehrkräfte zu unterstützen.
Die Episode zeigt, dass technische Fähigkeiten allein möglicherweise nicht ausreichen, um das Vertrauen der Öffentlichkeit in Technologieunternehmen zu gewinnen. Schulbezirke werden wahrscheinlich stärker unter Druck geraten, einen umfassenden Datenschutz nachzuweisen, zu erklären, wie mit den Daten der Schülerinnen und Schüler umgegangen wird, und Eltern sowie Lehrkräfte einzubeziehen, bevor sie KI-gestützte Systeme einführen.
Die Debatte könnte auch künftige politische Maßnahmen auf Bundesstaatsebene beeinflussen: Die Lehrergewerkschaft von New York fordert nun verbindliche landesweite Regeln für den Einsatz von KI an Schulen, insbesondere für humanoide Roboter, die direkt mit Schülerinnen und Schülern interagieren.
Das Pilotprojekt in Salamanca wurde zwar ausgesetzt – nicht abgesagt –, doch das Ergebnis könnte beeinflussen, wie andere Schulbezirke KI-gestützte Werkzeuge für den Klassenraum bewerten.
Sollte New York letztlich landesweite Leitlinien oder neue Gesetze verabschieden, könnte dies einen Rahmen schaffen, an dem sich andere Bundesstaaten orientieren, wenn sie entscheiden, wie weit KI – insbesondere menschenähnliche Roboter – in Klassenräumen zugelassen werden soll.
Lesen Sie auch: Norwegen schränkt generative KI an Schulen ein, und verbietet sie für Schülerinnen und Schüler im Alter von 6 bis 13 Jahren nahezu vollständig, während ältere Schülerinnen und Schüler sie in begrenztem Umfang unter Aufsicht nutzen dürfen.