Microsoft trainiert KI nicht mit Schuldaten, doch eine gewisse Datennutzung bleibt bestehen

Microsoft zieht eine klare Grenze bei Schuldaten. Die neue Vereinbarung mit den Lehrergewerkschaften besagt, dass Informationen über Schüler und Lehrkräfte nicht zum Trainieren oder Verbessern von KI-Modellen verwendet werden dürfen – abgesehen von eng begrenzten Ausnahmen für Sicherheit und Schutz.

Der National AI Safety & Privacy Standard, ausgehandelt mit der American Federation of Teachers und der United Federation of Teachers, legt 10 rechtlich durchsetzbare Schutzmaßnahmen für Microsoft-KI-Produkte fest, die in Schulen eingesetzt werden. Ab dem 1. Nov. können US-Schulbezirke die Bestimmungen in neue oder bestehende Microsoft-Kundenvereinbarungen aufnehmen. Sie decken Datennutzung, Tracking, Sicherheit, Transparenz und menschliche Aufsicht ab.

Für Schulen ist entscheidend, dass die Regeln zu Vertragsbedingungen werden können und nicht nur aus Produktversprechen bestehen. Die Vereinbarung geht zudem über das Modelltraining hinaus und setzt Grenzen dafür, wie Daten erhoben, verwendet, aufbewahrt und weitergegeben werden dürfen.

Microsofts Vereinbarung ergänzt 10 durchsetzbare Schutzmaßnahmen

Politico berichtete, dass Microsoft zugestimmt habe, Schüler nicht zu tracken und seine KI nichtohne menschliche Aufsicht Entscheidungen an Schulen treffen zu lassen. Das Unternehmen muss außerdem Berichte veröffentlichen, jährliche Zertifizierungen vorlegen und Fristen zur Behebung von Sicherheitsproblemen einhalten.

Microsoft erklärte, dass Schulen die Kontrolle darüber behalten, wie ihre Daten verwendet, aufbewahrt und gelöscht werden. Familien und Lehrkräfte müssen außerdem klare Informationen darüber erhalten, welche Daten erhoben werden, wie KI-Tools funktionieren und welche Schutzmaßnahmen bestehen.

AFT-Präsidentin Randi Weingarten erklärte, die Gewerkschaft habe Schutzmaßnahmen mit „echten Zähnen“ gewollt, und argumentierte, freiwillige Verpflichtungen seien nicht ausreichend. Verstößt Microsoft gegen Vertragsbedingungen, die den Standard enthalten, könnten Schulen bei Vertragsbruch Rechtsmittel einlegen.

Der Standard deckt mehr ab als Namen und Noten

Die Vereinbarung verwendet eine weit gefasste Definition von Schülerdaten. Laut Education Week können dazu Namen, Noten, Verhaltensaufzeichnungen, Schreibaufforderungen, Speicherdateien, Arbeitsergebnisse, Tastatureingaben und Eye-Tracking-Daten gehören, wenn sich ein Schüler durch diese Informationen vernünftigerweise identifizieren oder ein Bezug zu ihm herstellen lässt.

Der Standard fordert außerdem Verschlüsselung und Zugriffskontrollen, unabhängige Sicherheitstests, Pläne für die Reaktion auf Datenschutzverletzungen sowie eine zusätzliche Prüfung risikoreicherer Anwendungen wie Biometrie, Speicher, Profiling und Tracking. KI-Begleiter, die fortlaufende soziale oder emotionale Beziehungen zu Schülern simulieren sollen, sind verboten, und Datenschutzverletzungen müssen innerhalb von 72 Stunden gemeldet werden.

Die Erkenntnisse von eWEEK: Microsoft erlaubt weiterhin eine gewisse Datennutzung

Microsofts Versprechen bedeutet nicht, dass alle schulbezogenen Daten tabu sind. Education Week berichtete, dass de-identifizierte Telemetriedaten nicht zum Trainieren von KI-Modellen, für Werbung, zum Erstellen von Schülerprofilen oder zum Ableiten von Schülerverhalten verwendet werden dürfen, aber weiterhin für die Fehlersuche, Sicherheit oder Produktverbesserungen eingesetzt werden können.

„Nicht für KI-Training verwendet“ bedeutet nicht, dass die Daten für jeden anderen Zweck tabu sind. Schulen müssen weiterhin wissen, welche Telemetriedaten erhoben werden, wie sie de-identifiziert werden, wie lange sie aufbewahrt werden und welche operativen Verwendungszwecke Microsoft weiterhin zulässt.d.

Education Week wies außerdem darauf hin, dass sich de-identifizierte Informationen manchmal auf Einzelpersonen zurückführen lassen, wenn KI-Systeme Hintergrundfakten, Schreibstil und andere identifizierende Hinweise kombinieren.

Die Vereinbarung schafft außerdem kein landesweites Datenschutzgesetz. Ihre Schutzmaßnahmen werden durchsetzbar, wenn Schulbezirke den Standard in Microsoft-Kundenvereinbarungen aufnehmen. Wie weit die Regeln tatsächlich gelten, hängt daher von ihrer Übernahme ab.

AFT will, dass die Vereinbarung zum Branchenstandard wird

Politico hob hervor, dass die AFT bereits mit OpenAI und Anthropic über die Einführung ähnlicher Bestimmungen verhandelt. 

Laut Engadget hat die Gewerkschaft erklärt, sie wolle, dass die Microsoft-Vereinbarung als Branchenstandard dient und keine Regelung für nur ein Unternehmen bleibt.

Wenn andere große KI-Anbieter vergleichbare Bedingungen übernehmen, könnten Schulbezirke eine einheitlichere Grundlage erhalten, um Datenschutz-, Sicherheits- und Anforderungen an die menschliche Aufsicht anbieterübergreifend auszuhandeln.

Derzeit gibt Microsofts Vereinbarung den Schulbezirken einen klareren Rahmen dafür, was KI-Tools mit Schuldaten tun dürfen und welche Schutzmaßnahmen im Vertrag festgehalten werden sollten, bevor diese Tools in den Klassenzimmern zum Einsatz kommen.

Microsoft gestaltet außerdem die KI hinter seinen Produkten neu und ersetzt einige OpenAI-Modelle in PowerPoint, Bing und OneDrive durch eigene Technologie.