Apple steht derzeit in der Kritik, nachdem sein KI-basiertes Tool zur Zusammenfassung von Nachrichten Informationen aus zuverlässigen Nachrichtenquellen wie BBC News und The New York Times falsch darstellte und iPhone-Nutzer mit unzutreffenden Warnungen versorgte. Medienorganisationen haben gefordert, das zur Zusammenfassung aktueller Nachrichten gedachte Tool auszusetzen, nachdem bekannt wurde, dass es für die Verbreitung gefälschter Schlagzeilen verantwortlich war.
Medienorganisationen fordern schnelles Handeln
Der Streit eskalierte, als das KI-Tool fälschlicherweise behauptete, BBC News habe Berichte über das Coming-out des Tennisspielers Rafael Nadal als schwul sowie eine vorzeitige Bekanntgabe des Siegers einer Dartmeisterschaft veröffentlicht. In beiden Fällen waren die Behauptungen völlig falsch.
Die BBC reichte eine formelle Beschwerde ein, nachdem von der KI generierte Warnungen fälschlicherweise behauptet hatten, Luigi Mangione, ein US-Amerikaner, der im Zusammenhang mit dem Tod des CEO von UnitedHealth Care wegen Mordes angeklagt ist, habe Suizid begangen – ein Vorfall, der nie stattgefunden hat. Im November verwies die KI außerdem fälschlicherweise auf The New York Times als Quelle eines Berichts über die Inhaftierung des israelischen Ministerpräsidenten Benjamin Netanyahu. Das wiederkehrende Muster der Verfälschung hat die Forderungen verstärkt, Apple solle die schwerwiegenden Schwächen seiner KI-Plattform beheben.
Sowohl die BBC als auch The New York Times betonten die Bedeutung einer zuverlässigen Nachrichtenberichterstattung, insbesondere wenn ihre renommierten Marken auf dem Spiel stehen. Eine BBC-Sprecherin forderte Apple auf, schnell Abhilfe zu schaffen, und warnte, solche Fehler könnten das Vertrauen der Öffentlichkeit erheblich untergraben.
Branchenführer fordern Aussetzung
Medienvertreter, darunter Reporter ohne Grenzen, haben sich den zunehmenden Forderungen angeschlossen, Apple solle die Nutzung des KI-Tools aussetzen, und verwiesen auf den beispiellosen Schaden, den es dem Vertrauen der Öffentlichkeit zufügen könnte. Alan Rusbridger, ehemaliger Chefredakteur von The Guardian, kritisierte das Tool im BBC Radio 4 und warnte vor ungeprüfter, von KI verbreiteter Desinformation und anderen Risiken künstlicher Intelligenz.
Rusbridger betonte, der Einsatz dieser Technologie sollte auf regulierte Umgebungen beschränkt werden, um die Verbreitung falscher Informationen in der Öffentlichkeit zu vermeiden. Apple reagierte mit einer Stellungnahme, in der das Unternehmen die Probleme einräumte und versprach, Aktualisierungen zu veröffentlichen, die klar erkennbar machen, dass die Zusammenfassungen von einer KI erstellt wurden. Ein Unternehmensvertreter versicherte den Nutzern, dass Verbesserungen bevorstünden, und forderte sie auf, problematische Benachrichtigungen zu melden.
„Die Intelligence-Funktionen von Apple befinden sich derzeit in der Betaphase, und wir verbessern sie kontinuierlich auf Grundlage des Feedbacks der Nutzer“, hieß es in der Stellungnahme. „Ein Softwareupdate, das in den nächsten Wochen erscheint, wird klarstellen, wann der angezeigte Text eine Zusammenfassung von Apple Intelligence ist. Wir bitten Nutzer, uns zu informieren, wenn sie eine ungewöhnliche Zusammenfassung in einer Benachrichtigung bemerken.“
Derzeit zeigen die Warnmeldungen deutlich die App-Logos von Nachrichtenorganisationen wie BBC News und The New York Times und erwecken dadurch den Eindruck, sie stammten direkt von diesen Quellen. Allerdings wird nirgends angegeben, dass die Informationen von Apples KI und nicht von der Nachrichtenorganisation selbst stammen.
Entdecken Sie unsere Liste der führenden Unternehmen, die den Bereich der KI prägen und neue Anwendungen für die Technologie in den verschiedensten Branchen entwickeln.