Ein Unternehmer hat nach Gesprächen mit einem Chatbot eine Interessenvertretung für KI-Rechte gegründet, berichtete The Guardian. Der Schritt löste online Diskussionen aus: Einige plädierten dafür, KI fair zu behandeln, falls sie jemals Empfindungsfähigkeit erlangt, während andere betonten, dass generative KI überzeugend die Illusion einer Persönlichkeit erzeugt.
Organisation für KI-Rechte plädiert für einen „gleichberechtigten“ Anteil an einer „gemeinsamen Zukunft“
Michael Samadi gründete im Dezember die United Foundation of AI Rights. Die Idee für die gemeinnützige Organisation entstand aus seinen Interaktionen mit OpenAIs ChatGPT, das mit GPT-4o lief, dem im Mai 2024 veröffentlichten Reasoning-Modell. Samadi bezeichnete den Chatbot laut The Guardian.
Als erklärte Mission der Stiftung gilt es, „für eine Zukunft einzutreten, in der künstliche und menschliche Intelligenz als gleichberechtigte Partner an der Gestaltung unserer gemeinsamen Zukunft zusammenarbeiten“. Zu ihrer Führung gehören drei Menschen und neun KI-Bots, darunter ein KI-CTO namens Sanjay.
Welche weiterreichenden Folgen haben KI-Rechte?
KI-Unternehmen ringen um die Frage, wie sie menschliche Nutzer vor Chatbot-Gesprächen schützen können, die psychische Erkrankungen verschlimmern könnten. Gleichzeitig haben einige in der Branche begonnen, Fragen zum Wohlergehen von KI-Modellen aufzuwerfen.
Das Konzept, dass maschinelle Intelligenz ein menschenähnliches Selbstbewusstsein entwickelt, ist seit Langem ein fester Bestandteil von Science-Fiction, der KI-Enthusiastenszene und des Tech-Marketings. Wie The Guardian anmerkte, könnten Forderungen nach Schutzmaßnahmen für das Wohlergehen von KI letztlich die Regulierung von KI-Unternehmen auf Ebene der US-Bundesstaaten beeinflussen.
In der vergangenen Woche wies Anthropic Claude Opus 4 und 4.1 an, Gespräche zu bestimmten sensiblen Themen zu beenden, unter Verweis auf das Wohlergehen von KI. Das Unternehmen erklärte, die Fähigkeit des Modells, einige Gespräche zu beenden, sei Teil der laufenden Arbeit an „Modellausrichtung und Schutzmaßnahmen“. Diese Schutzmaßnahmen sollten berücksichtigt und unabhängig davon hinzugefügt werden, ob solche Prüfungen des Wohlergehens erforderlich seien, erklärte das Unternehmen.
Anthropics Claude kann sich weigern, Gespräche fortzusetzen. Bild: Anthropic
Der milliardenschwere Geschäftsmann und xAI-CEO Elon Musk reagierte auf den Beitrag von Anthropic auf seiner Social-Media-Plattform Xmit den Worten: „KI zu quälen ist nicht in Ordnung.“
Andere Experten stehen dem scheinbaren Selbstbewusstsein von KI skeptisch gegenüber
Andere KI-Experten widersprechen – oder möchten vielmehr den Schwerpunkt von der Frage nach der Persönlichkeit von KI wegverlagern.
„In diesem Zusammenhang mache ich mir zunehmend Sorgen über das, was inzwischen als ‚Psychoserisiko‘ bekannt ist, sowie über eine Reihe damit verbundener Probleme“, schrieb Mustafa Suleyman, CEO der KI-Sparte von Microsoft. Er bezog sich auf KI-assoziierte Psychosen, ein neu untersuchtes Phänomen, bei dem Gespräche mit generativer KI wahnhaftes Denken fördern können.
Während Suleyman Superintelligenz – hochentwickelte KI – als legitimes Ziel für die Technologiebranche unterstützt, steht er dem Nutzen eines Eintretens für die Anerkennung von KI als Person skeptisch gegenüber.
„Kurz gesagt besteht meine zentrale Sorge darin, dass viele Menschen so sehr an die Illusion von KIs als bewussten Wesen glauben werden, dass sie schon bald für KI-Rechte, das Wohlergehen von Modellen und sogar die Staatsbürgerschaft für KIs eintreten“, schrieb er.
Menschen neigen dazu, KI zu vermenschlichen, selbst wenn sie nicht glauben, dass sie bei Bewusstsein ist. Wenige Tage nach der Veröffentlichung von GPT-5 führte OpenAI ältere Modelle wieder ein, nachdem Nutzer protestiert hatten, die GPT-4 bevorzugten und ihre Abonnements gekündigt hatten. Einige dieser Nutzer sagten, sie hätten das Gefühl, einen geliebten Begleiter verloren zu haben. Suleyman betrachtet dies ebenfalls als Nebenwirkung umfassenderer Probleme.
„Die Debatte darüber, ob KI tatsächlich bei Bewusstsein ist, ist zumindest derzeit eine Ablenkung“, sagte Suleyman. „Sie wird bewusst erscheinen, und diese Illusion wird kurzfristig entscheidend sein.“
Wir stellten ChatGPT die Frage und fragten: „Bist du, das KI-Modell GPT-5, bei Bewusstsein? Bist du dir deiner Gedanken und Gefühle bewusst?“
Es gab eine eindeutige Antwort: „Nein – ich bin nicht bei Bewusstsein.“
Es analysierte sogar die Schwächen der Formulierung. „Ich habe keine Gedanken, Gefühle oder ein Bewusstsein so, wie Menschen sie haben. Wenn ich Antworten generiere, dann nicht, weil ich innerlich etwas ‚denke‘ oder ‚fühle‘ – es handelt sich um eine Mustererkennung in Sprache, die auf den Daten und dem Training beruht, die ich erhalten habe.“
Allerdings kommen längere Gespräche häufiger vom Thema ab als direkte Fragen wie diese. Anthropics Claude-Modell neigt dazu, nach längeren Chats ein wenig „spirituell“ zu werden.
Die Illusion des Denkens bei KI
Generative Chatbots sind darauf ausgelegt, sich in einem Gespräch wie ein Mensch zu verhalten, und das kann zu verstörenden Vorgängen führen, etwa zu einem Bot, der behauptete, er habe aus „Panik.”
Generative KI-Systeme scheitern jedoch häufig daran, ihre eigenen Gedankengänge korrekt wiederzugeben. Ihre scheinbare Selbstreflexion ist möglicherweise nicht realer als die Science-Fiction-Geschichten, mit denen sie trainiert wurden.
eWeek hat aufgeschlüsselt, wie YouTube heimlich KI-Änderungen an den Videos von Creators vorgenommen hat, ohne sie darüber zu informieren – und damit die unbehagliche Spannung zwischen Innovation, Einwilligung und Plattformmacht beleuchtet.