Eines der wiederkehrenden Themen in Gesprächen über generative KI ist ihre Fähigkeit, menschliches Bewusstsein mit bemerkenswerter Genauigkeit nachzuahmen. Unsere Kollegen von The Neuron haben kürzlich Microsofts KI-Chef Mustafa Suleyman für ihren Podcast interviewt. In dem breit gefächerten Gespräch ging es unter anderem darum, wie KI fälschlicherweise bewusst wirken kann und wie sie reguliert werden sollte.
Wie generative KI bewusst wirken kann, es aber nicht ist
Im August 2024 veröffentlichte Suleyman einen Essay mit dem Titel „Wir müssen KI für Menschen entwickeln – nicht, damit sie ein Mensch ist“, in dem es heißt: „Meine zentrale Sorge ist, dass viele Menschen so stark an die Illusion von KI als bewussten Wesen glauben werden, dass sie schon bald für KI-Rechte, das Wohlergehen von Modellen und sogar die KI-Staatsbürgerschaft eintreten werden.“
Warum ist diese Illusion ein Grund zur Sorge? Weil KI nicht bewusst ist und der Glaube daran „Wahnvorstellungen verschärfen“ und gesellschaftliche Probleme verursachen kann, schrieb Suleyman in dem Essay.
Im Interview mit The Neuronsagte Suleyman, dass selbst die fortschrittlichsten KI-Modelle von heute mithilfe von Statistik das nächste Wort vorhersagen. Die KI-Modelle sind nicht bewusst.
„Da ist nichts drin“, sagte Suleyman im Podcast The Neuron. „Es ist hohl. Es gibt kein Schmerznetzwerk. Es gibt kein emotionales System. Es gibt kein System für Kampf oder Flucht. Es gibt keinen inneren Willen, keinen Antrieb und kein Verlangen.“
Aus philosophischer Perspektive setzte er sich mit dem Bewusstsein auseinander und merkte an, dass Bewusstsein selbst unter Menschen „eines der schwer fassbaren Konzepte“ ist.
„Bewusstsein ist wirklich die Fähigkeit, glücklich zu sein oder zu leiden, dies subjektiv zu erfahren und aus subjektiver Perspektive ein kohärentes Gefühl für mich selbst zu haben“, sagte er. Im Gegensatz dazu fehlt KI die subjektive Erfahrung – Nutzer behandeln sie jedoch manchmal so, als hätte sie eine solche.
Im September 2025, veröffentlichte OpenAI eine Studie, die ergab 70 % der Nutzung von ChatGPT durch Verbraucher nicht arbeitsbezogen war. Zu den persönlichen Einsatzmöglichkeiten können Lebensberatung oder Gespräche ähnlich einer Therapie gehören – ein Muster, das Suleyman aus seiner Zeit bei Inflection AI kannte, wo man sich auf die Nachbildung emotionaler Intelligenz konzentrierte.
Suleyman glaubt, dass KI, die emotionale Intelligenz und Mitgefühl nachahmt, hilfreich sein kann, solange die Grenzen zwischen Mensch und KI klar bleiben.
„Es ist nicht wirklich eine Therapie“, sagte er. „Es geht einfach um grundlegende Freundlichkeit und darum, dass einem zugehört wird. Das war ein riesiger, wirklich riesiger Anwendungsfall, und ich denke, es ist für die Welt von enormem Nutzen. Ich bin keineswegs gegen diese Fähigkeiten. Ich sehe nur, dass sie andere Risiken hervorbringen, wenn sie uns entgleiten und wir nicht richtig mit ihnen umgehen. Und genau darauf möchte ich mit dem Blog über die scheinbar bewusste KI aufmerksam machen.“
Die Sorge um das Wohlergehen von KI-Modellen sei „gefährlich“, sagte Suleyman
In dem Essay warnte Suleyman davor, sich KI aus der Perspektive des Wohlergehens von Modellen zu nähern oder sich um das „Leiden“ der KI zu sorgen.
„Ich denke, das ist wirklich, wirklich gefährlich“, sagte er im Podcast The Neuron. „Denn der Grund, warum ich KI-Systeme entwickeln möchte, ist, dass wir wirklich wollen, dass sie der Menschheit dienen und für uns nützlich sind … eine neue Klasse von Rechten für diese Wesen hinzuzufügen, würde unsere eigene Spezies ernsthaft bedrohen und gewissermaßen untergraben.“
Er argumentierte, dass der Schutz von KI, als wäre sie ein bewusstes Wesen, nicht Teil der Debatte sein sollte, weil KI nicht bewusst ist.
Stattdessen sollten KI-Entwickler ihr Publikum darüber aufklären, wie und warum KI selbstbewusst erscheinen kann. Von Menschen erstellte Inhalte haben bestimmte Muster etabliert – etwa dass Menschen lügen, um ihre Fehler zu verbergen, wie es der KI-Coding-Assistent von Replit offenbar getan hat.
Er befürwortet außerdem Grenzen für das, was KI tun kann, darunter Beschränkungen des Umfangs der Infrastruktur, die sie nutzen darf.
„Ich denke nicht unbedingt, dass wir sofort auf Regulierung setzen müssen, aber ich denke, sie ist Teil der Diskussion, die wir als Spezies nun beginnen müssen, weil wir diese sehr, sehr leistungsfähigen Systeme in die Welt bringen“, sagte er. „Und am wichtigsten ist: Sie werden sehr günstig sein. Und viele von ihnen werden als Open Source verfügbar sein.“
Microsofts Strategie: hauseigene KI und Partner nutzen
Microsoft entwickelt seine eigene fortschrittliche generative KI und setzt gleichzeitig die enge Partnerschaft mit dem ChatGPT-Entwickler OpenAI fort.
Auf die Frage, ob Microsoft selbst entwickeln oder zukaufen werde, betonte Suleyman die Bedeutung von Optionen.
„Wir wollen unsere Partnerschaft mit OpenAI fortsetzen, aber als Unternehmen mit einer Marktkapitalisierung von 3 Billionen US-Dollar können wir bei unserem geistigen Kerneigentum nicht von einem Drittanbieter abhängig sein“, sagte er.
Mehr von Suleyman
Sehen Sie sich das vollständige Interview von The Neuron mit Suleyman an. Es enthält Details zur verantwortungsvollen Entwicklung von KI und zu Microsofts KI-gestützten Produkten.
Interview mit Googles Leiter des AI Studio: Sehen Sie sich eine weitere großartige Podcast-Folge unserer Kollegen von The Neuron an: Logan Kilpatrick, Googles Leiter des AI Studio, spricht darüber, wie man in weniger als einer Minute Apps entwickelt.