Vergiss, dass dein Job ersetzt wird … Sam Altman fragt sich, ob die KI vielleicht ihn.
Bei einer Live-Aufzeichnung von Conversations with Tyler während der Progress Conference sprach der OpenAI-CEO über mehrere Themen – unter anderem darüber, dass die Zukunft der Intelligenz nicht nur durch einen Chipmangel ausgebremst wird, sondern auch durch Stromnetze, skeptische Investoren und die hartnäckige Vorliebe der Gesellschaft für ein menschliches Gesicht.
Dann führte er den Gedanken zu seinem logischen Extrem: Was passiert, wenn Menschen überhaupt nicht mehr gebraucht werden? Und könnte er eines Tages ersetzt werden?
„Schande über mich, wenn OpenAI nicht das erste große Unternehmen ist, das von einem KI-CEO geführt wird“, sagte Altman und dachte darüber nach, von seiner eigenen Schöpfung übertroffen zu werden.
Altman nannte es ein „sehr interessantes Gedankenexperiment darüber, was geschehen müsste, damit ein KI-CEO OpenAI sehr, sehr viel besser führen könnte als ich – was eindeutig eines Tages passieren wird“. Die Frage sei, sagte er, „wie können wir das beschleunigen?“
Während die Welt über den Verlust von Arbeitsplätzen durch Automatisierung debattiert, scheint der Mann an der Spitze eines der mächtigsten KI-Unternehmen mit dem Gedanken leben zu können, dass sogar seine eigene Position automatisiert werden könnte.
Der Countdown zum KI-geführten Arbeitsplatz
Auf die Frage, wie bald KIs größtenteils eine einzelne Abteilung von OpenAI führen könnten, wich Altman nicht aus. „Eine kleine einstellige Zahl von Jahren, nicht mehr allzu weit entfernt“, sagte Altman. Das sind keine Jahrzehnte, möglicherweise geschieht es noch in diesem Jahrzehnt.
Er räumte ein, dass die Gesellschaft hinter der Technologie zurückbleiben könnte.
„Die Menschen haben ein sehr viel größeres Vertrauen in andere Menschen als in eine KI, selbst wenn sie das nicht sollten, selbst wenn es irrational ist“, sagte er. „Der KI-Arzt ist besser, aber man will den Menschen.“
Diese Vertrauenslücke könnte die Akzeptanz verlangsamen, so merkte er an, selbst wenn Maschinen kompetenter werden. „Es könnte sehr viel länger dauern, bis die Gesellschaft sich damit wirklich wohlfühlt und die Menschen in der Organisation sich damit wirklich wohlfühlen“, fügte er hinzu.
KI-Überzeugungskraft: Die unbeabsichtigte Übernahme
Während viele sich wegen des absichtlichen Missbrauchs von KI sorgen, sagte Altman, seine größere Befürchtung sei unbeabsichtigte Überzeugungskraft – dass KI-Systeme die öffentliche Meinung unabsichtlich beeinflussen.
„Es gibt diese andere Kategorie, eine dritte Kategorie, über die sehr wenig gesprochen wird und die meiner Meinung nach viel beängstigender und interessanter ist: dass KI-Modelle versehentlich die Welt übernehmen“, sagte er seinem Gastgeber Tyler Cowen.
„Es ist nicht so, dass sie bei dir eine Psychose auslösen werden … sie überzeugen dich einfach ganz subtil von etwas. Keine Absicht, sie tun es einfach.“
Er warnte, dass KI, während sie aus menschlichen Interaktionen lernt, ohne jede böswillige Absicht allmählich Meinungen und Verhaltensweisen beeinflussen könnte. „Glaube niemals, wirklich niemals, dass Propaganda bei dir nicht funktioniert. Sie haben nur noch nicht das Richtige für dich gefunden“, erinnerte er sich an die Worte einer Person.
Altman sprach außerdem über den jüngsten Gegenwind, dem er online ausgesetzt war, nachdem er angekündigt hatte, dass ChatGPT Erwachsenen mehr Freiheit beim Ausdruck ihrer Meinung ermöglichen werde.
„Ein für mich sehr wichtiges Prinzip ist, dass wir unsere erwachsenen Nutzer wie Erwachsene behandeln und dass Menschen ein sehr hohes Maß an Privatsphäre bei ihrer KI haben“, sagte er. Er merkte jedoch an, dass nicht alle seine Ansicht teilten. „Vielleicht glauben die Menschen nicht so sehr an Meinungsfreiheit, wie sie behaupten.“
Als Cowen fragte, ob die Amerikaner KI-Unternehmen ebenso sehr vertrauen wie Ärzten oder Anwälten, antwortete Altman schlicht: „Nach ihren tatsächlich gezeigten Präferenzen: ja.“
Jenseits der Philosophie äußerte sich Altman pragmatisch zu den materiellen Grenzen der KI. Auf die Frage, was mehr Rechenleistung tatsächlich zurückhalte, sagte er: „Elektronen.“
„Kurzfristig Erdgas“, sagte er auf die Nachfrage, wie sich der Energieengpass lindern lasse. „Langfristig wird er meiner Überzeugung nach von Fusion und Solarenergie dominiert werden.“
Die Grenzen der Reichweite von KI
Trotz seines Optimismus hinsichtlich der Rolle der KI in der Arbeitswelt, Wissenschaft und Gesellschaft räumte Altman ein, dass es Bereiche gibt, in denen die Technologie Probleme nicht ohne Weiteres lösen wird – insbesondere beim Wohnungsbau.
„Der Wohnungsbau ist für mich der Bereich, der einfach extrem schwierig aussieht“, sagte er. „Es könnte sehr seltsame Effekte zweiter Ordnung geben, bei denen die Immobilienpreise deutlich sinken. Aber leider glaube ich nicht, dass KI in absehbarer Zeit einen direkten Ansatz zur Lösung des Problems hat.“
Bei Gesundheit und Wissenschaft ist er hoffnungsvoller. GPT-6 könnte, sagte er, einen Durchbruch in der Forschung markieren.
„Es besteht die Chance, dass GPT-6 ein Sprung wie von GPT-3 zu GPT-4 sein wird … bei GPT-5 gibt es diese winzigen Lichtblicke, und GPT-6 kann es wirklich schaffen“, sagte er Cowen.
Altman gab außerdem einen Vorgeschmack auf OpenAIs Zusammenarbeit mit dem Designer Jony Ive zum Bau dessen, was er als „eine neue Art von Computer mit einer völlig neuen Art von Benutzeroberfläche, die für KI gedacht ist“ bezeichnete.
„KI verändert den Möglichkeitsraum auf verrückte Weise“, sagte er. „Viele der grundlegenden Annahmen darüber, wie man einen Computer benutzt … werden jetzt infrage gestellt.“
In einem separaten Interview im vergangenen Monat enthüllte Altman OpenAIs Plan, KI-Forscher bis 2028 vollständig zu automatisieren.