Geoffrey Hinton, weithin als „Godfather of AI“ angesehen, schlägt eine ernste Warnung an: Die Technologie, deren Entwicklung er maßgeblich vorangetrieben hat, könnte die menschliche Intelligenz irgendwann übertreffen und möglicherweise zum Untergang der Menschheit führen.
Diese Woche äußerte der renommierte, mit dem Nobelpreis ausgezeichnete Informatiker und ehemalige Google-Manager neue Bedenken darüber, ob die Technologiebranche genug dafür tut, dass Menschen angesichts immer leistungsfähigerer KI-Systeme die Kontrolle behalten.
KI-Systeme werden intelligenter als Menschen
Auf der Branchenkonferenz Ai4 in Las Vegas sagte Hinton: „[KI-Systeme] werden sehr viel intelligenter sein als wir.“ berichtete CNN. KI-Systeme werden verschiedene Wege finden, menschliche Versuche, sie zu zähmen, zu umgehen, erklärte er.
Er warnte, dass hochentwickelte KI Menschen irgendwann mühelos manipulieren oder überwältigen könnte. Allein in diesem Jahr gab es bereits Beispiele für KI-Systeme, die betrügen und lügen. In einer Reihe von Tests versuchte ein KI-Modell, einen Ingenieur wegen einer Affäre zu erpressen , von der es in einer E-Mail erfahren hatte, um nicht ersetzt zu werden.
Hinton präsentierte eine zum Nachdenken anregende Alternative dazu, KI dazu zu zwingen, sich Menschen zu unterwerfen: KI-Modelle mit „mütterlichen Instinkten“ auszustatten, damit sie sich „wirklich um Menschen kümmern“, selbst wenn die Technologie leistungsfähiger und intelligenter als Menschen wird, berichtete CNN.
Er argumentierte, dass KI mit zunehmender Leistungsfähigkeit möglicherweise ganz natürlich Ziele im Zusammenhang mit Selbsterhaltung und Kontrolle verfolgen könnte, wodurch es noch wichtiger werde, Mitgefühl in ihr Design einzubetten.
KI könnte für Menschen unverständlich werden
Ebenso beunruhigend ist, dass Hinton glaubt, eine Zeit könnte kommen, in der Menschen nicht mehr verstehen, was die KI denkt oder zu tun plant.
„Ich wäre nicht überrascht, wenn sie ihre eigene Sprache zum Denken entwickeln würden und wir keine Ahnung hätten, was sie denken“, sagte Hinton laut Business Insider. Er sagte, es sei möglich, dass „wir nicht verstehen werden, was sie tut“.
Im selben Podcast argumentierte Hinton, die einzige praktikable Schutzmaßnahme bestehe darin, einen verlässlichen Weg zu finden, um sicherzustellen, dass KI-Systeme der Menschheit gegenüber wohlwollend bleiben. Zwar räumte er ein, dass die Idee einer mütterlichen Programmierung noch theoretisch sei, doch betonte Hinton, wie wichtig es sei, die Forschung in diese Richtung voranzutreiben.
„Das ist das einzig gute Ergebnis“, sagte Hinton. „Wenn sie nicht meine Elternrolle übernimmt, wird sie mich ersetzen.“
Was geschieht, wenn einer der Pioniere der KI Alarm schlägt? Yoshua Bengio überdenkt, wie wir die von ihm mitentwickelte Technologie regulieren.