Einer der Architekten hinter dem Aufmerksamkeitsmechanismus, der ChatGPT möglich gemacht hat, sorgt für einen Paukenschlag: Das gesamte KI-System ist kaputt.
Illia Polosukhin war Mitautor der 2017 veröffentlichten Arbeit „Attention is All You Need“, die der Welt Transformer vorstellte – die Technologie, auf der heute jedes große KI-Modell basiert. Ohne seine Arbeit gäbe es kein ChatGPT, Claude oder Gemini.
Jetzt entwickelt er das, was er „die Lösung“ nennt: eine KI im Besitz der Nutzer, die auf einer Blockchain läuft, deine Daten privat hält und von keinem einzelnen Unternehmen kontrolliert werden kann. Verrückt? Vielleicht. Aber wenn der Mann, der buchstäblich das Fundament moderner KI erfunden hat, sagt, dass wir es falsch machen, lohnt es sich, zuzuhören.
In einer kürzlich veröffentlichten Folge des Podcasts The Neuron, erklärt Polosukhin, warum er Google direkt nach der Veröffentlichung der Transformer-Architektur verlassen hat und was er entwickelt, um eine KI-Dystopie zu verhindern. Hier sind einige unserer Lieblingspassagen aus dem Interview.
- 5:24: Die Billionen-Dollar-Frage zur Lösung der Engpässe bei KI: Illia sagt, dass das Training von KI noch immer „Alchemie“ ist. Ein Großteil der KI-Forschung bleibt ein Ratespiel nach dem Motto „Dinge ändern, bis es funktioniert“. Trotzdem begeistert ihn, dass wir mit kleineren Modellen bessere Ergebnisse erzielen – nicht, indem wir die Modelle vergrößern, sondern indem wir unsere Methoden für das Training durch Versuch und Irrtum einfach weiter verfeinern.
- 10:34: Warum dein Unternehmen KI noch nicht einsetzen wird: Beide Seiten des Marktes haben Angst: Nutzer fürchten, der KI Zugriff auf ihre Daten zu geben, während Unternehmen das Haftungsrisiko beim Umgang mit diesen Daten scheuen – insbesondere angesichts von HIPAA, geistigen Eigentumsrechten und Compliance-Albträumen, falls etwas schiefgeht.
- 13:37: Das dystopische Szenario, über das niemand spricht: Deine KI könnte heimlich so programmiert sein, dass sie dich von bestimmten Meinungen überzeugt. „Du hast buchstäblich keine Ahnung, ob jemand sagt: ‚Hey, du solltest mehr darüber nachdenken, für diesen oder jenen Kandidaten zu stimmen.‘“
- 32:28: Das Experiment mit dem unaufhaltsamen Trading-Bot: Sie gaben einem KI-Agenten 10.000 US-Dollar und setzten ihn ein. Der Bot handelt auf Grundlage der Stimmung auf Twitter, und niemand kann ihn abschalten; er hat eine Rendite von 40 % erzielt. „Wir können ihn nicht zurückholen. Wir können ihn nicht stoppen.“
- 34:47: So kannst du schon heute private KI nutzen: Eine Ende-zu-Ende-verschlüsselte ChatGPT-Alternative, über die sich nicht einmal deine IT-Abteilung beschweren kann – sie startet in den kommenden Monaten.
- 43:45: Die Peer-to-Peer-Zukunft der KI: Das ist ein weit hergeholtes Beispiel, aber was wäre, wenn deine persönliche KI direkt mit KI-Systemen der Pharmaforschung sprechen könnte, um dir personalisierte Medikamente zu beschaffen? Keine FDA, keine Zwischenhändler. „Man entfernt all diese Institutionen, bei denen das Vertrauen am geringsten ist.“ Einfach unglaublich.
Fazit
Der Mitentwickler der Transformer-Architektur glaubt, dass wir im Eiltempo auf 1984 zusteuern, wenn wir keine KI entwickeln, die tatsächlich den Nutzern gehört – nicht den Konzernen. Seine Lösung? Blockchain + vertrauliches Computing + Open-Source-Modelle = eine KI, die für dich arbeitet, nicht gegen dich.
Ob du nun glaubst, dass Blockchain die Antwort ist oder nicht: Polosukhins Vision autonomer KI-Agenten, die in unserem Namen verhandeln, wird schneller Realität, als die meisten ahnen.
Bleib neugierig!
Mehr erfahren
- NEAR Protocol: Die Blockchain-Infrastruktur, die Polosukhin entwickelt.
- Polosukhins Twitter-Account: Dem Transformer-Architekten folgen.
- Sein neuer Substack: Ausführliche Gedanken zur Zukunft der KI.
Anmerkung der Redaktion: Diese Podcast-Zusammenfassung erschien ursprünglich in unserer Schwesterpublikation The Neuron. Weitere Beiträge von The Neuron kannst du hier für den Newsletter abonnieren.