Du weißt doch, wie du und ich jemandem im Grunde einmal bei etwas zusehen und es zumindest versuchen können, selbst wenn wir uns dabei ziemlich dämlich anstellen? Tja, jetzt können Roboter das auch!
Gestern, argumentierte Rich Sutton dass der nächste große Sprung bei der KI nicht daherkommen wird, dass man Modelle mit noch mehr von Menschen erzeugten Daten vollstopft. Er wird von Agenten kommen, die weiter aus der Welt lernen, in der sie tatsächlich eingesetzt werden. Weniger als 24 Stunden später veröffentlichte Generalist GEN-1.5, ein Robotermodell, das diese Idee deutlich weniger theoretisch erscheinen lässt.
Das ist passiert
GEN-1.5 kann einer einzigen 3–12 Sekunden langen physischen Demonstration zusehen und die neue Aufgabe sofort ausprobieren. Generalist nennt das „Physical Prompting“: Die Demonstration befindet sich im 30-Sekunden-Kontextfenster des Roboters – ganz ohne Gradientenaktualisierungen.
- Bei 10 einfachen Aufgaben erreichte eine einzige Demonstration im Durchschnitt eine Erfolgsquote von 59 %; 10 Gewichtsaktualisierungen anhand von fünf Minuten Daten steigerten sie auf 83 %.
- Es kann einige Demonstrationen mit menschlichen Händennachahmen, simulierte Demonstrationen auf einem echten Roboter nutzen, zwei physische Prompts kombinieren und mit unbekannten Werkzeugen improvisieren.
- Die Anpassung eines Roboters konnte bisher Zehntausende Gradienten-Schritte dauern. Laut Generalist veränderten 10 Schritte die Gewichte von GEN-1.5 um weniger als 0,15 %.
Unsere Einschätzung
Das ist aus zwei Gründen wichtig. Erstens verändert sich die Schnittstelle: Man programmiert einen Roboter nicht mehr, sondern zeigt es ihm. Zweitens beginnt es, Suttons These von der „Big World“ greifbar zu machen: Die Welt ist weitaus größer als jeder statische Trainingsdatensatz. Nützliche Intelligenz muss also weiter aus allem lernen, auf das sie jetzt trifft.
Es gibt einen wichtigen Unterschied, der Sutton interessieren dürfte: Der One-Shot-Trick von GEN-1.5 ist In-Context-Lernen und kein dauerhaftes Lernen. Seine Gewichte verändern sich nicht. Der Few-Shot-Modus, in dem GEN-1.5 seine Gewichte in 1–10 Schritten aktualisiert, kommt Suttons Vorstellung vom kontinuierlichen Lernen tatsächlich näher.
Die entscheidende Zahl ist vielleicht nicht 59 %. Vielleicht ist es die Menge an neuer Erfahrung, die erforderlich ist, um diesen Wert zu erreichen.
Nach acht Monaten breit angelegten physischen Vortrainings kann GEN-1.5 laut Generalist aus einer nur wenige Sekunden langen Demonstration nützliches Verhalten ableiten. Das Unternehmen beschreibt diese Anpassung als weniger etwas völlig Neues beizubringen und eher als Erinnerung an etwas, das es beinahe schon kann.
Die größere Bewährungsprobe steht als Nächstes an. Wenn Systeme wie GEN-1.5 diese neu erworbenen Fähigkeiten dauerhaft verankern, im Laufe der Zeit auf ihnen aufbauen und vermeiden können, bereits Gelerntes zu vergessen, erscheint Suttons Vision von Maschinen, die kontinuierlich aus der Welt um sie herum lernen, deutlich weniger theoretisch.
Anmerkung der Redaktion: Dieser Artikel erschien ursprünglich in unserer Schwesterpublikation, The Neuron.