Metas neue Leiterin der KI-Forschung sagt, der nächste große Meilenstein bei KI werde in Agenten bestehen, die in der realen Welt nützliche Arbeit erledigen können.
Dawn Song, Metas neue Vizepräsidentin für KI-Forschung, sagte der South China Morning Post, KI-Agenten sollten Menschen dabei helfen, in wichtigen Bereichen der realen Welt „wirtschaftlich wertvolle“ Arbeit zu erledigen. Ihre Äußerungen fallen in eine Zeit, in der Forschende testen, ob Agenten komplexe Aufgaben wie das Bearbeiten von Videos, die Auswertung medizinischer Scans oder Arbeiten im Bereich Cybersicherheit zuverlässig erledigen können, statt nur auf Eingabeaufforderungen zu antworten.
Für Unternehmen, die den Wettlauf um Agenten beobachten, wird die Frage zunehmend praktischer: Können diese Systeme Arbeit mit echtem geschäftlichem Wert bewältigen, oder sind sie für Einsätze mit hohen Risiken noch zu unzuverlässig?
Dawn Song verstärkt Metas KI-Forschungsteam
Song äußerte sich am Rande des Weltwirtschaftsforums in Dalian, das auch als Summer Davos bekannt ist, wenige Tage bevor sie zu Meta wechselte. Sie ist Professorin für Informatik an der University of California, Berkeley, Co-Direktorin des Centre for Responsible, Decentralised Intelligence der Universität und Mitgründerin des Start-ups für KI-Sicherheit im Unternehmensbereich Virtue AI.
„Das Ziel besteht nicht darin, Menschen zu ersetzen. Aber wir wollen, dass diese KI-Agenten in diesen wichtigen Bereichen der realen Welt effektiver sind, Menschen dabei helfen, diese Arbeit besser zu erledigen, und mehr wirtschaftlichen Wert schaffen“, sagte Song der South China Morning Post (SCMP).
Song schrieb auf X, dass sie und „viele Mitglieder des Virtue-AI-Teams“ zu Metas Superintelligence Labs, wo sie an der Gestaltung der Bemühungen des Unternehmens um KI-Sicherheit und Schutz beitragen werde.
Ihr Wechsel erfolgt zu einem Zeitpunkt, an dem große KI-Unternehmen Agenten zunehmend Aufmerksamkeit widmen – Systemen, die Aufgaben planen, Werkzeuge nutzen, Software bedienen und mehrstufige Arbeit mit weniger direkter menschlicher Unterstützung als ein Chatbot erledigen können.
Agenten müssen einen härteren Test bestehen
Songs Äußerungen verweisen auch auf eine größere Debatte darüber, wie KI-Agenten bewertet werden sollten.
Anfang dieses Monats stellte Berkeley RDI Agents’ Last Exam vor, einen Benchmark, der Agenten anhand langer, wirtschaftlich nützlicher Aufgaben testen soll, statt anhand abstrakter Ersatzprobleme.
Laut Lets Data Sciencedeckt Agents’ Last Exam 55 Teilbranchen ab und umfasst mehr als 1.500 Aufgaben, mit dem längerfristigen Ziel von 5.000 Aufgaben. Der Benchmark lässt Agenten in realen Sandboxes von Betriebssystemen laufen und bewertet ihre fertigen Arbeitsergebnisse mithilfe deterministischer Prüfer.
Der Benchmark umfasst Aufgaben wie die Nutzung von Videoschnittsoftware, um aus Rohclips ein Video zu erstellen, oder die Bewertung der Qualität einer Gehirn-MRT-Aufnahme. Song sagte der SCMP, die Tests seien darauf ausgelegt, „wirklich anspruchsvoll“ zu sein, was erklärt, warum selbst führende Systeme weiterhin Schwierigkeiten haben.
Die SCMP berichtete, dass OpenAIs GPT-5.5 zusammen mit dem Codex-Harness den Benchmark mit einer Bestehensquote von 24,3 % anführte. Anthropics Claude Fable 5 belegte mit einem Claude-Code-Harness und einer Bestehensquote von 22 % den dritten Platz. Unter den getesteten chinesischen Modellen erzielte ByteDances Seed2.1 Pro mit 19,5 % die höchste Bestehensquote.
Nützliche Agenten sind noch in der Entwicklung
Die schwierigsten Teile des Benchmarks zeigen die Lücke zwischen dem Hype um Agenten und ihrer verlässlichen Leistung.
Song sagte, dass fast jeder getestete Frontier-Agent in der schwierigsten Stufe von ALE 0 % erreichte, während GPT-5.5 auf 2,6 % kam.
Agenten werden oft als der nächste große Schritt für KI-Produkte beschrieben, weil von ihnen erwartet wird, mehr zu tun, als Fragen zu beantworten. Sie sind darauf ausgelegt, Werkzeuge zu nutzen, sich in Softwareumgebungen zurechtzufinden, Kontext zu behalten und Arbeit mit weniger direkter menschlicher Anleitung zu erledigen.
Niedrige Bestehensquoten deuten darauf hin, dass sich die heutigen Agenten zwar verbessern, bei vielen professionellen Aufgaben aber noch weit von zuverlässiger Leistung entfernt sind. Für Unternehmen, die den Einsatz von Agenten in der Cybersicherheit, Softwareentwicklung, Medienproduktion, Gesundheitsanalyse oder anderen Arbeitsbereichen mit hohen Risiken prüfen, können Fehler weiterhin kostspielig sein.
Song warnte außerdem, dass KI eine Technologie mit doppeltem Verwendungszweck sei, insbesondere beim Programmieren und in der Cybersicherheit. Laut SCMP sagte sie, Führungskräfte und politische Entscheidungsträger sollten ihre Cyberabwehr verbessern, da leistungsfähigere Modelle mit offenen Gewichtungen verfügbar werden.
KI-Agenten sind nicht bereit, große Teile des Arbeitsplatzes eigenständig zu übernehmen.
Vorerst wird die nächste Phase des Wettlaufs an etwas Praktischerem als flüssigen Antworten gemessen werden: daran, ob Agenten nützliche Arbeit sicher und zuverlässig abschließen können.
Weiterführende Lektüre: Erfahren Sie mit unserem mehr darüber, was agentische KI bedeutet, wie KI-Agenten Werkzeuge nutzen und wo die größten Risiken liegen.