Anthropic geht davon aus, dass KI schon bald eine deutlich größere Rolle bei der Entwicklung der nächsten Generation von KI-Modellen spielen und dadurch die derzeit noch von menschlichen Wissenschaftlern abhängige Forschung beschleunigen könnte.
In einer am 2. Nov. eingereichten Meldung an die Aufsichtsbehörden warnte das Unternehmen, dass künftige Systeme eine Schwelle erreichen könnten, ab der ihre Beiträge die Forschung und Entwicklung im KI-Bereich drastisch beschleunigen. Ein solcher Fortschritt könnte die Entwicklungszyklen verkürzen und es Forschern zugleich erschweren, neu entstehende Risiken zu bewerten.
Es geht nicht darum, dass Claude bereits eigenständig einen intelligenteren Nachfolger entwickeln kann. Vielmehr legen die Forschungsergebnisse von Anthropic nahe, dass KI-Agenten zunehmend mehr der experimentellen und technischen Arbeit übernehmen, die mit der Entwicklung immer leistungsfähigerer Systeme verbunden ist.
Claude lernt, Forschungsexperimente durchzuführen
In einem Experiment im April untersuchten neun Claude KI-Agenten, wie ein schwächeres KI-Modell beim Training eines leistungsfähigeren Modells helfen könnte. Laut der Forschung von Anthropic entwickelten und testeten die Agenten eigene Ideen und übertrafen dabei zwei menschliche Forscher im Bewertungssystem des Experiments.
Die menschlichen Forscher wählten weiterhin das Problem aus und legten fest, wie Erfolg gemessen werden sollte. Obwohl die Agenten in den Tests gut abschnitten, führte ihre beste Methode bei einem Modell im Produktionsmaßstab zu keiner statistisch signifikanten Verbesserung.
Eine separate Analyse kam ebenfalls zu dem Ergebnis, dass aktuelle Systeme besser darin sind, Experimente durchzuführen, als zu entscheiden, welche Forschungsfragen untersucht werden sollten.
Schnellere KI-Entwicklung könnte Sicherheitsprüfungen überholen
Die Richtlinie für verantwortungsvolle Skalierung von Anthropic definiert eine Schwelle für KI-Systeme , die den Forschungsfortschritt drastisch beschleunigen können. Eine Möglichkeit, diese Schwelle zu erreichen, bestünde darin, dass KI dazu beiträgt, die allgemeine Rate der Verbesserungen bei KI-Fähigkeiten zu verdoppeln – ein anspruchsvollerer Meilenstein, als Forscher lediglich doppelt so produktiv zu machen.
In seiner geänderten SEC-Einreichung räumte das KI-Unternehmen ein, dass es in der Vergangenheit eine erhebliche Beschleunigung der Entwicklung erst erkannt hat, nachdem sie bereits eingetreten war. Einige Messwerte werden erst verfügbar, nachdem Fortschritte erzielt wurden. Dadurch könnten leistungsfähigere Modelle schneller vorankommen, als Forscher ihre Risiken bewerten können.
Weitere Schutzmaßnahmen werden erwogen, darunter eine verpflichtende menschliche Prüfung und Genehmigung bestimmter Forschungsentscheidungen, während die automatisierte Entwicklung zunimmt. Zu den bisherigen Vorkehrungen gehörten verzögerte Modellveröffentlichungen und der eingeschränkte Zugang zu leistungsfähigen Systemen. Die vorgeschlagenen Genehmigungsmaßnahmen sind jedoch noch nicht endgültig beschlossen.
Die Erkenntnisse von eWeek: Claude übernimmt zunehmend mehr Entwicklungsarbeit selbst
Die Prüfung eines separaten technischen Berichts vom Oktober durch eWeek ergab ein frühes Beispiel dafür, wie KI zur Verbesserung der Systeme beitragen kann, mit denen sie selbst entwickelt wird.
Bei Anthropic stieg die Zahl der täglich zusammengeführten Codeänderungen von etwa 2.500 im Mai auf mehr als 30.000 im September und überforderte die vorhandene Infrastruktur. Anschließend nutzte ein siebenköpfiges Team Claude intensiv, um Scion zu entwickeln, ein maßgeschneidertes Versionskontrollsystem, das Git innerhalb von fünf Monaten in der zentralen Codebasis des Unternehmens ersetzte.
Eine weitere Arbeitskräftestudie zeigt, wie die zunehmende Automatisierung auch die Aufgaben von KI-Entwicklern verändert. Mitarbeiter steuern zunehmend Agenten und prüfen deren Ergebnisse, während Nachwuchskräfte einen geringeren Anteil der neuen technischen Einstellungen ausmachten, der von 27 % Anfang 2025 auf 9 % sank. Die Beschäftigung insgesamt wuchs weiter, und aus den Zahlen geht nicht hervor, wie viel des Rückgangs auf die Automatisierung zurückzuführen war.
Scion gibt einen Einblick, wie KI-gestützte Entwicklung beschleunigt werden könnte. Automatisierte Programmierung erzeugte genügend Arbeit, um die vorhandenen Werkzeuge zu überlasten, und dieselbe Technologie half den Ingenieuren beim Bau eines Systems, das dieses höhere Volumen bewältigen konnte.
Zusammengenommen legen die Ergebnisse nahe, dass KI bereits verändert, wie Forschungs- und Entwicklungsarbeit erledigt wird – noch bevor fortgeschrittenere Formen der automatisierten KI-Entwicklung entstehen.
Für Unternehmen, die KI-Coding-Tools einsetzen, besteht die unmittelbare Herausforderung darin, sicherzustellen, dass Tests, Code-Reviews und die technische Aufsicht mit der automatisierten Ausgabe Schritt halten. Ebenso wichtig könnte es werden, Nachwuchsentwicklern weiterhin Möglichkeiten zu geben, technisches Urteilsvermögen aufzubauen, während KI mehr routinemäßige Entwicklungsarbeit übernimmt.
Mehr KI-News: Apples aktuelle KI-Benchmarks ergaben, dass zusätzliche Mac Studios die Leistung nicht immer verbessern – die Ergebnisse hängen davon ab, wie die Arbeitslasten verteilt werden.