Anthropic hat Vorwürfe zurückgewiesen, das Unternehmen wolle, dass die US-Regierung KI-Modelle mit offenen Gewichten beschränkt. Ein solcher Schritt würde die größten Sorgen des Unternehmens um die nationale Sicherheit nicht lösen.
In einem am Montag veröffentlichten Blogbeitrag sagte Amodei: „Anthropic hat sich nie für ein Verbot von Modellen mit offenen Gewichten ausgesprochen.“ Damit wies er die Kritik zurück, das Unternehmen strebe Beschränkungen an, um seine eigenen geschlossenen KI-Produkte zu schützen.
Die Äußerungen erfolgten, nachdem mehr als 50 Technologieunternehmen einen offenen Brief unterstützt hatten, in dem politische Entscheidungsträger aufgefordert wurden, keine umfassenden Beschränkungen für Modelle mit offenen Gewichten zu verhängen. Unternehmen wie Nvidia, Microsoft und Meta unterzeichneten den Brief, während OpenAI später seine Unterstützung hinzufügte. Die Unterzeichner argumentierten, Systeme mit offenen Gewichten verbesserten Zugang, Wettbewerb und die Kontrolle der Kunden.
Anthropic unterzeichnete den Brief nicht, woraufhin einige Branchenkritiker dem Unternehmen vorwarfen, Beschränkungen zu befürworten, die chinesische KI-Konkurrenten benachteiligen könnten, die leistungsfähige Modelle mit offenen Gewichten veröffentlicht haben.
Warum Anthropic ein größeres Risiko in offenen Gewichten sieht
Amodei sagte, Modelle mit offenen Gewichten, die nicht über gefährliche Fähigkeiten verfügen, brächten der Öffentlichkeit Vorteile, weil Unternehmen, Entwickler und Forscher KI nutzen könnten, ohne für den Zugang über die zum Betrieb erforderlichen Rechenkosten hinaus zu bezahlen.
Allerdings sagte er blieben zwei große Risiken bestehen.
Das erste ist die Möglichkeit, dass autoritäre Regierungen KI-Systeme entwickeln könnten, die leistungsfähiger sind als die in den USA entwickelten, und sie nutzen könnten, um militärische Vorteile zu erlangen oder Überwachung und Repression im eigenen Land auszuweiten. Amodei sagte, diese Sorge beschränke sich nicht auf Modelle mit offenen Gewichten, da die gefährlichsten Systeme privat entwickelt und geheim gehalten werden könnten.
Die zweite Sorge betrifft den Missbrauch fortgeschrittener KI für Cyberangriffe, biologische Bedrohungen und andere schädliche Aktivitäten. Amodei argumentierte, dass Modelle mit offenen Gewichten zusätzliche Herausforderungen schaffen könnten, weil Entwickler Schutzvorkehrungen nicht ohne Weiteres anwenden oder überwachen könnten, wie die veröffentlichten Modellgewichte genutzt werden.
„Modelle mit offenen Gewichten – unabhängig davon, ob sie aus China oder von anderswo stammen – stellen potenziell ein höheres Risiko dar als geschlossene Modelle, weil es sehr schwierig ist, bei ihnen Schutzvorkehrungen anzuwenden oder ihre Nutzung zu überwachen. Und sobald die Gewichte veröffentlicht sind, können sie nicht zurückgezogen werden“, schrieb Amodei.
Was Anthropic stattdessen fordert
Statt Modelle mit offenen Gewichten zu verbieten, fordert Anthropic drei politische Maßnahmen. Das Unternehmen unterstützt strengere Beschränkungen für den Export fortgeschrittener KI-Chips und Anlagen zur Chipproduktion nach China. Zur Begründung führt es an, dass der Zugang zu Rechenleistung ein entscheidender Faktor beim Aufbau modernster KI-Systeme sei.
Das Unternehmen erklärt, dass Destillation im industriellen Maßstab konkurrierenden Entwicklern ermöglichen kann, Fähigkeiten führender Modelle mit deutlich geringerem Rechenaufwand nachzubilden. Amodei argumentierte, diese Praxis könne Wettbewerbern helfen, den Abstand zu führenden KI-Laboren zu verkürzen, ohne in dasselbe Maß an Rechenressourcen zu investieren.
Schließlich setzt sich Anthropic für verpflichtende Tests ausreichend leistungsfähiger KI-Modelle vor ihrer Veröffentlichung ein, um Cyber-, biologische und Alignment-Risiken zu prüfen – unabhängig davon, ob die Modelle offen oder geschlossen sind.
Eine politische Debatte über die Führungsrolle bei KI
Die Meinungsverschiedenheit verdeutlicht die wachsende Kluft darüber, wie politische Entscheidungsträger KI-Innovation, Wettbewerb, nationale Sicherheit und Sicherheitsbedenken gegeneinander abwägen sollten. Befürworter von Modellen mit offenen Gewichten sagen, eine Beschränkung des Zugangs könnte Start-ups, Forschern und Unternehmen schaden, die auf flexible KI-Werkzeuge angewiesen sind. Kritiker argumentieren, uneingeschränkter Zugang könnte es erschweren, Missbrauch zu verhindern.
Amodei sagte, einige Fragen zu offenen Modellen sollten durch Tests statt durch Annahmen geklärt werden. Er stimmte außerdem Teilen des Branchenbriefs zu, darunter der Einschätzung, dass offene Modelle Zugang und Wettbewerb fördern können. Er widersprach jedoch dem Argument, ein breiterer Zugang helfe automatisch den Verteidigern mehr als den Angreifern.
Die Herausforderung für politische Entscheidungsträger besteht darin, einen Mittelweg zu finden. Strenge Beschränkungen könnten legitime Forschung verlangsamen und Start-ups schaden, die auf offene Modelle angewiesen sind, während das Ignorieren potenzieller Risiken eine Reaktion erschweren könnte, sobald sich gefährliche Fähigkeiten verbreitet haben.
Mehr dazu: das neue Kimi-K3-Modell von Moonshot AI zeigt, wie chinesische Entwickler im Wettlauf um KI mit offenen Gewichten Fortschritte machen.