Google hat seine Gemma-KI-Familie mit der Einführung von Gemma 3 270M erweitert, einem leichten Modell mit 270 Millionen Parametern, das für Entwickler konzipiert wurde, die schnelles, aufgabenspezifisches Fine-Tuning ohne hohe Hardwareanforderungen benötigen.
Die Ankündigung folgt auf eine Reihe neuer Veröffentlichungen aus der Gemma-3-Reihe, darunter Gemma 3 QAT und das für Mobilgeräte entwickelte Gemma 3n. Google zufolge wurden Modelle aus dem „Gemmaverse“ inzwischen mehr als 200 Millionen Mal heruntergeladen.
Das bislang energieeffizienteste Gemma-Modell
Gemma 3 270M verfügt über eine ungewöhnliche Architektur: 170 Millionen Parameter sind einem riesigen Vokabular mit 256.000 Token gewidmet, während 100 Millionen Parameter seine Transformer-Blöcke antreiben.
Google zufolge macht das Design des Modells es zu „einem starken Basismodell, das für bestimmte Fachgebiete und Sprachen weiter feinjustiert werden kann“. Interne Tests zeigten, dass eine INT4-quantisierte Version für 25 Unterhaltungen lediglich 0,75 % des Akkus eines Pixel 9 Pro verbrauchte. Damit ist es Googles bislang energieeffizientestes Gemma-Modell.
Gemma 3 270M ist sowohl als vortrainierte als auch als anweisungsoptimierte Variante verfügbar und befolgt strukturierte Anweisungen direkt nach der Installation effektiv. Es ist für gezielte Aufgaben wie Textklassifizierung, Entitätenerkennung, Abfrage-Routing, die Generierung strukturierter Texte und Compliance-Prüfungen gedacht – nicht für lange, offene Chats.
Google stellt Gemma 3 270M als Beispiel dafür dar, Effizienz der bloßen Rechenleistung vorzuziehen.
„Mit einem Vorschlaghammer würde man keinen Bilderrahmen aufhängen,“ schrieb Google in seinem Einführungsbeitrag zu Gemma 3 270M, und erklärte, dass kleinere, spezialisierte Modelle bei klar definierten Aufgaben größere Systeme für allgemeine Zwecke übertreffen können.
Diese Strategie erweist sich bereits als wirksam. Google hob die Arbeit von Adaptive ML und SK Telecom hervor: Dort übertraf ein für die mehrsprachige Inhaltsmoderation feinjustiertes Gemma-3-4B-Modell deutlich größere proprietäre Systeme. Die 270M-Version soll ähnliche Ergebnisse in noch kleinerem Maßstab ermöglichen und damit den Weg für ganze Flotten spezialisierter Modelle ebnen.
Leistung und Benchmarks
Im IFEval-Benchmark, der die Fähigkeit zur Befolgung von Anweisungen testet, erreichte das anweisungsoptimierte Gemma 3 270M 51,2 % – mehr als andere kleine Modelle wie SmolLM2 135M Instruct und Qwen 2.5 0.5B Instruct und beinahe so viel wie einige Systeme mit mehreren Milliarden Parametern.
Da es vollständig auf dem Gerät ausgeführt werden kann, ermöglicht Gemma 3 270M Entwicklern, KI-Tools zu entwickeln, die sensible Daten verarbeiten, ohne Informationen an die Cloud zu senden. Checkpoints aus dem Quantization-Aware Training (QAT) ermöglichen die Bereitstellung mit INT4 bei minimalem Leistungsverlust und damit einen reibungslosen Betrieb auf Hardware mit begrenzten Ressourcen.
Über den Unternehmenseinsatz hinaus experimentieren Entwickler mit kreativen Anwendungen. Eine Demo, ein Bedtime Story Generator built with Transformers.js, läuft vollständig in einem Webbrowser. Nutzer können eine Hauptfigur, den Schauplatz, eine unerwartete Wendung, ein Thema und die Länge der Geschichte festlegen; anschließend wird eine schlüssige, fantasievolle Erzählung generiert – ganz ohne Verarbeitung in der Cloud.
Google stellt das Modell über Hugging Face, Ollama, Kaggle, LM Studio und Docker bereit. Für Vertex AI gibt es Testoptionen; außerdem ist es mit Tools wie llama.cpp, Gemma.cpp, LiteRT, Keras und MLX kompatibel.
Weitere Informationen dazu, wie Gemma 3 in Googles umfassendere KI-Strategie passt – einschließlich Details zum größeren 4B-Modell und seiner Leistung in der Praxis –, finden Sie in unserer ausführlichen Berichterstattung über Googles KI-Modell Gemma 3.