Google: Gemma 4 12B soll gut auf Laptops laufen

Google hat die Auswahl an Gemma-4-Modellen erweitert. Die neue Version 12B(öffnet im neuen Fenster) ist für den Einsatz auf Laptops ausgelegt und liegt zwischen der weniger leistungsfähigen Variante E4B und der leistungshungrigeren Version 26B.

Gemma 4 12B soll Google zufolge auf Notebooks mit 16 GByte RAM laufen – dabei soll virtueller RAM ausreichen. In verschiedenen Benchmark-Tests soll Gemma 4 12B in der Leistung nah an Gemma 4 26B herankommen und wesentlich leistungsfähiger als Gemma 3 27B sein.

Wie die anderen Gemma-4-Modelle ist auch Gemma 4 12B multimodal. Dabei wird auf Encoder verzichtet: Die Audio- und Videoinputs werden direkt an das LLM weitergegeben. Das soll die Latenz verringern und die Leistung bei weniger Speicher verbessern.

Das 12B-Modell beherrscht wie die anderen Gemma-4-Versionen Multi-Step-Reasoning und agentische Workflows. Dank MTP (Multi-Token Prediction)(öffnet im neuen Fenster) soll die Geschwindigkeit bis zu dreimal höher sein, ohne die Qualität der Ergebnisse zu beeinflussen. MTP verwendet ungenutzte Prozessorzyklen, um Token vorherzuberechnen.

Wie die anderen Gemma-4-Modelle basiert auch 12B auf der Apache-2.0-Lizenz. Diese soll vor allem den kommerziellen Einsatz verglichen mit der vorigen Lizenz erleichtern. Apache 2.0 erlaubt beispielsweise mehr Rechte bei der Distribution, Modifikation und Nutzung der Modelle.

Gemma 4 12B kann ab sofort in verschiedenen lokalen LLM-Clients ausprobiert werden, etwa Ollama, Google AI Edge Gallery oder LM Studio. Bei Hugging Face und Kaggle kann eine vortrainierte Version heruntergeladen werden. Bei Google gibt es eine umfangreiche Entwicklerdokumentation(öffnet im neuen Fenster) sowie eine Schnellstartanleitung(öffnet im neuen Fenster).