Was Gemma 4 lokal mit Akten und Scans leisten kann
Ein Scanner kann einen ganzen Stapel als eine PDF-Datei speichern. Wer die Unterlagen getrennt ablegen will, muss herausfinden, auf welcher Seite jedes Dokument beginnt. Der Entwickler Mahdi Bani hat genau dafür Googles KI-Modell Gemma 4 lokal auf einem Mac ausprobiert.
Wie gut findet Gemma 4 lokal den Anfang eines Dokuments?
Bani ersetzte in seiner Software das bisherige Cloudmodell durch Gemma 4 12B. Gemma fand in den Testdateien mehr Stellen, an denen tatsächlich ein neues Dokument begann. Es setzte aber auch öfter eine Trennstelle zwischen zwei Seiten, die zusammengehörten.
Für seinen Vergleich bewertete Bani zwei Dinge zusammen. Wie viele der tatsächlichen Dokumentanfänge fand die Software? Und wie viele der markierten Stellen waren wirklich Dokumentanfänge? Bei seinem Maß dafür, dem toleranten F1-Wert, erreichte das Verfahren mit Gemma 83,1 von 100 Punkten. Mit dem Cloudmodell waren es 82,2. In beiden Fällen halfen zusätzliche Prüfschritte, etwa das Auslesen von Seitenzahlen aus dem Text der PDF-Datei.
Bei einer besonders schwierigen Datei mit 183 Seiten brauchte der vollständige Durchlauf auf dem Mac rund drei Stunden und 21 Minuten. Die Software prüfte lange Abschnitte dabei mehrfach. Für einen Stapel, den ein Büro über Nacht sortieren lässt, kann das ausreichen. Wer am Empfang auf ein einzelnes Dokument wartet, braucht eine kürzere Bearbeitungszeit. Erfahrungsbericht von Mahdi Bani.
Wie genau liest die kleinere Gemma-Variante Zahlen aus Belegen?
Ist eine Rechnung einsortiert, stellt sich eine zweite Frage. Kann die Software den Betrag Ziffer für Ziffer richtig übernehmen? Der Entwickler der Formularsoftware Fyllyo verglich dafür acht Verfahren auf einem Mac mit M4 Max. Er verwendete 17 Seiten mit amerikanischen Steuer- und Finanzunterlagen. Jede Seite lag als sauberes Bild, als simulierter Scan und als simuliertes Handyfoto vor. Für jede dieser drei Bildvarianten gab es dieselben 578 von Hand geprüften Beträge, Datumsangaben und Kennnummern.
Die kleinere Modellvariante Gemma 4 E4B las auf den sauberen Bildern 78,2 Prozent der geprüften Werte exakt. Bei den simulierten Handyfotos waren es 71,8 Prozent. Über alle drei Varianten hinweg gab sie außerdem 73 Zahlen aus, die auf den jeweiligen Seiten gar nicht standen. Das auf Texterkennung spezialisierte Modell LightOnOCR-2 las in diesem Versuch alle 578 Werte in jeder Bildvariante richtig.
Wer Rechnungsbeträge in ein Formular übernehmen möchte, kann denselben Vergleich mit eigenen Musterbelegen machen. Prüfen Sie auch, ob jede ausgegebene Zahl tatsächlich auf dem Beleg steht. Einen plausiblen, frei erfundenen Betrag übersieht man beim Gegenlesen leicht. Testaufbau und Ergebnisse des Formularsoftware-Anbieters Fyllyo.
Welche Gemma-Version können Sie selbst ausprobieren?
Google stellte Gemma 4 im April 2026 öffentlich vor. Die im ersten Test eingesetzte Variante Gemma 4 12B folgte am 3. Juni. Google stellt die Modelldateien zum Herunterladen bereit. Laut Google kann 12B Text, Bilder und Audio verarbeiten. Welche Eingaben Sie am eigenen Rechner nutzen können, hängt auch von der verwendeten Software ab. Am 12. November stellte Google Gemini 4 Hydrogen vor. Es gehört zu Googles anderer Modellreihe Gemini. Googles Vorstellung von Gemma 4 12B · Modellkarte und Dateien · November-Ankündigung zu Gemini.
Wenn Sie für lokale KI bereits Ollama verwenden, startet ollama run gemma4:12b die 12B-Version. Beim ersten Aufruf lädt Ollama die Modelldateien herunter. Für den eigenen Vergleich lohnt es sich, die genaue Modellversion, den Rechner und die Seitenzahl der Testdatei festzuhalten. Gemma-Versionen bei Ollama · Anleitung für den ersten lokalen Start.
Wie viel Grafikspeicher braucht die 12B-Version im Test?
WumboLabs testete zwei unterschiedlich komprimierte Fassungen von Gemma 4 12B auf derselben Grafikkarte, einer RTX 5070 mit 12 GB Grafikspeicher. Die Aufgaben umfassten unter anderem Zusammenfassungen und das Schreiben von Code. Mit der QAT-Q4-Fassung maß der Tester im Mittel rund 73 erzeugte Textbausteine (Tokens) pro Sekunde und einen Spitzenverbrauch von 7.539 MiB Grafikspeicher. Die Q5-Fassung erzeugte rund 59 Tokens pro Sekunde und belegte in der Spitze 9.341 MiB.
Die Geschwindigkeitsangabe beschreibt, wie schnell das Modell den Antworttext erzeugt. Wenn Sie ganze Akten verarbeiten, messen Sie zusätzlich die Zeit vom Öffnen der Datei bis zum geprüften Ergebnis. Hardware und Messungen von WumboLabs.
Zwei Beispiele für einen eigenen Test
Wo beginnt das nächste Dokument?
Speichern Sie ein zweiseitiges Bestellformular und einen einseitigen Lieferschein als eine PDF-Datei. Verwenden Sie fiktive Angaben. Lassen Sie Gemma für jedes Dokument die Startseite und die Dokumentart nennen. Der Lieferschein beginnt auf Seite drei. Setzt das Modell die Grenze schon auf Seite zwei oder übersieht es den Wechsel, notieren Sie den Fehler.
Übernimmt das Modell den richtigen Betrag?
Schreiben Sie 108,40 Euro und 180,40 Euro in zwei verschiedene Zeilen einer Musterrechnung. Scannen Sie das Blatt und lassen Sie Gemma jede Position mit Betrag und Fundstelle nennen. Wiederholen Sie den Versuch mit einer teilweise unleserlichen Kopie. Prüfen Sie am Original, ob die Ziffern stimmen und ob das Modell eine unsichere Stelle kennzeichnet oder einen Betrag ergänzt.
Wann lohnt sich der Vergleich mit einer deutschen Cloud?
Wer keinen eigenen Rechner für KI betreiben möchte, kann dieselben Musterunterlagen mit einem Cloudangebot prüfen. IONOS nennt für die Modellverarbeitung seines AI Model Hub Rechenzentren in Deutschland. Halten Sie für den Vergleich fest, welches Modell dort verfügbar ist, welche Daten Sie übermitteln dürfen und welche Verarbeitung vereinbart ist. Zum Preis des Dienstes kommt die Arbeitszeit für die Kontrolle der Ergebnisse hinzu. Standortangaben von IONOS.
Quellenstand 15. November 2026. Die Messungen stammen von den verlinkten Entwicklern. Die beiden Büroaufgaben sind fiktive Vorschläge für einen eigenen Test.
Welche Unterlage kostet Ihr Team heute am meisten Zeit?
Ob sich dafür ein lokales Modell, Texterkennung oder ein Cloudangebot eignet, lässt sich mit wenigen repräsentativen Unterlagen prüfen. In der KI-Beratung können wir die Aufgabe und die Kriterien für Ihre Entscheidung festlegen.
KI-generiertes Symbolbild. Keine Aufnahme eines realen Ereignisses.
Von Niklas Entenmann






Ein Kommentar
Die Kommentare sind geschlossen.