Cohere Labs hat North-Micro-Vision-Instruct veröffentlicht, ein offenes Vision-Language-Modell mit 2,4 Milliarden Parametern unter Apache 2.0. Das Modell unterstützt native Bildauflösungen und kann laut Veröffentlichung eine A4-Dokumentseite mit bis zu 200 dpi unter Beibehaltung des Seitenverhältnisses aufnehmen. Die Architektur kombiniert einen eigens trainierten Vision-Encoder mit 400 Millionen Parametern, einen Projektor und ein internes Sprachmodell mit zwei Milliarden Parametern. Zielbereiche sind unter anderem Dokumente, OCR, lokale Anpassung sowie Experimente auf Laptops und edge- oder mobilnaher Hardware mit passendem Inferenz-Stack und Quantisierung.
Warum native Auflösung bei Dokumenten zählt
Viele Vision-Modelle verkleinern Bilder auf feste quadratische Formate. Bei Formularen, Tabellen und gescannten Seiten können dadurch kleine Schrift, räumliche Beziehungen und Seitenverhältnisse verloren gehen. North Micro Vision ist darauf ausgelegt, native Seitenverhältnisse und feine Details besser zu erhalten. Das ist für Rechnungen, Lieferscheine, Prüfprotokolle oder Screenshots interessant, weil nicht nur einzelne Wörter, sondern auch deren Position und Beziehung zueinander relevant sein können.
Native Auflösung löst jedoch nicht automatisch schlechte Scans, Handschrift, ungewöhnliche Schriften oder fachlich mehrdeutige Felder. Eine A4-Seite bei 200 dpi ist eine technische Eingabegrenze aus der Veröffentlichung, kein Qualitätsnachweis für jedes Layout. Unternehmen sollten deshalb nicht fragen, ob das Modell „OCR kann“, sondern welche Dokumentklasse, welches Feld und welche Mindestqualität im eigenen Prozess erforderlich sind.
Vier Testkörbe für eine belastbare Entscheidung
- Saubere Standarddokumente mit bekannten Feldern und gutem Kontrast testen.
- Schwierige Eingaben mit Drehung, Schatten, Kompression, Stempeln und kleinen Schriften prüfen.
- Layoutaufgaben mit Tabellen, mehrspaltigen Seiten, Diagrammen und Formularbeziehungen bewerten.
- Fachliche Grenzfälle mit fehlenden, widersprüchlichen oder handschriftlich ergänzten Angaben untersuchen.
Jeder Testkorb braucht einen manuell geprüften Sollwert. Gemessen werden nicht nur vollständige Antworten, sondern Feldgenauigkeit, ausgelassene Inhalte, falsche Zuordnungen, erfundene Werte und die Fähigkeit, Unsicherheit kenntlich zu machen. Für automatische Weiterverarbeitung ist ein falscher Betrag oder eine verwechselte Kundennummer oft teurer als ein klar markiertes fehlendes Feld. Das Qualitätsmaß muss daher die Fehlerkosten des Geschäftsprozesses abbilden.
Kompakte Größe als Betriebsoption, nicht als Garantie
Mit 2,4 Milliarden Parametern ist North Micro Vision kompakt im Vergleich zu großen multimodalen Modellen. Cohere Labs beschreibt es als Grundlage für lokale, edge-nahe und spezialisierte Einsätze. Ob ein konkretes Gerät ausreichend ist, hängt von Quantisierung, Inferenzsoftware, Bildgröße, Antwortlänge, Parallelität und Latenzziel ab. Unternehmen müssen Speicherbedarf, Durchsatz und Energieverbrauch auf der geplanten Hardware messen, statt aus der Parameterzahl einen fertigen Edge-Betrieb abzuleiten.
Drei Betriebswege sind sinnvoll zu vergleichen. Ein zentraler Server vereinfacht Updates und Auslastung, benötigt aber sichere Datenübertragung. Ein lokaler Arbeitsplatz kann sensible Dokumente näher am Nutzer verarbeiten, erhöht jedoch Verteilungs- und Supportaufwand. Edge-Geräte eignen sich für geringe Latenz oder eingeschränkte Konnektivität, verlangen aber besonders strikte Modell-, Hardware- und Updateverwaltung. Der beste Weg folgt dem Prozess, nicht dem Wunsch nach maximaler Lokalität.
Fine-Tuning nur mit klarer Baseline
Die kompakte Architektur soll Anpassungen an visuelle Domänen erleichtern. Bevor ein Team fine-tuned, muss eine unveränderte Baseline auf repräsentativen Dokumenten vorliegen. Sonst bleibt unklar, ob die Anpassung tatsächlich hilft oder nur bekannte Beispiele auswendig lernt. Trainings-, Validierungs- und Testdaten werden nach Dokumentquelle und Layout getrennt. Personenbezogene oder vertrauliche Inhalte benötigen eine rechtliche Grundlage, Minimierung und einen kontrollierten Speicher- sowie Löschprozess.
- Baseline des unveränderten Modells dokumentieren.
- Trainings- und Testdokumente nach Quelle, Layout und Zeitraum trennen.
- Lizenz, Datenrechte und Modellartefakte nachvollziehbar verwalten.
- Nach Anpassung allgemeine Fähigkeiten und neue Fehlermuster erneut prüfen.
- Rollback auf ein bekanntes Modell und reproduzierbare Konfiguration ermöglichen.
Ein vierwöchiger Unternehmenspilot
Woche eins wählt eine eng begrenzte Dokumentklasse und erstellt den geprüften Testkorpus. Woche zwei vergleicht North Micro Vision mit dem bestehenden OCR- oder manuellen Prozess. Woche drei prüft zwei geeignete Betriebsvarianten, beispielsweise zentral und lokal, inklusive Latenz, Kosten und Datenschutz. Woche vier integriert das Modell nur in einen Assistenzschritt mit menschlicher Freigabe. Automatische Buchungen, Zahlungen oder Compliance-Entscheidungen bleiben ausgeschlossen, bis Feldqualität und Fehlerbehandlung stabil belegt sind.
Freigabekriterien sind dokumentenspezifische Genauigkeit, geringe Rate kritisch falscher Werte, nachvollziehbare Unsicherheit, akzeptable Latenz, kalkulierbare Gesamtkosten und vollständige Protokollierung. Abgebrochen wird bei erfundenen Pflichtfeldern, nicht erkennbaren Fehlern, unvertretbarem Hardwarebedarf oder unklaren Datenrechten. Ein erfolgreicher Pilot zeigt nicht nur, dass ein Modell Seiten lesen kann, sondern dass der gesamte Prozess Fehler erkennt und wirtschaftlich beherrscht.
Für wen sich der Test zuerst lohnt
Am attraktivsten ist North Micro Vision für Unternehmen mit wiederkehrenden, visuellen Dokumenten, hohem manuellem Erfassungsaufwand und dem Wunsch nach eigener Anpassung oder lokaler Verarbeitung. Weniger geeignet ist ein vorschneller Einsatz bei seltenen, stark wechselnden Dokumenten ohne geprüfte Referenzdaten. Die Apache-2.0-Lizenz und offenen Gewichte schaffen Gestaltungsspielraum; Verantwortung für Daten, Modellbetrieb, Tests und Ergebnisfreigabe bleiben dennoch beim einsetzenden Unternehmen.