ChatGPT ist ein Allzweck-Sprachmodell von OpenAI (San Francisco). Claude ist ein Allzweck-LLM von Anthropic (San Francisco). Gemini ist ein Allzweck-LLM von Google (Mountain View). Alle drei lesen Dokumente über multimodale Modelle, und alle drei können Ausgaben liefern, die an ein von Ihnen definiertes JSON-Schema gebunden sind.
Die ehrliche Fassung dieses Vergleichs ist enger als noch vor zwei Jahren. Diese Modelle extrahieren gut, und anyformat nutzt LLMs unter der Haube. Die Frage ist nicht, ob ein Modell eine Rechnung lesen kann. Die Frage ist, was das Modell umgibt, wenn ein falscher Wert Geld kostet: woher der Wert stammt, wie wahrscheinlich er richtig ist, wer ihn prüft, wenn er es nicht ist, und unter welcher Jurisdiktion das Dokument verarbeitet wurde.
Consumer-Stufe und API-Stufe sind verschiedene Produkte
Die meiste Verwirrung in diesem Vergleich entsteht dadurch, „ChatGPT“ und „die OpenAI-API“ als dasselbe zu behandeln. Sie sind es nicht, und der Unterschied ist einer der Datenverwaltung.
Die Consumer-Apps — ChatGPT, Claude.ai, die Gemini-App — speichern Konversationen standardmäßig, und je nach Plan und Einstellungen können diese Inhalte zur Modellverbesserung genutzt werden. Kundendokumente dort hochzuladen ist eine Governance-Entscheidung, keine technische.
Die API- und Enterprise-Stufen handeln als Auftragsverarbeiter unter einem AVV mit Standardvertragsklauseln, trainieren standardmäßig nicht auf eingereichten Inhalten und bieten freigabepflichtige Zero-Retention-Modi. Die Plattformen aller drei Anbieter sind ISO-27001-zertifiziert.
Die pauschale Behauptung, LLMs seien nicht compliant, ist damit falsch. Die engere Aussage — dass Consumer-Chatbots der falsche Ort für produktive Dokumente sind — hält weiterhin stand.
Die Herkunftslücke
Wenn ein Modell die Rechnungssumme zurückgibt, gibt es eine Zahl zurück. Es gibt nicht die Koordinaten zurück, aus denen diese Zahl gelesen wurde. Einige Anbieter liefern Zitate auf eine Textstelle in der Quelle; keiner bindet ein extrahiertes Feld an eine Bounding Box auf dem Seitenbild.
Produktive Dokumentenverarbeitung verlangt Auditierbarkeit. Wenn ein extrahierter Wert in Ihr ERP fließt und eine Zahlung auslöst, müssen Prüfer, Compliance-Verantwortliche und nachgelagerte Systeme nachvollziehen können, woher er stammt.
anyformat hängt an jedes extrahierte Feld einen visuellen Beleg: Sie klicken auf das Feld und landen an der exakten Stelle im Quelldokument. Das ist es, was KI-Entscheidungen auditierbar macht unter EU-Regelwerken wie ViDA, DORA und den nationalen E-Rechnungspflichten.
Flüssigkeit ist keine Kalibrierung
LLMs sind sprachlich flüssig. Sie geben souverän klingende Antworten, auch wenn sie unsicher sind. Ein Modell kann eine Bestellnummer extrahieren und mit derselben scheinbaren Gewissheit präsentieren wie eine Rechnungssumme, obwohl es aus einem unscharfen Scan rät.
Token-Log-Wahrscheinlichkeiten sind kein Ersatz. Sie beschreiben, wie sicher sich das Modell beim nächsten Token war, nicht wie wahrscheinlich ein Feld korrekt ist, und sie sind nicht gegen Ergebnisse kalibriert. Es gibt daher keinen Schwellenwert, den Sie setzen, und kein Feld, das Sie darauf gestützt automatisch freigeben könnten. Das ist das Problem der stillen Fehler: Ein souverän präsentierter falscher Wert passiert jede nachgelagerte Prüfung, bis der Abgleich scheitert.
anyformat vergibt für jedes extrahierte Feld einen kalibrierten Confidence-Score, gemessen mit 99,1 % Kalibrierungsgenauigkeit bei einem Adaptive ECE von 0,009 (anyformat-Benchmark, 2026). Kalibrierung ist das, was einem Schwellenwert Bedeutung gibt: Das Feld mit 98 % läuft durch, das Feld mit 62 % geht an eine Prüferin.
Constrained Decoding hat diese Lücke geschlossen. Structured Outputs, Tool-Schemas und Response Schemas machen die Ausgabe strukturell deterministisch: dieselben Feldnamen, dieselbe Verschachtelung, dieselben Typen, bei jedem Lauf. Wer LLM-Ausgaben noch als strukturell unvorhersehbar beschreibt, beschreibt 2023.
Was strukturelle Gültigkeit nicht sagt, ist, ob der Wert stimmt. Ein sauber typisiertes Feld kann mit voller Überzeugung falsch sein, und ein Schema fängt das nicht ab. Dafür sind Evaluation und kalibrierte Confidence da, und beides kommt mit keiner Modell-API mit.
anyformat liefert eine Evals-Suite: Sie lassen einen annotierten Satz laufen, erhalten Genauigkeit pro Feld, fangen Regressionen vor dem Produktivgang ab und vergleichen Pipeline-Änderungen gegen eine feste Baseline statt gegen ein Bauchgefühl.
Kosten im Maßstab
Token-Preise machen Ad-hoc-Extraktion günstig. Bei Produktionsvolumen ändert sich die Rechnung: Die Kosten skalieren mit der Seitenzahl, mit Retries und mit jedem weiteren Prompt, den ein widerspenstiges Dokument kostet. Der größere Posten ist meist Engineering: Prompt-Pflege, Ausgabevalidierung, Retry-Logik und das Prüfwerkzeug, das Sie ohnehin bauen.
anyformat rechnet in Credits ab, pro Seite und pro Operator: 10 Credits kosten 0,01 €, Parse liegt also bei 25 Credits pro Seite (0,025 €) und Extract bei 35 Credits pro Seite (anyformat-Preisliste, 2026). Die Kennzahl, die zählt, sind die Kosten pro korrekter Ausgabe, nicht die Kosten pro Token.
Europäische Souveränität und Jurisdiktion
Das ist die Dimension, in der sich nichts geändert hat. OpenAI, Anthropic und Google haben ihren Sitz in den USA. Europäische Verarbeitungsregionen und Optionen zur Datenresidenz gibt es, aber der Anbieter, der den Dienst betreibt, bleibt der US-Jurisdiktion unterworfen, und genau das prüfen europäische Souveränitätsanforderungen, nicht den Standort des Rechenzentrums. In der Vergleichstabelle oben ist EU-Souveränität die Zeile, in der alle Wettbewerber „nein“ erhalten.
anyformat ist EU-nativ. Europäische Rechtseinheit, europäische Infrastruktur, ISO-27001-zertifiziert, DSGVO-konform per Architektur, mit Zero-Retention-Verarbeitung und On-Premise- oder Air-Gapped-Bereitstellung in jedem Plan.
Workflow-Orchestrierung und menschliche Prüfung
Modell-APIs verarbeiten ein Dokument nach dem anderen, einen Aufruf nach dem anderen. Klassifizierung, Splitting, Routing, Validierung, Prüfwarteschlangen, bedingte Logik und nachgelagerte Integration sind maßgeschneidertes Engineering, das Sie bauen und pflegen — und die Prüfoberfläche, der Teil, den niemand einplant, ist meist das größte Stück.
anyformat enthält Studio, eine No-Code-Canvas für Workflows mit Verzweigungen, Bedingungen, Splitting, Routing, Extraktionsoperatoren, Abgleich mit internen Datenquellen und eingebauter Human-in-the-Loop-Prüfung. Operations-Teams ändern den Prozess ohne Code-Deploy.
Tabellen, Abbildungen und komplexe Layouts
Multimodale Modelle lesen Tabellen und Diagramme kompetent und liefern mit einem Response Schema die Zeilen als typisiertes JSON. Die verbleibenden Fehlerbilder sind die betrieblichen: Tabellen über Dutzende Seiten, bei denen der Positionsbias Zeilen in der Mitte verliert; verbundene Zellen und seitenübergreifende Tabellen; und das Fehlen jeder Herkunft pro Zelle, gegen die sich eine verdächtige Zeile prüfen ließe.
Die mehrstufige Pipeline von anyformat hielt ~99 % Zeilenwiederherstellung bei Tabellen von bis zu 50 Seiten und rund 2.400 Zeilen (anyformat-Benchmark, 2026) und liefert Abbildungen als klassifizierte, schemagebundene Beschreibungen mit Belegen. Das sind Engineering-Probleme, die sich nicht allein durch Prompting lösen lassen.
Das richtige mentale Modell
LLMs sind der Motor in modernen Plattformen zur Dokumentenverarbeitung, anyformat eingeschlossen. Eine rohe Modell-API für produktive Extraktion zu nutzen, heißt, einen Dieselmotor zu kaufen und ihn Transport zu nennen. Der Motor ist ausgezeichnet. Ein Fahrzeug ist er nicht.
anyformat ist das Fahrzeug: das Modell, eingebettet in kalibrierte Confidence, visuelle Belege, Workflow-Orchestrierung, menschliche Prüfung, Evals und EU-native Compliance-Kontrollen.
Für den Produktivbetrieb ja, aber nicht aus den Gründen, die dieser Vergleich früher nannte. Die Modell-APIs beherrschen inzwischen Schemabindung, Tabellenlesen und Diagramminterpretation, laufen auf ISO-27001-zertifizierten Plattformen, schließen Auftragsverarbeitungsverträge und bieten Zero Data Retention auf der API-Stufe. Was sie nicht liefern, ist ein kalibrierter Confidence-Score pro Feld, ein visueller Beleg, der jeden Wert an seine Position auf der Seite bindet, eine Workflow-Ebene mit menschlicher Prüfung, ein Evals-Rahmen zur Messung der Genauigkeit an den eigenen Dokumenten oder eine Option auf EU-Jurisdiktion. anyformat nutzt LLMs als Extraktionsmotor und liefert genau diese fünf Dinge. Wenn Sie Ad-hoc-Fragen zu einer Handvoll Dokumente beantworten, ist ein rohes Modell das richtige Werkzeug. Wenn Sie täglich Tausende unter europäischen Compliance-Pflichten verarbeiten, ist die umgebende Infrastruktur das Produkt.
Wann ein rohes LLM sinnvoll ist
Prototyping, Ad-hoc-Fragen, einmalige Analysen. Nutzen Sie ein rohes Modell, wenn Sie erkunden, nicht wenn Sie betreiben.
Wenn Dokumente in den Produktivbetrieb gehen: jeder Wert bis zu seiner Position auf der Seite nachvollziehbar, jedes unsichere Feld an eine Prüferin geleitet, Genauigkeit gemessen statt angenommen, und das Ganze unter EU-Jurisdiktion.
anyformat ist die agentische Document-Intelligence-Plattform für europäische Unternehmen. ISO-27001-zertifiziert, DSGVO-konform, mit Zero-Retention-Verarbeitung und On-Premise-Bereitstellung. Jetzt starten auf anyformat.ai
