Dokumenten-KI im Mittelstand
Wo LLMs im Alltag wirklich tragen, wo sie nur teuer aussehen und wie eine belastbare Pipeline strukturiert ist.
Dokumenten-KI ist im Mittelstand kein neues Thema mehr. Nahezu jeder Betrieb, der eine relevante Menge PDFs, E-Mails oder Formulare verarbeitet, hat sich das Thema schon einmal angesehen. Der Unterschied zwischen Betrieben, die daraus einen wirtschaftlichen Nutzen ziehen, und jenen, die nach sechs Monaten wieder bei manuellen Prozessen landen, liegt selten am Modell. Er liegt an der Struktur der Pipeline und an der klaren Trennung zwischen Automation und Kontrollpunkt.
Automation mit Kontrollpunkten schlägt Voll-Automation.
Ein Denkfehler in vielen ersten KI-Projekten ist die Annahme, dass Automation gleichbedeutend mit „ohne menschliche Freigabe" sein muss. Das Gegenteil ist wirtschaftlich sinnvoller. Ein System, das sichere Fälle selbstständig entscheidet und unsichere Fälle sauber eskaliert, ist belastbarer als eines, das alle Fälle in gleicher Qualität zu lösen versucht.
Der wirtschaftliche Nutzen entsteht dann nicht durch 100 Prozent Automation, sondern durch 80 bis 90 Prozent Automation bei gleichzeitig sinkendem Bearbeitungsaufwand für den Rest.
Wie eine belastbare Pipeline strukturiert ist.
Eine belastbare Dokumenten-KI besteht aus sechs Ebenen. Sie sind unabhängig voneinander wartbar und sollten es auch bleiben. Wer sie vermischt, baut ein System, das man später nicht mehr entkoppeln kann.
Ingest: Dokumente werden aus Postfach, Upload, API oder Scanner eingezogen. Die Ingest-Ebene weiß nichts über den Inhalt, nur über die Quelle.
Klassifikation: Ein LLM ordnet das Dokument einer definierten Kategorie zu. Die Kategorien sollten bewusst wenige sein und sich am tatsächlichen Prozess orientieren, nicht an einer Wunschliste.
Extraktion: Strukturierte Daten werden entlang eines Schemas extrahiert. Das Schema ist der Vertrag zwischen KI und Zielsystem. Wenn es unklar ist, wird die Extraktion unklar.
Validierung: Regelbasierte Prüfungen validieren die Extraktion. Formatprüfungen, Bereichsprüfungen und Abgleich mit Stammdaten sind wichtiger als es klingt. Sie fangen bis zu einem großen Teil der Modell-Fehler ab, bevor sie ins Zielsystem gelangen.
Routing: Das Dokument wird zusammen mit den Daten in das passende System geroutet. ERP, DMS, Ticket- oder Auftragssystem. Routing gehört zur KI-Ebene, nicht zum Zielsystem.
Audit-Log: Jede Entscheidung wird protokolliert. Modell, Zeitpunkt, Konfidenz, verwendeter Prompt. Ohne Audit-Log ist nachträgliche Fehleranalyse unmöglich.
Wann Frontier, wann lokal.
Die Wahl zwischen Frontier-Modellen (OpenAI, Anthropic, Google) und lokalen Modellen (z. B. Llama, Mistral) ist kein Trend-Thema. Sie ist eine Kostenrechnung mit Datenschutzkomponente.
Frontier-Modelle sind wirtschaftlich bei komplexen, semantisch anspruchsvollen Aufgaben mit moderatem Volumen. Sie schneiden bei nuancierten Klassifikationen und schwierigen Extraktionen deutlich besser ab, oft mit kürzerer Prompt-Entwicklung.
Lokale Modelle rechnen sich bei hohem Volumen, bei Anwendungen mit strengen Datenschutzanforderungen und bei Anwendungsfällen, in denen die Latenzkosten der API-Nutzung die eigene Infrastruktur überschreiten. Sie erfordern mehr Aufwand in Training, Prompt-Engineering und Betrieb.
Die Wahl trifft man pro Anwendungsfall, nicht pro Betrieb.
Wo Dokumenten-KI-Projekte scheitern.
Zu große Kategorien am Anfang. Eine Klassifikation mit 40 Kategorien scheitert vorhersehbar. Beginnen Sie mit fünf bis acht klar getrennten Kategorien. Feinere Unterscheidungen können hinzukommen, wenn die Grundklassifikation trägt.
Unklares Zielsystem. Wenn nicht klar ist, wohin die Daten fließen sollen, produziert die KI-Ebene Ergebnisse, die niemand nutzt. Das Zielsystem gehört in die erste Phase der Analyse.
Fehlende Validierungsebene. Ein LLM ohne nachgelagerte regelbasierte Validierung produziert gelegentlich sinnvolle Ausgaben, die trotzdem falsch sind. Validierung ist nicht optional.
Fehlende Audit-Log-Disziplin. Ohne Audit-Log ist eine Fehleranalyse nach drei Monaten unmöglich. Das gilt doppelt, sobald Modelle wechseln.
Wie wir mit sensiblen Daten umgehen.
In Deutschland ist die Datenschutzfrage bei LLM-Nutzung nicht trivial, aber lösbar. Wir betreiben Frontier-Modelle in europäischen Regionen mit Enterprise-Verträgen, die eine Verwendung der Daten zum Modelltraining ausschließen. Prompts sind redaktierbar, sensible Felder können vor Übergabe an das Modell entfernt oder maskiert werden. Für streng vertrauliche Anwendungen kommen lokale Modelle in Betracht, die vollständig in unserer oder Ihrer Infrastruktur laufen.
Wichtig ist, den Datenfluss zu dokumentieren. Auch aus Compliance-Sicht: Wer nicht sagen kann, wohin ein Dokument geflossen ist, hat kein System, sondern eine Blackbox.
Zum Thema.
- Wie hoch ist die Genauigkeit einer LLM-basierten Klassifikation?
- In gut abgegrenzten Kategorien erreichen wir Genauigkeiten, bei denen der Mensch nur noch Ausnahmen prüfen muss. Wichtig ist die Kombination aus klar definierter Kategorienliste, regelbasierter Validierung und Freigabepunkt für unsichere Fälle.
- Ist Dokumenten-KI mit DSGVO vereinbar?
- Ja, wenn Datenflüsse dokumentiert, Modelle in EU-Regionen mit Enterprise-Verträgen betrieben und Trainingsverwendung der Daten ausgeschlossen sind. Für streng vertrauliche Anwendungen kommen lokale Modelle in Betracht.
- Wie schnell rechnet sich ein Dokumenten-KI-Projekt?
- Das hängt vom Volumen ab. Ab einem konstanten Aufkommen mehrerer hundert Dokumente pro Woche mit wiederkehrender Struktur rechnet sich der Einsatz häufig innerhalb eines Jahres.
Fynn-Luca Schulz (Head of Product & Strategy) und Julian Stosse (Head of Engineering) verantworten die Arbeit an Taskey und an den individuellen Systemen, die Schulz & Stosse entwickelt und betreibt.