DSGVO-konforme KI-Dokumentenverarbeitung auf europäischer Infrastruktur
Eine selbst gehostete LLM-Pipeline, die 40.000 Dokumente pro Monat extrahiert, klassifiziert und weiterleitet - vollständig auf GPU-Infrastruktur in deutschen Rechenzentren, ohne dass Daten je eine US-API berühren.
Herausforderung
Der Kunde wollte die Erfassung von Lieferantenrechnungen, Verträgen und Lieferscheinen mit Large Language Models automatisieren. Die Rechtsabteilung blockierte jede managed KI-API: Die Dokumente enthalten personenbezogene Daten und Geschäftsgeheimnisse, und Schrems II schloss US-Auftragsverarbeiter aus. Fertige EU-Angebote erreichten die geforderte Genauigkeit bei deutschsprachigen Geschäftsdokumenten nicht.
Vorgehen
Wir bauten eine Dokumenten-KI-Pipeline auf Open-Weight-Modellen (Llama, Mistral), bereitgestellt über vLLM auf GPU-Knoten in deutschen Rechenzentren. Ein Retrieval-Layer verankert die Extraktion in den Stammdaten des Kunden, eine Human-in-the-Loop-Prüfqueue übernimmt Ergebnisse mit niedriger Konfidenz. Evaluation wurde als Engineering betrieben: ein gelabelter Benchmark aus 1.200 echten Dokumenten, automatisierte Regressionstests bei jeder Modell- oder Prompt-Änderung und Genauigkeits-Dashboards pro Feld. Datenschutz durch Technikgestaltung - kein Training mit Kundendaten, Pseudonymisierung vor der Inferenz wo möglich und durchgehende Unterstützung der DSFA.
Ergebnis
96 % Extraktionsgenauigkeit auf Feldebene bei deutschsprachigen Geschäftsdokumenten - über der Managed-API-Baseline. Manueller Bearbeitungsaufwand um 70 % reduziert, vollständige DSGVO-Konformität vom Datenschutzbeauftragten bestätigt und planbare Kosten: GPU-Kapazität wird pauschal reserviert statt pro Token abgerechnet.