Paperless mit lokaler KI
Rund 1.450 Dokumente – Rechnungen, Verträge, Lohnzettel – sortiert ein Sprachmodell, das bei mir zu Hause auf einem Mini-PC ohne Grafikkarte läuft. Kein Dokument verlässt das Haus.
- Datum
Gebaut mit AIIdee, Anforderungen und Tests: ich. Code: AI.
- paperless-ngx
- ollama
- gemma 3
- lokale ki
- homelab
// ausprobieren
Zieh ein Dokument auf den Chip (oder tipp es an). Das Modell denkt in echter Geschwindigkeit.
Bei uns landet jedes Stück Papier in Paperless, eingescannt oder direkt aus dem Mail-Postfach. Rund 1.450 Dokumente für zwei Personen. Das Archiv war da, nur ordentlich war es nicht.
Das Problem
Paperless sortiert neue Dokumente mit einem kleinen Verfahren, das aus Beispielen lernt. Bei mir gab es kaum Beispiele. Von 1.447 Dokumenten hatten 1.369 kein einziges Schlagwort, 95 % liefen unter „Rechnung“, und manche Absender gab es dreimal in leicht anderer Schreibweise.
Die Idee
Ein Sprachmodell braucht keine Beispiele. Es liest das Dokument und versteht, worum es geht. Meine Lohnabrechnungen und Verträge schicke ich aber an keinen Cloud-Dienst. Also läuft das Modell bei mir zu Hause: Gemma 3 mit vier Milliarden Parametern über Ollama, auf einem Mini-PC ohne Grafikkarte.
Das ist langsam. Ein Dokument einzuordnen dauert ein bis zwei Minuten, eine Frage an den Chat etwa eine Minute. Für ein Archiv, das nachts in Ruhe sortiert wird, spielt das keine Rolle. Und die normale Suche bleibt so schnell wie vorher.
Was mir das Modell beigebracht hat
Ein kleines Modell macht nicht immer, was man ihm sagt. Drei Beispiele:
- „Bank & Finanzen“ landete im Test an allen fünf Dokumenten. Handyrechnung, Leasingvertrag, Steam-Kauf, McDonald’s: Für das Modell war jede Zahlung „Finanzen“. Seitdem hat jedes Schlagwort eine klare Grenze, sonst füllt das Modell die Lücke mit eigenen Ideen.
- Zwei Schlagworte pro Dokument waren eins zu viel. Das erste stimmte fast immer, das zweite war oft nur „irgendwas Ähnliches“. Jetzt gibt es genau eins. Ein fehlendes Schlagwort ergänze ich in Sekunden, ein falsches müsste ich erst suchen.
- Aus Bestellbestätigungen wurden Briefe, obwohl im Auftrag ausdrücklich stand, dass sie als Rechnung zählen. Das Modell hatte schlicht eine eigene Meinung: Eine Rechnung fordert Geld, eine Bestellbestätigung nicht. Ehrlich gesagt hatte es recht. Jetzt gibt es drei Fächer: Rechnung (Geld wird gefordert), Beleg (schon bezahlt) und Brief (alles andere). Die Verwechslung ist weg.
Das Ergebnis
Ein Durchlauf über das ganze Archiv, nur nachts, damit derselbe Rechner abends beim Fernsehen nicht unter Volllast steht. Danach hatte jedes Dokument ein Schlagwort, 357 Dokumenttypen waren korrigiert, und aus 598 Absendern wurden 407. Neue Dokumente ordnet Paperless seitdem beim Eingang selbst ein.
Dazu kommt ein Chat über das ganze Archiv. Fragen wie „Bis wann läuft mein Handyvertrag?“ beantwortet er aus den eigenen Unterlagen, samt Link auf das passende Dokument.