KI in der Sachbearbeitung macht Fehler: wie viel Prüfaufwand bleibt (und wann es sich trotzdem rechnet)

Seit fast einem Jahr geht jede einzelne Buchung, die meine KI vorbereitet, über meinen Tisch. Jede. Mein System liest Rechnungen aus, kategorisiert sie und bereitet den Export für den Steuerberater vor. Im September 2025 habe ich aufgeschrieben, wie dieses Setup entstanden ist. Das klingt nach dem Eingeständnis, dass sich die Automatisierung nicht gelohnt hat. Es ist das Gegenteil: Gerade weil ich jede Buchung prüfe, kenne ich die Fehler meines Systems aus erster Hand und kann ziemlich genau sagen, wann sich KI in der Sachbearbeitung rechnet. Und wann nicht.

Kennst du diese Situation auch:

• Die Anbieter-Folie hat deiner Verwaltung mehrere Stunden Ersparnis pro Woche versprochen, aber das Wort „Prüfzeit" kam darauf nicht vor?
• Deine Buchhalterin hat diese Woche den dritten Zahlendreher gefunden und fragt sich inzwischen, wie viele sie nicht gefunden hat?
• Und im Team macht das Argument die Runde, es wäre schneller, es gleich selbst zu machen?

Dann bist du in guter Gesellschaft: Laut Bitkom nutzte 2025 bereits gut ein Drittel der deutschen Unternehmen KI: 36 Prozent, nach 20 im Jahr davor; im Controlling und Rechnungswesen sind es erst 17 Prozent der Nutzer. Die Frage „Wie viel Kontrolle bleibt an uns hängen, und rechnet sich das dann noch?" wird also gerade sehr konkret. Sie hat eine ehrliche Antwort. Nur steht die auf keiner Verkaufsfolie.

Vier Fehlerklassen statt einer Fehlerquote

Die Frage, die mir in Workshops am häufigsten gestellt wird: „Welche Fehlerquote hat denn so eine KI?" Meine Antwort enttäuscht regelmäßig: Diese Zahl gibt es nicht. Die Fehlerhäufigkeit hängt von Aufgabe, Datenlage und Zuschnitt des Anwendungsfalls ab. Wer dir trotzdem eine Pauschalzahl nennt („99 Prozent korrekt!"), will dir in der Regel etwas verkaufen. Was es stattdessen gibt, sind Fehlerklassen. Aus meiner eigenen Buchhaltung, aus Kundenprojekten und aus gut dokumentierten Fällen kenne ich vier. Sie unterscheiden sich massiv darin, ob sie auffallen und was sie kosten, wenn nicht.

Die erste Klasse sind Übertragungs- und Zahlenfehler: ein Zahlendreher im Betrag, ein vertauschtes Datumsformat. Aus 847,20 Euro werden 874,20 Euro. Die Zahl sieht völlig normal aus, sie ist nur falsch. Diese Klasse kenne ich aus dem eigenen Setup, und sie hat eine gute Eigenschaft: Der Abgleich gegen den Original-Beleg dauert Sekunden und lässt sich teils automatisieren.

Die zweite Klasse sind Zuordnungsfehler: Der Beleg ist korrekt erfasst, aber das System bucht ihn auf ein plausibles, falsches Konto oder in die falsche Kategorie. Diese Fehler sind tückischer, weil sie ausdrücklich richtig aussehen. In meinem Setup sitzt die Zuordnung inzwischen fast immer, aber „fast immer" heißt auch: Der Rest wartet darauf, dass ich ihn finde. Erfahrungswert aus einem Ein-Personen-Setup, kein Branchen-Benchmark. Aber das Muster begegnet mir in Kundenprojekten genauso.

Die dritte Klasse sind Halluzinationen: erfundene Klauseln, Quellen, Fußnoten. Falls du denkst, das passiere nur bei ChatGPT-Basteleien: Eine Stanford-Untersuchung hat spezialisierte juristische KI-Recherche-Tools großer Anbieter geprüft: Werkzeuge, die teils ausdrücklich als „hallucination-free" beworben wurden. Ergebnis: Halluzinationen in 17 bis 33 Prozent der Anfragen, darunter auch subtil falsch zugeordnete echte Quellen. Teuer und spezialisiert schützt also nicht automatisch.

Die vierte Klasse sind souverän klingende Falschauskünfte: Die KI erklärt einem Kunden freundlich eine Regel, die es gar nicht gibt. Wie real das ist, zeigt der Fall Air Canada: Ein kanadisches Tribunal ließ die Airline 2024 für die falsche Tarif-Auskunft ihres eigenen Website-Chatbots haften. Die Haftungsfrage selbst ist ein eigenes Thema.

In der Übersicht:

Falls du hoffst, das erledigt die nächste Modellgeneration: OpenAI selbst hat 2025 dargelegt, warum Sprachmodelle halluzinieren: Heutige Trainings- und Bewertungsverfahren belohnen selbstbewusstes Raten statt eingestandener Unsicherheit. OpenAI sieht die Lösung in geänderten Bewertungsverfahren, nicht in größeren Modellen. Von allein verschwindet das Problem also nicht. Prüfaufwand ist ein Dauerposten im Betriebsmodell, keine Kinderkrankheit, die sich auswächst.

Die ehrliche Rechnung: netto statt brutto

Damit zur Rechnung, die in Verkaufsgesprächen konsequent fehlt. Die Anbieter-Folie rechnet brutto: Vorgänge pro Monat mal eingesparte Minuten, fertig ist die schöne Zahl. Die ehrliche Rechnung hat zwei Posten mehr:

Nettoersparnis = Bruttoersparnis − Prüfzeit − Korrekturzeit.

Prüfzeit fällt bei jedem Vorgang an, auch beim fehlerfreien. Kontrolliert dein Team hundert fehlerfreie KI-Entwürfe, hat es trotzdem hundertmal Prüfzeit investiert. Korrekturzeit dagegen fällt selten an, ist aber teuer. Wie teuer, hat eine Untersuchung im Harvard Business Review beziffert: 40 Prozent der befragten US-Beschäftigten hatten im Vormonat minderwertigen KI-Output erhalten („Workslop" nennen die Autoren das), und jeder Vorfall kostete die Empfänger im Schnitt knapp zwei Stunden Aufräumarbeit. Das Perfide: Die Korrekturzeit landet oft nicht beim KI-Nutzer, sondern bei dem, der das Ergebnis ausbaden muss. In dessen Brutto-Rechnung taucht sie nie auf.

Bei mir selbst geht die Rechnung klar auf: Die Prüfung meiner Buchungen ist ein schneller Abgleich, weil die Vorgänge gleichförmig sind und ich weiß, worauf ich schaue. Ich investiere jede Woche Zeit in Prüfen und Nachjustieren: deutlich weniger, als das System mir einspart. Aber sie geht auf, weil die Prüfzeit von Anfang an Teil des Designs war, nicht weil es sie nicht gäbe. Wie viel brutto in einzelnen Office-Rollen überhaupt drinsteckt, habe ich vor zwei Wochen aufgeschrieben. Hier zählt das Netto.

Der teuerste Fehler ist der, der durchrutscht

Nun könnte man einwenden: Die Prüfzeit haben wir doch eingeplant. Auf der Folie stand schließlich „Human in the Loop". Die unbequeme Wahrheit: Die eingeplante Prüfung findet erstaunlich oft gar nicht statt. Eine globale Studie von KPMG und der Universität Melbourne mit über 48.000 Befragten in 47 Ländern liefert zwei Zahlen, die man zusammen lesen muss: 66 Prozent verlassen sich auf KI-Output, ohne die Genauigkeit zu prüfen. Und 56 Prozent haben durch KI bereits Fehler in ihrer Arbeit gemacht.

Warum die Disziplin erodiert, hat eine Studie von Microsoft Research und der Carnegie Mellon University mit 319 Wissensarbeitern untersucht: Je mehr die Befragten der KI vertrauten, desto weniger kritisch prüften sie deren Ergebnisse. Die Prüfung schläft also genau dann ein, wenn die KI eine Weile gut gelaufen ist, und damit genau dann, wenn der nächste Zuordnungsfehler am wenigsten auffällt. Ich kenne diesen Sog aus eigener Erfahrung: Bei mir hat mal ein Coding-Agent eine Sicherheitsprüfung „vereinfacht", sprich: entfernt. Sah sauber aus, erst der zweite Blick hat es gezeigt. Seitdem gilt bei mir ohne Ausnahme Human in the middle: Nichts, was nach außen geht oder etwas verändert, kommt ohne menschlichen Blick aus.

Dass das keine Frage der Sorgfalt einzelner Mitarbeiter ist, zeigt ein Fall aus dem Herbst 2025: Deloitte Australien musste einen Teil des Honorars für einen 440.000-Australische-Dollar-Bericht an die australische Regierung zurückzahlen, nachdem ein Forscher darin erfundene Zitate und Fußnoten gefunden hatte. Ein Weltkonzern, mit Review-Prozessen, bei einem zahlenden Regierungskunden. Die Lehre lautet nicht „die waren eben schlampig", sondern: Bau die Prüfung so in den Prozess ein, dass sie auch in stressigen Wochen stattfindet. Appelle an die Sorgfalt reichen nicht.

Der Tool-Frust-Faktor: wenn dein Team dreimal enttäuscht wurde

Es gibt aber auch die Gegenrichtung, und über die spricht kaum jemand. In Workshops und Projekten beobachte ich regelmäßig Teams, die von ihrem KI-Werkzeug mehrfach enttäuscht wurden: ein peinlicher Entwurf, eine falsche Zahl, ein Fehler, der bis zum Kunden durchgerutscht ist. Was dann passiert, ist menschlich völlig nachvollziehbar: Ab diesem Punkt wird alles doppelt geprüft. Jeder Entwurf, jede Zahl, jedes Mal. Und damit ist die Netto-Rechnung endgültig negativ, obwohl das Tool technisch „funktioniert".

Meine wichtigste Erkenntnis daraus: Vertrauen ist eine Betriebsgröße. Zu viel davon führt zu durchgerutschten Fehlern, zu wenig frisst die Ersparnis auf. Und ein einziger Fehler, der beim Kunden landet, kostet mehr künftige Prüfzeit als zehn intern gefundene, weil er das Vertrauen des ganzen Teams neu kalibriert. Eine unbegleitete Einführung produziert genau diese Enttäuschungen; Werkzeuge verteilen ist eben keine Einführung.

Die Konsequenz ist nicht „mehr prüfen" und auch nicht „weniger prüfen", sondern: an den richtigen Stellen prüfen.

Freigabe-Design nach Aufgabenrisiko

Der verbreitetste Reflex ist die Stichprobe nach Bauchgefühl: „wir schauen uns ungefähr jeden zehnten Vorgang an". Ich halte das für falsch, denn es behandelt alle Vorgänge gleich, obwohl sie es nicht sind. Die Prüftiefe gehört an das Risiko der Aufgabe gekoppelt, nicht an den Kalender.

Dass die Aufgabe, nicht das Tool, über die Fehlerhäufigkeit entscheidet, ist sauber belegt. Ein Feldexperiment der Harvard Business School mit 758 Beratern der Boston Consulting Group hat dieselbe KI auf unterschiedliche Aufgaben losgelassen: Bei Aufgaben innerhalb der Fähigkeitsgrenze der KI erledigten die Berater 12,2 Prozent mehr Aufgaben, waren rund 25 Prozent schneller und lieferten deutlich höhere Qualität. Bei einer Aufgabe außerhalb dieser Grenze lagen KI-Nutzer dagegen 19 Prozentpunkte häufiger daneben als die Kollegen ohne KI. „Jagged Frontier" nennen die Forscher das, die zerklüftete Grenze. Das Unangenehme: Man sieht dem Ergebnis nicht an, auf welcher Seite es entstanden ist. Es klingt in beiden Fällen gleich überzeugend.

Für dein Freigabe-Design heißt das: Stell für jeden Vorgangstyp drei Fragen. Erstens: Wie schnell ist ein Fehler prüfbar? Sekunden-Abgleich gegen das Original oder halbe Neu-Recherche? Zweitens: Wie teuer ist ein Fehler, der durchrutscht? Interner Entwurf, den ohnehin jemand liest, oder Zahlung und Preiszusage an einen Kunden? Drittens: Lässt sich die Prüfung teilautomatisieren? Ein Summen-Abgleich, ein Schwellenwert, ab dem ein zweites Paar Augen Pflicht ist? Daraus ergibt sich die Prüftiefe fast von selbst: automatischer Check plus regelmäßige Durchsicht für den internen Massenvorgang, echte Freigabe für alles, was Geld bewegt oder Kunden etwas zusagt. So halte ich es auch bei meinen eigenen Agenten: eng zugeschnittene Aufgaben, keine Zahlungsbefugnis, nichts geht nach außen ohne menschlichen Blick.

Welche Ergebnis-Kategorien grundsätzlich ungeprüft rausgehen dürfen (die Ein-Seiten-Regel fürs Team), ist dagegen eine Governance-Frage, eng verwandt damit, wer im Unternehmen die Verantwortung für KI trägt. Die nehme ich mir in einem der nächsten Beiträge vor; hier geht es um die Ökonomie der Prüftiefe.

Break-even: wann sich KI trotz Prüfaufwand rechnet

Bleibt die Frage vom Anfang: Lohnt sich das nun? Meine Antwort nach fast einem Jahr eigener Praxis: Ja, wenn drei Bedingungen zusammenkommen. Erstens ein hohes Volumen wiederkehrender, gleichförmiger Vorgänge, denn nur dann verteilt sich der Einrichtungs- und Wartungsaufwand auf genug Fälle. Zweitens eine Prüfung, die deutlich schneller ist als das Selbermachen: der Sekunden-Abgleich statt der Neu-Recherche. Und drittens Fehlerfolgen, die begrenzt oder technisch abfangbar sind, etwa weil die Prüfung vor dem Export sitzt und Fehler intern bleiben.

Meine Buchhaltung erfüllt alle drei Bedingungen. Deshalb trägt sie sich, inklusive meiner Prüfzeit. Und genauso ehrlich: Es gibt Vorgänge, bei denen ich KI bewusst nicht ranlasse. Über Zahlungen entscheidet mein System nicht, aufs Bankkonto hat es keinen Zugriff. Seltene, heterogene Vorgänge mit teuren Fehlerfolgen und langsamer Prüfbarkeit sind schlechte Kandidaten: Da ist Selbermachen schlicht billiger. Das ist kein Scheitern, sondern ein legitimes Ergebnis der Rechnung: Man darf sich auch gegen KI entscheiden, pro Vorgangstyp.

Was ich dir mitgeben möchte, ist deshalb kein Prozentversprechen, sondern eine Denkweise: Human in the middle ist keine Schwäche der Rechnung – es ist die Rechnung. Wer Prüf- und Korrekturzeit von Anfang an einpreist, erlebt nach drei Monaten keine böse Überraschung, sondern im besten Fall eine positive: dass netto mehr übrig bleibt als gedacht.

Und wenn bei dir gerade das Gegenteil los ist? Das Tool läuft, das Team prüft, und niemand kann sagen, ob unterm Strich etwas übrig bleibt. Dann sprich mich an, schreib mir eine E-Mail oder ruf einfach an. In unserer Potenzialanalyse rechnen wir brutto und netto. Und wir suchen gezielt die Aufgaben heraus, deren Prüfprofil eine positive Rechnung überhaupt erlaubt. Fehlerfreiheit kann ich dir nicht versprechen; die verspricht dir niemand Seriöses. Aber eine Rechnung, die stimmt.