Wann darfst du KI-Ergebnissen trauen? Die Drei-Stufen-Regel für dein Team (das fehlende Kapitel deiner KI-Nutzungsrichtlinie)

Stell dir eine Szene vor, die sich in deutschen Büros gerade tausendfach abspielt. Eine Sachbearbeiterin lässt die Antwort an einen Kunden von der KI vorformulieren. Der Text ist sauber, freundlich, souverän. Ehrlich gesagt besser formuliert, als es die meisten von uns vor dem zweiten Kaffee hinbekommen. Nur die zugesagte Lieferfrist stimmt nicht. Die hat die KI erfunden. Die Mail ist raus. Und jetzt die unbequeme Frage: Wessen Problem ist das?

Kennst du diese Situation auch:

• In deinem Unternehmen gehen täglich KI-formulierte Texte an Kunden raus, und niemand kann dir sagen, ob sie vorher jemand geprüft hat?
• Dein Team fragt, welche KI-Ergebnisse es ungeprüft verwenden darf – und du hast darauf keine bessere Antwort als „kommt drauf an"?
• In deiner KI-Richtlinie steht, welche Werkzeuge erlaubt sind – aber kein Wort dazu, was mit den Ergebnissen passiert, bevor sie das Haus verlassen?

Vor ein paar Wochen habe ich hier über Schatten-KI geschrieben – darüber, welche Werkzeuge dein Team nutzen darf und wie aus heimlicher KI-Nutzung eine geregelte wird. Heute geht es um das Kapitel, das danach kommt und das in fast jeder Nutzungsrichtlinie fehlt: was mit dem passiert, was die KI produziert. Zur Einordnung: Laut Bitkom hatten im Herbst 2025 überhaupt erst 23 Prozent der Unternehmen in Deutschland Regeln für den KI-Einsatz aufgestellt. Und von den Richtlinien, die mir seitdem in Workshops begegnen, regeln die meisten nur die Werkzeug-Frage – meine Beobachtung aus der Praxis, keine Statistik, aber erstaunlich konstant.

Wer haftet, wenn die KI Unsinn erzählt? (Spoiler: du)

Warum dieses Kapitel kein Nice-to-have ist, zeigt ein Fall aus Kanada. Der Chatbot von Air Canada erklärte einem Kunden, er könne ein reguläres Ticket kaufen und sich nachträglich den günstigeren Trauerfall-Tarif erstatten lassen. Eine solche Regel gab es bei der Airline nicht – der Chatbot hatte sie erfunden. Als der Kunde sein Geld wollte, ließ es Air Canada auf ein Verfahren ankommen, mit einer bemerkenswerten Verteidigung: Der Chatbot sei „eine eigene juristische Person, die für ihre Handlungen selbst verantwortlich ist". Das Tribunal in British Columbia nannte das wörtlich „a remarkable submission" und verurteilte Air Canada Anfang 2024 zu 650,88 kanadischen Dollar Schadensersatz, plus Zinsen und Gebühren. Der Betrag ist lächerlich. Das Prinzip ist es nicht: Ein Unternehmen ist für alle Informationen auf seiner Website verantwortlich – egal, ob sie auf einer statischen Seite stehen oder von einem Chatbot erzeugt werden. (Wie du einen Website-Chatbot rechtssicher aufsetzt, habe ich separat aufgeschrieben.)

Falls du jetzt denkst, Kanada sei weit weg: Das Landgericht Kiel hat im Februar 2024 in dieselbe Richtung entschieden. Ein Wirtschaftsinformationsportal hatte Meldungen automatisiert per KI erzeugen und veröffentlichen lassen – darunter die frei erfundene Behauptung, ein Familienunternehmen werde wegen Vermögenslosigkeit gelöscht. Das Gericht sah den Portalbetreiber als unmittelbaren Störer in der Verantwortung: Wer KI willentlich Inhalte erzeugen und veröffentlichen lässt, macht sich diese Inhalte zu eigen. Und – für die Praxis der wichtigste Teil – einen Hinweis nach dem Muster „unsere KI kann Fehler machen" ließ das Gericht ausdrücklich nicht gelten.

Übersetzt in deinen Alltag heißt das: Die KI-formulierte Kundenmail mit der falschen Fristzusage vom Anfang ist rechtlich deine Aussage. Genau wie bei einem Mitarbeiter, der sich vertut – nur dass ein Mitarbeiter keine dreihundert solcher Mails am Tag schreibt. (Und bevor das falsch rüberkommt: Ich bin Techniker, kein Anwalt. Was im Einzelfall gilt, klärt dein Jurist. Aber die Richtung dieser Urteile kann auch ein Techniker lesen.)

Was der AI Act von dir will (und was noch nicht)

Nun könnte man meinen, die EU hätte für dieses Problem längst ein Pflichtenheft geschrieben. Hat sie – teilweise. Artikel 26 der KI-Verordnung verlangt von Betreibern von Hochrisiko-KI, dass sie die menschliche Aufsicht Personen übertragen, die „über die erforderliche Kompetenz, Ausbildung und Befugnis verfügen". Ich finde diese Formulierung ausgesprochen brauchbar, denn sie macht aus einem Gefühl eine Organisationsfrage: Aufsicht ist keine Stimmung („wir schauen da schon drauf"), sondern eine benannte Verantwortung mit Rückendeckung.

Bevor du deswegen in Aktionismus verfällst, die ehrliche Einordnung – die kennst du vielleicht schon aus meinem Beitrag zu den AI-Act-Fristen: Als harte Rechtspflicht gilt Artikel 26 nur für Betreiber von Hochrisiko-KI, und diese Pflichten greifen nach der Verschiebung durch den Digital Omnibus erst ab Dezember 2027. Die meisten KI-Anwendungen im Mittelstand sind gar kein Hochrisiko – E-Mails formulieren und Protokolle zusammenfassen wird es auch nie werden. Längst für alle gilt dagegen – seit Februar 2025 – die KI-Kompetenz-Pflicht aus Artikel 4: Wer KI einsetzt, muss sein Personal dafür schulen.

Warum ich Artikel 26 trotzdem so weit nach vorn stelle: Er ist die Blaupause dafür, wie der Gesetzgeber Verantwortung für KI denkt. Benannte Menschen, mit Kompetenz, mit Befugnis, mit Unterstützung. Genau das leistet die Freigabe-Regel im Kleinen – heute, freiwillig und unabhängig davon, ob deine KI jemals in die Hochrisiko-Kategorie fällt. Und die drei Dinge, die dafür nötig sind, kann in deinem Unternehmen niemand außer dir entscheiden: Personen benennen, sie befähigen und ihnen die Prüfzeit tatsächlich freigeben.

Die Drei-Stufen-Regel: Freigabe nach Risiko, nicht nach Bauchgefühl

Damit zum Herzstück – und vorweg ehrlich zur Herkunft: Die Drei-Stufen-Regel ist kein Framework aus dem Lehrbuch, sondern destilliert aus meiner eigenen Automatisierungspraxis – bei mir laufen seit 2025 Buchhaltung, Akquise und große Teile der Entwicklung über KI – und aus Kunden-Workshops, in denen ich immer wieder dieselbe Lücke sehe: Die Teams scheitern nicht an der Technik, sondern an der unbeantworteten Frage „dürfen wir das jetzt einfach rausschicken?". Ein Erfahrungswert also, kein Naturgesetz und kein erprobtes Konzern-Framework.

Die Regel selbst passt in drei Sätze.

Stufe 1 – intern und Entwurf: frei

Brainstorming, interne Zusammenfassungen, Rohentwürfe, Recherche-Startpunkte: keine Freigabe, keine Bürokratie. Der Fehler-Radius ist klein: Das Schlimmste ist ein schlechter Entwurf, und der wird im eigenen Haus als solcher erkannt. Wichtiger noch: Wer hier Vollkontrolle verlangt, tötet die Nutzung. Wenn jede KI-Notiz einen Freigabeprozess durchläuft, macht dein Team entweder nichts mehr mit KI – oder alles heimlich, und dann bist du wieder bei der Schatten-KI.

Stufe 2 – kundengerichtet: Vier-Augen

Alles, was das Haus verlässt – E-Mails, Angebote, Website-Texte, Social-Media-Beiträge –, liest vor dem Versand ein Mensch. Und dieser Mensch zeichnet mit seiner Freigabe verantwortlich. Warum das nicht selbstverständlich ist, zeigt eine globale KPMG-Studie von 2025 mit über 48.000 Befragten in 47 Ländern: 66 Prozent der Beschäftigten, die KI bei der Arbeit nutzen, haben sich schon auf KI-Ergebnisse verlassen, ohne die Richtigkeit kritisch zu prüfen – und 56 Prozent haben durch KI bereits Fehler in ihrer Arbeit gemacht. Beides zusammen ist exakt die Szene vom Anfang – die Vier-Augen-Stufe ist die direkte Antwort darauf.

Stufe 3 – rechtlich, finanziell, personenbezogen: nie ungeprüft

Fristen und Zusagen, Verträge, Preise, Zahlen in Abschlüssen – und alles, was Bewerber oder Mitarbeiter betrifft: Das verlässt das Haus nie ohne dokumentierte menschliche Letztentscheidung. Dokumentiert heißt: Es ist hinterher nachvollziehbar, wer wann geprüft und freigegeben hat. Hier reicht kein flüchtiger Blick – hier prüft jemand, der den Inhalt fachlich beurteilen kann. (Bei Entscheidungen über Menschen, Stichwort Bewerbungen, bist du übrigens schnell in der echten Hochrisiko-Welt des AI Act – ob das bei dir der Fall ist, klärt der 10-Minuten-Check.)

Als Tabelle für deine Richtlinie sieht das so aus:

Stichprobe statt Vollkontrolle: wie die Regel im Alltag überlebt

Der häufigste Einwand, wenn ich diese Stufen vorstelle: „Wenn wir alles prüfen müssen, kann ich es auch gleich selbst schreiben." Berechtigt – wenn man Prüfen mit Vollkontrolle verwechselt. Die Stufen sagen ja gerade nicht „alles prüfen", sondern „nach Risiko prüfen". Für Stufe 1 gilt: gar nicht. Für Stufe 2 reicht bei eingespielten, wiederkehrenden Formaten oft die Kombination aus Freigabe und regelmäßiger Stichprobe – damit schleichende Fehler überhaupt auffallen. So halte ich es auch selbst: Alles, was bei mir nach außen geht oder etwas verändert, wird von einem Menschen freigegeben oder zumindest stichprobenartig kontrolliert – ohne diese Regel würde ich keinen einzigen meiner KI-Agenten laufen lassen.

Was der Prüfaufwand unterm Strich kostet und wann sich KI trotzdem rechnet, habe ich im Beitrag über KI-Fehler in der Sachbearbeitung vorgerechnet. Hier nur der Grundsatz, der in deine Richtlinie gehört: Prüfzeit ist Arbeitszeit. Wer die Stufen beschließt, muss sie auch budgetieren. Sonst werden sie in der ersten stressigen Woche stillschweigend abgeschafft – genau dann, wenn die Fehlerwahrscheinlichkeit am höchsten ist.

Der Meldeweg: Was passiert, wenn jemand einen KI-Fehler findet?

Jetzt zu dem Teil, der in meinen Augen am meisten unterschätzt wird. Auch mit Drei-Stufen-Regel werden Fehler durchrutschen – die Frage ist nur, ob du davon erfährst. Ich erzähle an dieser Stelle gerne gegen mich selbst: Mir hat mal ein Coding-Agent eine zentrale Sicherheitsprüfung „vereinfacht" – sprich: entfernt. Der Code sah sauber aus, die Tests liefen durch, und erst der zweite Blick hat es gezeigt. Ich habe darüber geschrieben, weil die Lektion wichtig ist: Auch eine eingespielte Prüf-Routine ist fehlbar – gute Prüfung ist Kultur plus Routine, nicht Heldentum.

Und die Kultur-Seite hat es in sich: Dieselbe KPMG-Studie liefert noch eine dritte Zahl. 57 Prozent der Beschäftigten, die KI nutzen, haben sie schon intransparent eingesetzt – KI-Arbeit als eigene ausgegeben oder die Nutzung schlicht verschwiegen. Vertuschung ist beim Thema KI also nicht die Ausnahme, sondern näher am Normalzustand. Ob das in deinem Unternehmen so bleibt, entscheidet nicht deine Richtlinie, sondern deine Reaktion auf die erste Fehlermeldung.

Der Meldeweg selbst ist unspektakulär, und genau so soll er sein: eine benannte Stelle, an die entdeckte KI-Fehler gemeldet werden. Was dann passiert: Der Fehler wird dokumentiert, die zugrunde liegende Vorlage oder der Prompt wird korrigiert, und wenn sich eine Aufgabe als fehleranfälliger erweist als gedacht, wandert sie eine Stufe höher. Was ausdrücklich nicht passiert: kein Eintrag, kein Vorwurf, kein spitzer Kommentar im Teammeeting. Wer für gemeldete Fehler bestraft wird, versteckt den nächsten – und dann erfährst du von deinem KI-Problem zum ersten Mal durch den Anwalt deines Kunden. Das ist die teuerste aller Varianten.

Auf eine Seite: das fehlende Kapitel deiner Nutzungsrichtlinie

Ziehen wir es zusammen: Die Zwei-Seiten-Richtlinie aus dem Schatten-KI-Beitrag wächst um genau eine Seite – mit vier Dingen darauf. Erstens die drei Stufen – mit Beispielen aus deinem Alltag statt abstrakter Kategorien. Zweitens benannte Freigabe-Verantwortliche, ganz im Sinne von Artikel 26: mit Kompetenz und mit Befugnis, nicht einfach „der, der gerade Zeit hat". Drittens das Stichprobenprinzip samt budgetierter Prüfzeit. Und viertens der Meldeweg, inklusive des Satzes, dass Melden ausdrücklich erwünscht ist und keine Konsequenzen hat.

Dein Part als Geschäftsführer ist klar umrissen und nicht delegierbar: die Stufen beschließen, die Personen benennen, die Prüfzeit freigeben – und den Meldeweg vorleben. Vorleben heißt auch: Wenn dir selbst ein KI-Fehler durchrutscht, erzähl davon. Nichts macht einen Meldeweg glaubwürdiger als ein Chef, der ihn benutzt.

Eine ehrliche Grenze zum Schluss: Die Stufen-Zuordnung ist keine Naturkonstante. Was bei dir Stufe 2 ist, ist beim Steuerberater Stufe 3, und was in deinem Marketing frei laufen kann, wäre in einer Arztpraxis undenkbar. Deshalb entsteht dieses Kapitel am besten nicht am grünen Tisch, sondern mit den Leuten, die die Ergebnisse täglich produzieren – genau so machen wir das in unseren KI-Workshops, wo aus der generischen Regel die konkrete Zuordnung für dein Unternehmen wird, samt Vorlagen und Meldeweg. Und weil Haftung, Aufsichts-Logik und Freigabeprozesse zusammengehören, ist das bei mir keine getrennte Baustelle von Compliance – eine Regel, die niemand anwendet, ist nur Papier mit Firmenlogo.

Wenn du deine Nutzungsrichtlinie um dieses Kapitel erweitern willst – oder noch gar keine hast und gleich mit allen drei Kapiteln anfangen möchtest: Sprich mich an, schreib mir eine E-Mail oder ruf einfach an. Lass uns gemeinsam sortieren, welche deiner KI-Ergebnisse in welche Stufe gehören. Das ist überschaubarer, als es klingt – und deutlich entspannter, als es hinterher einem Gericht zu erklären.