Erst aufräumen, dann KI: Was „KI-fähige Daten“ konkret heißt (und wer bei dir den Fileserver entrümpelt)

Es gibt einen Moment in KI-Projekten, den ich aus Gesprächen und Workshops inzwischen gut kenne. Die Demo beim Anbieter war beeindruckend, die Entscheidung ist gefallen, alle sind guter Dinge. Und dann öffnet zum ersten Mal jemand mit dem Projekt im Hinterkopf den Fileserver. Da liegt „Angebot_final_v7_NEU.docx". Direkt daneben: „Angebot_final_v7_NEU_(2).docx". Ein Ordner namens „Alt_nicht_löschen", zuletzt geändert 2017. Die Details sind von Firma zu Firma verschieden, das Muster ist es nie.

Kennst du diese Situation auch:

• Die Chatbot-Demo beim Anbieter lief beeindruckend flüssig, allerdings mit dessen sauber vorbereiteten Beispieldaten?
• Du willst „unser Firmenwissen per Chat durchsuchbar machen" und ahnst beim Gedanken an deinen Fileserver, dass da etwas nicht zusammenpasst?
• Oder der erste Versuch läuft schon, und der Chatbot zitiert mit vollem Selbstbewusstsein die Preisliste von 2019?

Dann geht es dir wie vielen. Und damit wir uns richtig verstehen: Ich schreibe das nicht von oben herab. Als ich meine eigene KI-Assistentin Lea gebaut habe (sie läuft seit 2025 im Dauerbetrieb, mit Supabase als Vektor-Datenbank für ihr Firmenwissen), war mein erster Impuls exakt derselbe, den ich heute überall sehe: alles rein in den Index, die KI wird das schon sortieren. Wird sie nicht. Ich habe meine Wissensbasis kuratieren müssen, und ich weiß seitdem aus eigenem Betrieb, was passiert, wenn Veraltetes im Index liegt: Die Antworten klingen souverän und sind trotzdem falsch.

Eine Sache vorweg, damit dieser Artikel sauber einsortiert ist: Wann RAG überhaupt der richtige Ansatz ist und wann ein System-Prompt völlig reicht, habe ich in einem eigenen Artikel erklärt. Heute geht es um die Frage davor: Was muss mit deinen Daten passieren, bevor irgendein KI-Projekt darauf laufen kann? Kleiner Spoiler: Es ist keine Technikfrage. Es ist eine Budget- und Verantwortungsfrage. Und damit deine.

Warum „Müll rein, Müll raus" bei RAG wörtlich gilt

RAG macht deine Dokumente nicht klüger. Es macht sie auffindbar. Und zwar alle, auch die falschen. Das System bewertet nicht, ob ein Dokument noch gilt; es findet, was zur Frage passt. Die Preisliste von 2019 passt zur Frage „Was kostet Produkt X?" genauso gut wie die aktuelle. Den Unterschied zwischen „aktuell" und „lag halt noch da" gibt es für die KI nicht, solange ihn niemand in den Datenbestand hineingearbeitet hat.

Das typische Fehlerbild sieht deshalb so aus: Der Chatbot antwortet flüssig, freundlich, gerne sogar mit Quellenangabe. Und zitiert die Konditionen des längst gekündigten Lieferanten oder die Urlaubsregelung von vor der letzten Betriebsvereinbarung. Das Gemeine daran: Es sieht aus wie ein KI-Fehler. Ist es aber nicht. Das Modell hat einwandfrei gearbeitet. Es hat gefunden, was da war.

Wie groß die Lücke zwischen Selbstbild und Realität ist, zeigt eine Zahl, die ich bemerkenswert finde: In einer Befragung von AvePoint und AIIM unter mehr als 750 Führungskräften aus 16 Ländern hielten 80 Prozent ihre Daten für KI-bereit. Bei der Umsetzung stießen dann 52 Prozent auf Probleme mit Datenqualität und Kategorisierung. (Eine Hersteller-Studie, das gehört dazugesagt, aber das Muster deckt sich mit dem, was mir begegnet.) Gartner erwartet, dass bis Ende 2026 60 Prozent der KI-Projekte aufgegeben werden, die nicht auf KI-fähigen Daten stehen. Eine Prognose, keine Messung, aber eine mit Ansage. Und auch hierzulande nannte in der im September 2025 veröffentlichten Bitkom-Befragung rund ein Viertel der Unternehmen fehlende Daten als Hemmnis für die KI-Nutzung.

Nun klingt „Datenqualität" nach genau der Sorte IT-Nebelwort, bei dem man als Geschäftsführer innerlich abschaltet (verständlicherweise, denn mir geht es mit manchen Compliance-Vokabeln genauso). Deshalb übersetze ich es in das, was es in der Praxis ist: vier prüfbare Fragen, die du in jeder Besprechung stellen kannst. Ganz ohne Technikwissen.

Die vier Kriterien für KI-fähige Daten

Kriterium 1: Eine eindeutige, aktuelle Version

Die erste Frage ist die einfachste und die brutalste zugleich: Welches Dokument gilt, und woran erkennt man das? Wenn die ehrliche Antwort „kommt drauf an, wen du fragst" lautet, dann antwortet auch deine KI mit „kommt drauf an". Nur formuliert sie es leider nicht so ehrlich, sondern zitiert mit fester Stimme mal die eine, mal die andere Version. Ein erfahrener Mitarbeiter weiß implizit, welche Datei die richtige ist, weil er die Geschichte dahinter kennt. Die KI kennt keine Geschichten. Sie liest, was da ist.

Kriterium 2: Ein benannter Eigentümer

Hinter fast jeder veralteten Datei steckt dieselbe Ursache: Niemand ist zuständig. Eigentümer heißt hier ganz konkret: eine Person aus dem Fachbereich, die für einen Dokumentbestand entscheiden darf und muss: gilt noch, wird archiviert, fliegt raus. Ohne diesen Menschen bleibt jede Aufräumaktion auf halber Strecke liegen, weil am Ende doch niemand das Angebot von 2021 zu löschen wagt (es könnte ja noch jemand brauchen ... irgendwann ... vielleicht). Eigentümer benennen kostet nichts außer einer Entscheidung. Deiner.

Kriterium 3: Saubere Zugriffsrechte

Hier wird es heikel, denn eine KI mit Zugriff auf deine Dokumente ist die gründlichste Suchmaschine, die dein Unternehmen je hatte. Sie zeigt jedem alles, worauf er theoretisch Zugriff hat. Auch den Gehaltsordner, der vor Jahren „nur mal kurz" für alle freigegeben wurde und an den seitdem niemand mehr gedacht hat. Das ist keine theoretische Sorge von mir: Microsoft selbst stellt der Einführung von Microsoft 365 Copilot einen eigenen Deployment-Leitfaden voran, dessen erste von drei Säulen „Oversharing beheben" heißt, noch vor Schutzmechanismen und Regulatorik. Wenn der größte Softwareanbieter der Welt „erst Rechte aufräumen, dann KI" sagt, dann würde ich das ernst nehmen. Was bei den Zugriffsrechten zusätzlich rechtlich zu beachten ist, wenn dein Chatbot nach außen zeigt, habe ich im Artikel zum rechtssicheren Website-Chatbot beschrieben.

Kriterium 4: Ein maschinenlesbares Format

Das vierte Kriterium ist das unscheinbarste: Kann eine Maschine den Inhalt überhaupt lesen? Gescannte PDFs ohne Texterkennung sind für die KI Bilder, keine Dokumente. Wissen, das nur in Screenshots, Whiteboard-Fotos oder über Jahre gewachsenen Excel-Grabkammern steckt, ist für ein RAG-System erst einmal unsichtbar. Und davon gibt es reichlich: Je nach Schätzung sind 80 bis 90 Prozent der Unternehmensdaten unstrukturiert: Dokumente, E-Mails, PDFs, Bilder. Technisch lässt sich vieles davon erschließen, Texterkennung ist heute gut und bezahlbar. Aber jemand muss es tun. Und vorher entscheiden, was sich überhaupt lohnt.

Damit du die vier Fragen griffbereit hast, hier die Übersicht:

Die Tabelle hat eine Botschaft zwischen den Zeilen, und die ist mir wichtig: In der Spalte „Wer es beheben muss" steht fast nie nur „IT". Dazu gleich mehr.

Die unbequeme Rechnung: Aufräumen ist Projektzeit, die niemand budgetiert

Jetzt zu der Frage, die du dir als Geschäftsführer vermutlich längst stellst: Was kostet das? Eine Branchenzahl kann ich dir nicht bieten, und ich misstraue ehrlich gesagt jedem, der eine parat hat. Was ich dir bieten kann, ist mein Erfahrungswert: In meinen Projekten geht regelmäßig um die Hälfte der Zeit für das Sichten, Entscheiden und Aufräumen der Daten drauf. Nicht für Modelle, nicht für Prompts, nicht für die Technik. Sondern für die Frage, welche Dokumente überhaupt hinein dürfen.

Warum steht das in keinem Angebot? Ganz einfach: Der Tool-Anbieter verkauft dir die Lizenz, nicht dein Aufräumen. Sein Angebot endet genau dort, wo deine Arbeit anfängt. Und in der Demo waren die Daten ja schon sauber. Das ist kein böser Wille. Es ist schlicht nicht sein Job.

Für dich folgt daraus eine sehr konkrete Konsequenz: Wer ein KI-Budget freigibt, gibt auch Fachbereichs-Stunden frei. Wenn dein Vertriebsleiter und deine HR-Verantwortliche keine Zeit bekommen, ihre Dokumentbestände zu sichten, hast du nur das halbe Projekt budgetiert, und der fehlende Teil ist ausgerechnet der, an dem die Qualität der Antworten hängt.

Warum „das macht die IT" nicht funktioniert

An dieser Stelle fällt in Besprechungen zuverlässig der Satz: „Das soll die IT machen." Ich verstehe den Reflex. Es klingt ja nach einem Technikproblem. Aber die IT kann nur zwei der vier Kriterien wirklich bedienen: Zugriffsrechte reparieren und Formate konvertieren. Ob das Angebot von 2021 noch gilt, ob die Maschinendokumentation dem aktuellen Stand entspricht, ob die alte Preisstaffel für Bestandskunden noch greift: Das weiß der Vertrieb, die Fertigung, der Einkauf. Die IT kann es nicht wissen, und es ist unfair, es von ihr zu erwarten.

Es gibt einen Moment, den ich in Workshops immer wieder beobachte: Die Frage „Und wer räumt das jetzt auf?" steht im Raum, und alle Blicke wandern wie von selbst zum IT-Leiter. Der IT-Leiter guckt auf den Tisch. Zu Recht, finde ich. Aufräumen ist eine Fachbereichs-Aufgabe mit IT-Unterstützung, nicht umgekehrt. Und weil kein Fachbereich diese Arbeit freiwillig neben dem Tagesgeschäft stemmt (warum sollte er auch?), ist es am Ende eine Verantwortungs- und Zeitbudget-Frage. Also deine.

Der Nebeneffekt, den dir keiner sagt: Aufräumen ist auch Datenschutz

Ein Aspekt, der in der KI-Diskussion fast immer untergeht: Auf dem typischen gewachsenen Fileserver liegen nicht nur veraltete Preislisten. Da liegen Bewerbungsunterlagen von 2018, Personaldaten längst ausgeschiedener Mitarbeiter, Kundendaten aus Projekten, die seit zehn Jahren abgeschlossen sind. Die DSGVO verlangt in Artikel 5 ohnehin Richtigkeit, Datenminimierung und Speicherbegrenzung: Personenbezogene Daten sollen schlicht nicht länger herumliegen, als sie für ihren Zweck gebraucht werden.

Ich sage das ausdrücklich nicht als Drohkulisse. Diese Datenleichen liegen heute schon da, mit oder ohne KI. Ein RAG-Index macht sie nur schneller auffindbar und die Hausaufgabe damit sichtbarer. Man kann das als Problem lesen. Ich lese es als Effizienzgewinn: Das Aufräumen fürs KI-Projekt erledigt nebenbei eine Datenschutz-Hausaufgabe, die sowieso fällig war. Einmal Arbeit, zwei Pflichten erledigt. Wie Datenablage und Berechtigungen in einer DSGVO-konformen KI-Architektur zusammenspielen, habe ich in den fünf Entscheidungen zur DSGVO-konformen KI-Einführung beschrieben. Das Aufräumen hier ist das Fundament dafür.

Wie du startest, ohne die ganze Firma zu entrümpeln

Nach allem, was bis hierhin stand, liegt ein Missverständnis nahe, das ich unbedingt ausräumen möchte: Nein, du musst nicht erst zwei Jahre lang den kompletten Fileserver entrümpeln, bevor du mit KI anfangen darfst. Der zweite Fehler nach „gar nicht aufräumen" ist nämlich „alles aufräumen wollen": die Generalinventur, die so groß ist, dass sie nie beginnt.

Was stattdessen funktioniert: ein kuratierter Startkorpus für einen einzigen Anwendungsfall. Genau so betreibe ich Lea: Sie läuft nicht auf meinem kompletten Datenbestand, sondern auf einer bewusst zusammengestellten Wissensbasis, und genau deshalb sind ihre Antworten brauchbar. Für deinen ersten Anwendungsfall heißt das: die relevanten Dokumente identifizieren, einen Eigentümer benennen, eine Update-Routine festlegen (wer prüft wann, dass der Bestand aktuell bleibt) und dann wachsen lassen. Klein anzufangen ist hier keine Verlegenheitslösung. Es ist die einzige Startgröße, die je fertig wird.

(Wie es danach mit Chunking, Embeddings und Vektor-Datenbanken technisch weitergeht, ist Handwerk. Dafür gibt es Leute wie mich, und deshalb bleibt es in diesem Artikel bewusst draußen.) Übrigens gilt dieselbe Logik eine Etage höher auch für deinen Webauftritt: Wer seine Website KI-ready plant, trifft strukturell genau dieselben Entscheidungen: strukturierter Content statt Text-Tapete.

Damit bin ich bei der Kernbotschaft dieses Artikels: Deine KI wird so gut sein wie das, was sie zu lesen bekommt. Und was sie zu lesen bekommt, entscheidet nicht der Anbieter, nicht das Modell und auch nicht die IT – das entscheidest du, mit Budget, benannten Eigentümern und ein bisschen Geduld. Die vier Fragen dafür hast du jetzt.

Genau deshalb beginnt bei webiator die Potenzialanalyse nicht mit Modellen, sondern mit deinen Daten: im Kern mit genau den vier Fragen aus diesem Artikel. Wenn du wissen willst, wie dein Datenbestand für deinen konkreten Anwendungsfall dasteht, oder wenn dein erster Chatbot-Versuch gerade souverän falsche Antworten gibt: Sprich mich an, schreib mir eine E-Mail oder ruf einfach an. Lass uns gemeinsam herausfinden, was bei dir schon KI-fähig ist und was erst noch aufgeräumt werden will.