Der KI-Chatbot auf deiner Website: rechtssicher in sechs Schritten

Es gibt eine Sorte Anfrage, die ich inzwischen fast wöchentlich bekomme: „Wir haben einen KI-Chatbot auf der Website. Können Sie mal draufschauen, ob das so in Ordnung ist?" Und ich verrate dir etwas: Es ist fast nie in Ordnung. Nicht weil die Unternehmen fahrlässig wären, sondern weil ein Chatbot heute an einem Nachmittag eingebaut ist. Ein Widget-Skript, ein API-Schlüssel, fertig. Die Technik ist so einfach geworden, dass man gar nicht merkt, wie viele rechtliche Fragen man gerade nebenbei aufgemacht hat.

Ich bin Artur, seit 2009 selbstständig. Ich baue solche Systeme selbst, vom Website-Chatbot bis zum KI-Telefonassistenten, der bei Anrufen ans Telefon geht, und ich habe mir 2021 geschworen, KI nur DSGVO-konform einzusetzen. Deshalb ist dieser Artikel bewusst beides zugleich: Technik und Recht. Denn das ist die eigentliche Pointe beim Thema KI-Chatbot und Datenschutz: Die rechtlichen Anforderungen erfüllt man nicht mit einem Absatz in der Datenschutzerklärung, sondern zum größten Teil in der technischen Umsetzung. Wer beides getrennt behandelt, baut zweimal.

Ich nehme dich deshalb einmal mit durch den Ablauf, wie ich einen Chatbot aufsetze: sechs Schritte, in genau dieser Reihenfolge, weil jeder auf dem vorherigen aufbaut.

Schritt eins: der Anbieter und der Vertrag, den fast alle vergessen

Alles beginnt mit der Frage, welches KI-Modell hinter dem Chatbot steckt und wo es läuft. Und bevor irgendein Skript auf der Website landet, kommt der unglamouröseste Teil des ganzen Projekts: der Auftragsverarbeitungsvertrag, kurz AVV, den Art. 28 DSGVO für genau diese Konstellation vorschreibt. Sobald dein Chatbot Eingaben von Besuchern an einen KI-Anbieter weiterreicht (und das tut er, das ist sein Job), verarbeitet dieser Anbieter Daten in deinem Auftrag. Ohne AVV ist der Betrieb eines KI-Chatbots schlicht ein DSGVO-Verstoß, ganz egal, wie harmlos er wirkt.

Die gute Nachricht: Die großen Anbieter haben solche Verträge inzwischen standardmäßig im Angebot, oft mit EU-Endpoints dazu. Man muss sie nur abschließen. Ich prüfe an dieser Stelle immer drei Dinge: Gibt es einen AVV? Wo werden die Daten verarbeitet? Und lässt sich die Nutzung der Eingaben fürs Training ausschließen? Wenn ein Anbieter bei einer dieser Fragen mauert, ist er raus – da bin ich unromantisch.

Schritt zwei: der Chatbot muss sagen, dass er einer ist

Seit der EU AI Act gilt, ist das keine Stilfrage mehr, sondern Pflicht: Wer mit einem KI-System interagiert, muss das erkennen können. Das steht so in Artikel 50 der KI-Verordnung und gilt seit dem 2. August 2026 verbindlich. Dein Chatbot muss sich also als KI zu erkennen geben: ein klarer Hinweis beim Start des Gesprächs, „Ich bin der KI-Assistent von …", und die Sache ist erledigt.

Ich halte das ehrlich gesagt auch ohne Gesetz für die bessere Lösung. Ein Chatbot, der so tut, als wäre er ein Mensch, fliegt sowieso auf, meistens im dümmsten Moment, und dann ist das Vertrauen dahin. Dazu gehört für mich übrigens auch der Hinweis, wie Besucher einen echten Menschen erreichen, wenn der Bot nicht weiterkommt. Das verlangt kein Gesetz, aber der gesunde Menschenverstand.

Schritt drei: Datenminimierung beginnt im Prompt-Design

Jetzt wird es technisch, und jetzt entscheidet sich der Datenschutz wirklich. Die DSGVO verlangt in Art. 5 Datenminimierung: Es dürfen nur die Daten verarbeitet werden, die für den Zweck nötig sind. Für einen Chatbot heißt das: Datenminimierung steckt im Prompt-Design und im Gesprächsdesign, nicht im Kleingedruckten. Diese Übersetzung fehlt in fast jedem Rechtsratgeber.

Konkret baue ich Chatbots so, dass sie gar nicht erst nach personenbezogenen Daten fragen, wenn sie sie nicht brauchen. Ein Bot, der Produktfragen beantwortet, braucht keinen Namen und keine E-Mail-Adresse. Wenn Besucher trotzdem persönliche Daten in den Chat tippen (und das tun sie, glaub mir: Von der Telefonnummer bis zur halben Krankengeschichte ist alles dabei), kann eine vorgeschaltete Filterung solche Angaben erkennen und maskieren, bevor sie an das Modell gehen. Und die Systemanweisung des Bots bekommt eine klare Regel: keine sensiblen Daten erfragen, bei solchen Themen an einen Menschen verweisen. Das sind ein paar Stunden Entwicklungsarbeit, die später ganze Diskussionen mit dem Datenschutzbeauftragten überflüssig machen.

Schritt vier: Wenn der Bot deine Dokumente kennt, braucht er auch deine Zugriffsrechte

Die meisten Chatbots werden erst richtig nützlich, wenn sie auf eigenes Wissen zugreifen: Produktdaten, Handbücher, interne Dokumente. Technisch nennt sich das RAG, kurz für Retrieval-Augmented Generation: Der Bot durchsucht eine Wissensbasis und antwortet auf deren Grundlage. Und hier lauert die Falle, die ich in Audits am häufigsten finde: Es landen Dokumente in der Wissensbasis, die nie für die Öffentlichkeit gedacht waren.

Die Regel ist einfach, ihre Umsetzung wird trotzdem ständig übersprungen: Ein öffentlicher Website-Chatbot darf nur auf Inhalte zugreifen, die auch öffentlich sein dürfen. Punkt. Sobald interne Dokumente ins Spiel kommen, etwa bei einem Bot für eingeloggte Kunden oder Mitarbeiter, braucht die Wissensbasis echte Zugriffskontrolle: Der Bot darf einem Nutzer nur zeigen, was dieser Nutzer auch selbst sehen dürfte. Genau das empfiehlt auch die Datenschutzkonferenz in ihrer Orientierungshilfe zu RAG-Systemen: ein Rechte- und Rollenkonzept mit Zugangsbeschränkungen für die Vektordatenbank und die hinterlegten Dokumente. Die Vektor-Datenbank ist der Speicher, in dem die Wissensbasis für die KI-Suche liegt. Wenn sie keine Berechtigungen kennt, hast du kein KI-Problem, sondern ein Berechtigungsproblem mit eingebautem Lautsprecher.

Schritt fünf: Training-Opt-out setzen und das Logging zähmen

Ein Chatbot-Gespräch endet nicht, wenn das Chatfenster zugeht. Die Eingaben deiner Besucher dürfen beim KI-Anbieter nicht fürs Training verwendet werden. Das Opt-out dafür muss aktiv gesetzt werden, es ist nicht überall Standard. Das BSI führt genau dieses Szenario als eigenes Risiko generativer KI-Modelle: Der Anbieter greift auf die Eingaben zu und nutzt sie fürs Training. Und die Datenschutzkonferenz empfiehlt, Anwendungen zu bevorzugen, die Ein- und Ausgaben gar nicht erst zu Trainingszwecken verwenden. Das ist ein Haken in den Einstellungen beziehungsweise die richtige Vertragsvariante, aber man muss daran denken. (Ich habe bei meinen eigenen ersten Gehversuchen auch erst nachträglich aufgeräumt, welche Daten sich wo ansammeln. Dieser blinde Fleck ist völlig normal, aber er bleibt ein blinder Fleck.)

Dazu kommt dein eigenes Logging: Speicherst du Chatverläufe? Wofür, wie lange, wer kommt dran? Für die Verbesserung des Bots sind Verläufe wertvoll, aber dann bitte mit Konzept: Aufbewahrungsfrist, Löschroutine, möglichst ohne Personenbezug. Ein Chatprotokoll, das seit acht Monaten mit vollem Inhalt in irgendeinem Dashboard liegt, ist genau die Art Altlast, die bei einer Datenpanne richtig wehtut.

Schritt sechs: die Datenschutzerklärung zum Schluss, nicht zuerst

Erst jetzt, als letzter Schritt, kommt das Dokument, mit dem viele fälschlicherweise anfangen: die Datenschutzerklärung. Nach Artikel 13 DSGVO müssen Besucher erfahren, dass ein KI-Chatbot im Einsatz ist, welche Daten er verarbeitet, auf welcher Rechtsgrundlage, wer der Anbieter dahinter ist und wie lange gespeichert wird.

Warum zum Schluss? Weil man ehrlich nur beschreiben kann, was man vorher sauber gebaut hat. Wer die Datenschutzerklärung zuerst schreibt, beschreibt einen Wunschzustand. Wer sie zuletzt schreibt, dokumentiert die Realität. Und weil du die Schritte eins bis fünf gemacht hast, ist diese Realität jetzt eine, die man guten Gewissens aufschreiben kann.

Warum das eine Aufgabe ist, nicht zwei

Vielleicht ist dir beim Lesen aufgefallen: Kein einziger dieser sechs Schritte ist rein juristisch, und keiner ist rein technisch. Der AVV entscheidet über die Architektur, die Datenminimierung steckt im Prompt, die Zugriffsrechte in der Datenbank. Damit du es nicht aus dem Fließtext zusammensuchen musst, hier noch einmal alle sechs Schritte auf einen Blick:

Genau deshalb biete ich KI-Implementierung und Compliance nicht getrennt an: Beim Chatbot sieht man wie unter dem Brennglas, dass es dieselbe Aufgabe ist. Die Grundsatzentscheidungen dahinter habe ich übrigens hier ausführlicher beschrieben, falls du tiefer einsteigen willst.

Und damit kein falscher Eindruck entsteht: Nichts davon ist ein Grund, auf den Chatbot zu verzichten. Ein gut gebauter KI-Assistent auf der Website ist ein echter Gewinn: für Besucher, die nachts um elf eine Antwort bekommen, und für dein Team, das die immer gleichen Fragen los ist. Man muss ihn nur richtig bauen. Einmal. Von Anfang an.

Wenn bei dir gerade so ein Chatbot läuft und du beim Lesen an der einen oder anderen Stelle geschluckt hast, oder wenn du einen planst und es gleich richtig machen willst: Sprich mich an, schreib mir eine E-Mail oder ruf einfach an. Wir gehen die sechs Schritte gemeinsam durch, und danach weißt du genau, wo du stehst.