Datenschutz bei KI-Werkzeugen: drei Fragen, die zählen
Drei Fragen entscheiden über den Einsatz von KI im Betrieb: Wo verarbeitet der Anbieter die Daten, was geben Sie hinein, und wird damit trainiert. Wer alle drei beantworten kann und einen Auftragsverarbeitungsvertrag hat, arbeitet rechtssicher. Wer sie nicht beantworten kann, sollte nicht anfangen.
- KI ist kein datenschutzrechtlicher Sonderfall: Es gelten dieselben Regeln wie für jeden anderen Dienstleister.
- Nötig sind ein Auftragsverarbeitungsvertrag, ein Eintrag im Verarbeitungsverzeichnis und eine Löschfrist.
- Geschäftliche Zugänge der großen Anbieter trainieren in der Regel nicht mit Ihren Daten, kostenlose Zugänge oft schon.
- Die wirksamste Maßnahme ist die einfachste: nur hineingeben, was für die Aufgabe nötig ist.
- Beschäftigtendaten sind besonders heikel. Bewerbungen und Leistungsbewertungen gehören nicht in ein offenes Werkzeug.
- Der EU AI Act kommt gestaffelt dazu; für die hier beschriebenen Anwendungen sind vor allem Transparenzpflichten einschlägig.
- Ein Modell auf eigenem Server löst das Übermittlungsproblem, nicht die Pflicht zur Dokumentation.
„Dürfen wir das überhaupt?" ist die häufigste Frage, wenn es um KI im Betrieb geht, und sie wird meistens zu spät gestellt, nämlich nachdem jemand schon ein halbes Jahr Kundenanfragen in ein kostenloses Werkzeug kopiert hat.
Dieser Beitrag beantwortet sie der Reihe nach. Er ersetzt keine Rechtsberatung, gibt aber die Struktur, mit der Sie das Gespräch mit Ihrer Datenschutzberatung in zwanzig Minuten führen können.
Frage 1: Wo werden die Daten verarbeitet?
Sobald Sie personenbezogene Daten an einen Dienst geben, ist das eine Auftragsverarbeitung. Drei Möglichkeiten:
- Verarbeitung in der EU. Der einfachste Fall. Mehrere große Anbieter bieten das inzwischen ausdrücklich an.
- Verarbeitung außerhalb der EU. Möglich, aber es braucht eine Grundlage, in der Praxis meist Standardvertragsklauseln und für die USA das Angemessenheitsbeschluss-Verfahren, sofern der Anbieter zertifiziert ist.
- Verarbeitung auf eigenem Server. Dann verlassen die Daten Ihr Haus nicht. Das löst die Übermittlungsfrage vollständig, und erzeugt dafür Verantwortung für Betrieb und Sicherung.
In jedem Fall gilt: Auftragsverarbeitungsvertrag abschließen. Bei den großen Anbietern ist er ein Formular, das man einmal ausfüllt.
Frage 2: Was geben Sie hinein?
Das ist die Frage mit dem größten Hebel, und sie kostet nichts.
Ein Antwortentwurf braucht nicht die vollständige Kundenakte. Er braucht das Anliegen und ein paar Randbedingungen. Eine Zusammenfassung eines Protokolls braucht keine Personalnummern.
Drei Regeln, die im Alltag tragen:
- Nur das Nötige. Wenn ein Vorname und die Auftragsart genügen, geht der Rest nicht mit.
- Ersetzen statt weglassen. Wo ein Name gebraucht wird, kann „der Kunde" stehen. Das Modell braucht keine Identität, um einen Text zu formulieren.
- Keine besonderen Kategorien. Gesundheitsdaten, Gewerkschaftszugehörigkeit, Religion, diese Angaben haben in einem Sprachmodell nichts verloren, auch nicht in einem europäischen.
Wer diese drei Regeln einhält, hat den größten Teil des Risikos beseitigt, bevor überhaupt über Verträge gesprochen wird.
- Anliegen ohne Namen
- Technische Beschreibungen
- Eigene Textbausteine
- Öffentliche Angaben zum Betrieb
- Anonymisierte Beispiele
- Vollständige Bewerbungsunterlagen
- Gesundheitsangaben
- Leistungsbeurteilungen von Beschäftigten
- Vollständige Kundenakten
- Zugangsdaten und Verträge Dritter
Frage 3: Wird mit Ihren Daten trainiert?
Hier trennen sich kostenlose und geschäftliche Zugänge deutlich.
Bei geschäftlichen Zugängen der großen Anbieter ist die vertragliche Zusage inzwischen üblich, dass Eingaben nicht zum Training verwendet werden. Das steht im Vertrag, nicht in der Werbung, und dort sollten Sie es nachlesen, bevor Sie beginnen.
Bei kostenlosen Zugängen ist häufig das Gegenteil der Fall, teils standardmäßig eingeschaltet. Genau deshalb ist der verbreitete Weg, „unsere Leute nutzen halt privat den kostenlosen Zugang", der riskanteste von allen: Es gibt keinen Vertrag, keine Kontrolle und keine Dokumentation.
Wenn im Betrieb ohnehin gearbeitet wird, ist ein geschäftlicher Zugang die günstigere Lösung. Er kostet zwanzig bis dreißig Euro je Person und Monat und beseitigt das Problem.
Unsicher, ob Ihr Einsatz sauber ist?
Wir gehen die drei Fragen mit Ihnen durch und sagen, was fehlt. Dreißig Minuten per Google Meet, kostenlos, mit dem klaren Hinweis, wann eine Rechtsberatung nötig ist.
Analysegespräch buchenWas dokumentiert werden muss
Schritt 05 wird am häufigsten vergessen und verhindert am meisten: Ohne klare Regel entscheidet jeder selbst, was er kopiert.
Beschäftigtendaten: der heikelste Bereich
Wo Beschäftigte betroffen sind, gelten strengere Maßstäbe, und es kommt in der Regel die Mitbestimmung dazu.
Konkret heißt das:
- Bewerbungsunterlagen gehören nicht in ein offenes Werkzeug. Eine Vorsortierung von Bewerbungen durch ein Modell ist zusätzlich unter dem AI Act als Hochrisiko-Anwendung eingestuft.
- Leistungs- oder Verhaltensbewertung durch Software ist mitbestimmungspflichtig, sobald ein Betriebsrat besteht.
- Diktate und Protokolle können mittelbar Beschäftigtendaten enthalten. Wer sie verarbeitet, sollte das im Verzeichnis stehen haben.
Für die in unseren Projekten üblichen Anwendungen, Anfragen einordnen, Entwürfe schreiben, Berichte diktieren, ist das beherrschbar. Es sollte nur vorher bedacht sein und nicht, wenn jemand Auskunft verlangt.
Was der AI Act dazu bringt
Die europäische KI-Verordnung gilt seit 2024 und greift gestaffelt. Für einen regionalen Betrieb sind vor allem zwei Punkte einschlägig:
- Transparenzpflicht. Wer mit einem KI-System interagiert, muss das erfahren. Das betrifft Chatbots und Telefonassistenten unmittelbar.
- Hochrisiko-Anwendungen. Dazu zählen unter anderem Systeme, die über Einstellungen mitentscheiden. Dort gelten deutlich strengere Anforderungen.
Wer KI zum Formulieren, Einordnen und Zusammenfassen einsetzt und die Transparenz sicherstellt, bewegt sich außerhalb des Hochrisikobereichs. Die Einordnung selbst gehört trotzdem einmal schriftlich festgehalten.
Eine Regel für Beschäftigte, die verstanden wird
Die meisten Betriebsanweisungen zu KI sind vier Seiten lang und werden nicht gelesen. Eine halbe Seite, die hängt, wirkt besser. Was hineingehört:
Welche Werkzeuge erlaubt sind. Namentlich, nicht als Kategorie. „Der geschäftliche Zugang von X" ist eindeutig, „geeignete KI-Werkzeuge" ist es nicht.
Was nie hineingeht. Vollständige Kundenakten, Bewerbungsunterlagen, Gesundheitsangaben, Zugangsdaten, Verträge Dritter. Fünf Punkte, konkret formuliert.
Wer prüft, bevor etwas rausgeht. Kein von KI erzeugter Text verlässt den Betrieb ohne dass ein Mensch ihn gelesen hat. Das ist die Regel, die Fehler wirklich verhindert.
An wen man sich bei Zweifeln wendet. Eine Person mit Namen. Ohne Ansprechpartner entscheidet im Zweifel jeder selbst.
Wichtig ist der Ton: Eine Regel, die alles verbietet, wird umgangen. Eine, die einen erlaubten Weg beschreibt, wird benutzt. Deshalb gehört zu jedem Verbot ein Angebot, wenn Bewerbungen nicht hineindürfen, muss klar sein, wie sie stattdessen bearbeitet werden.
Was im Verarbeitungsverzeichnis stehen sollte
Der Eintrag ist kürzer, als die meisten befürchten. Am Beispiel „Antwortentwürfe für Kundenanfragen":
- Zweck: Vorbereitung von Antwortentwürfen auf eingehende Kundenanfragen
- Betroffene: Kunden und Interessenten
- Datenarten: Name, Kontaktdaten, Inhalt der Anfrage
- Empfänger: Anbieter des Sprachmodells als Auftragsverarbeiter, Verarbeitung in der EU
- Grundlage: berechtigtes Interesse an effizienter Bearbeitung, Artikel 6 Absatz 1 Buchstabe f DSGVO
- Löschfrist: Eingaben werden nach 30 Tagen beim Anbieter gelöscht, der Vorgang im eigenen System nach zwölf Monaten ohne Auftrag
- Maßnahmen: Datenminimierung, Freigabe durch einen Menschen vor Versand, geschäftlicher Zugang ohne Training
Sieben Zeilen. Wer das für jede KI-Anwendung einmal aufschreibt, hat den formalen Teil erledigt, und merkt beim Schreiben selbst, wenn eine Anwendung mehr Daten verlangt, als sie braucht.
Häufige Fragen
Dürfen unsere Leute ChatGPT privat für die Arbeit nutzen?
Ohne Regelung ist das die riskanteste Variante: kein Vertrag, keine Kontrolle, oft Training mit den Eingaben. Besser ist ein geschäftlicher Zugang mit klarer Regel, was hineingehört.
Reicht es, Namen zu entfernen?
Es hilft erheblich, macht Daten aber nicht automatisch anonym. Wenn sich aus dem Zusammenhang erkennen lässt, um wen es geht, bleibt es personenbezogen.
Ist ein Modell auf eigenem Server die Lösung?
Für die Übermittlungsfrage ja. Verzeichnis, Löschkonzept und Regeln für Beschäftigte brauchen Sie trotzdem.
Was ist mit Aufnahmen von Telefonaten?
Ein Mitschnitt braucht die Einwilligung aller Beteiligten. Ein Textprotokoll ist anders zu bewerten, bleibt aber personenbezogen und braucht eine Löschfrist.
Brauchen wir eine Datenschutz-Folgenabschätzung?
Bei den hier beschriebenen Anwendungen in der Regel nicht. Sobald es um automatisierte Entscheidungen über Personen geht, etwa Bewerbungen, ändert sich das.
Der nächste Schritt
Schreiben Sie auf, welche KI-Werkzeuge in Ihrem Betrieb tatsächlich benutzt werden, auch die, von denen Sie nur vermuten, dass jemand sie nutzt. Diese Liste ist der Anfang, alles andere folgt daraus.
Wie wir KI einsetzen, steht auf der Leistungsseite KI & Automatisierung. Verwandte Beiträge: KI für kleine Unternehmen und KI im Handwerk. Oder anrufen unter 07903 943946.
Hinweis: Dieser Beitrag gibt den Stand vom August 2026 wieder und ersetzt keine Rechtsberatung.