Spätestens wenn personenbezogene Daten ins Spiel kommen, wird der Einsatz von KI im Unternehmen zur datenschutzrechtlichen Übung. Dieser Beitrag fasst zusammen, welche Punkte aus DSGVO-Sicht 2026 wirklich relevant sind — und welche Architekturentscheidungen direkt aus der rechtlichen Situation folgen.
1. Die drei Themen, die immer kommen
In jedem unserer Discovery-Calls tauchen dieselben drei Themen auf: die US-Cloud-Frage (welche Daten dürfen über den Atlantik?), die Auftragsverarbeitung mit KI-Anbietern (was muss in den AVV?) und die technischen Maßnahmen (Audit-Logs, Eingangsfilter, Output-Validierung). Wir gehen sie der Reihe nach durch.
2. Die US-Cloud-Frage
Seit Schrems II ist klar: personenbezogene Daten in US-Cloud-Diensten brauchen besondere Begründung. Für KI-Anwendungen bedeutet das praktisch:
- OpenAI direkt aus Deutschland ist ohne AVV und zusätzliche Schutzmaßnahmen problematisch.
- Azure OpenAI in der EU-Region ist deutlich entspannter (EU-Vertragspartner, EU-Region wählbar).
- Anthropic bietet seit 2025 EU-Regionen — ähnliche Situation wie Azure OpenAI.
- Eigene Modelle in der EU (Hetzner, IONOS, OVHcloud) — die saubere Lösung für sensible Daten.
Unser Beitrag ChatGPT mit eigenen Daten nutzen vergleicht die vier Architekturen im Detail.
3. Auftragsverarbeitung (AVV) mit KI-Anbietern
Wer einen KI-Anbieter nutzt, ist in der Regel Verantwortlicher, der Anbieter ist Auftragsverarbeiter. Sie brauchen einen AVV nach Art. 28 DSGVO. Wichtige Klauseln, die Sie immer prüfen sollten:
- Kein Training auf Ihren Daten — sonst werden Ihre Geschäftsdaten Teil künftiger Modelle.
- Subunternehmer-Genehmigung — wer hat noch Zugriff?
- Speicherort und -dauer — wo werden Inputs zwischengespeichert, wie lange?
- Lösch- und Auskunftspflicht — kommt der Anbieter Ihren Betroffenenrechten nach?
- Auditrecht — können Sie (oder ein beauftragter Prüfer) kontrollieren?
OpenAI und Anthropic bieten 2026 Enterprise-AVVs an. Bei Open-Source-Hostern (Hetzner, IONOS) ist das einfacher — Sie betreiben das Modell selbst, der Hoster ist nur Infrastrukturpartner.
4. Technische Maßnahmen, die Sie ohnehin brauchen
Unabhängig vom Anbieter sind diese TOMs (technische und organisatorische Maßnahmen) sinnvoll:
- Eingangsfilter vor jedem LLM-Call — entfernen oder hashen personenbezogene Daten, wo möglich.
- Strukturierte Audit-Logs an jeder Modell-Schnittstelle.
- Output-Validierung vor Weiterverarbeitung (JSON-Schema, Pydantic).
- Rate-Limiting und Auth-Gating auf API-Ebene.
- Notfall-Schalter, der das Modell sofort deaktiviert.
Mehr Tiefe in unserem Beitrag Sichere KI-Integration in bestehende Systeme.
5. Sonderfall: personenbezogene Daten im Prompt
Häufige Frage: »Darf ich Kundennamen, Bestellnummern, IBANs in den Prompt schreiben?« Antwort: technisch ja, datenschutzrechtlich kompliziert. Zwei Best Practices:
- Pseudonymisieren — vor dem Modell durch Tokens ersetzen (
CUSTOMER_A_123), danach wieder zurückübersetzen. Das Modell sieht nie echte Daten. - Filtern — ein kleiner Klassifikator entfernt sensible Felder, bevor der Prompt rausgeht.
Beide Wege sind heute Standard. Wer ohne sie arbeitet, sammelt unnötige Risiken.
6. Checkliste für DSGVO-konforme KI
Vor dem produktiven Launch:
- Rechtsgrundlage dokumentiert (Art. 6 DSGVO).
- DSFA durchgeführt, wo erforderlich (Art. 35 DSGVO).
- AVV mit allen Anbietern.
- Eingangsfilter für PII implementiert.
- Audit-Logs aktiv, Aufbewahrungsfrist definiert.
- Datenschutzerklärung ergänzt um KI-Verarbeitung.
- Betroffenenrechte umsetzbar (Auskunft, Löschung, Widerspruch).
- KI-Kennzeichnung in der UI (s. EU AI Act).
- Verantwortliche Person benannt.
7. Wo der EU AI Act hineinspielt
Der EU AI Act ergänzt die DSGVO um KI-spezifische Pflichten — Transparenz, Risikobewertung, Dokumentation. Beide Regelwerke sind komplementär: DSGVO regelt Daten, AI Act regelt das System. Wir gehen darauf in EU AI Act einfach erklärt im Detail ein.
Wichtige Schnittmenge: KI-Systeme mit personenbezogenen Daten unterliegen beiden Regelwerken. Wer beides sauber aufsetzt, hat 2026 eine solide Basis — und ist im Auditfall vorbereitet.
Häufige Fragen.
/ 01Darf ich ChatGPT mit personenbezogenen Daten füttern?
Grundsätzlich nur mit AVV (Auftragsverarbeitungsvertrag), dokumentierter Rechtsgrundlage und idealerweise Opt-out aus dem Training. Bei sensiblen Daten (Gesundheit, Gewerkschaftsangehörigkeit, Religion) zusätzliche Hürden. Sicherer ist ein Vor-Filter, der PII entfernt — oder ein privates LLM ganz ohne US-Cloud.
/ 02Was ist nach Schrems II noch erlaubt bei US-Cloud-KI?
Mit zusätzlichen technischen und organisatorischen Maßnahmen (TOM), Standardvertragsklauseln und Risikoabwägung: vieles. Für besonders sensible Daten empfehlen die Aufsichtsbehörden trotzdem deutsche oder EU-Hosting-Alternativen. Die Rechtslage entwickelt sich weiter — wir empfehlen, US-Cloud-Verarbeitung dokumentiert zu beschränken.
/ 03Brauche ich für jede KI-Funktion eine Datenschutz-Folgenabschätzung (DSFA)?
Nicht für jede, aber für viele. Faustregel: Wenn das KI-System personenbezogene Daten in größerem Umfang verarbeitet, Entscheidungen mit Wirkung auf Personen trifft oder neue Verarbeitungsformen einführt, ist eine DSFA Pflicht. Im Zweifel: kurze Vorprüfung dokumentieren, lieber zu viel als zu wenig.
/ 04Sind selbst gehostete LLMs automatisch DSGVO-konform?
Nein. Self-Hosting löst die US-Cloud-Frage, aber alle anderen DSGVO-Anforderungen (Rechtsgrundlage, Zweckbindung, Löschung, Betroffenenrechte, technische Maßnahmen) bleiben. Self-Hosting ist eine Voraussetzung, kein Ersatz für Datenschutz.
/ 05Welche Audit-Logs verlangt die DSGVO bei KI-Systemen?
Die DSGVO verlangt allgemein Nachweisbarkeit der Verarbeitung (Rechenschaftspflicht). In der Praxis: jeder Modell-Aufruf mit Zeitstempel, betroffenem Datentyp und Verarbeitungszweck — wo möglich mit Hash statt Klartext, um die Logs selbst datenschutzkonform zu halten.
/ 06Was ist ein AVV im KI-Kontext und welche Klauseln sind wichtig?
Ein AVV (Auftragsverarbeitungsvertrag nach Art. 28 DSGVO) regelt die Verarbeitung durch den KI-Anbieter. Wichtig: kein Training auf Ihren Daten, Subunternehmer-Genehmigung, Speicherort und -dauer, technische Maßnahmen, Lösch- und Auskunftsverpflichtungen, Auditrechte.