Eine Datenschutz-Folgenabschätzung — DSFA — ist nach Art. 35 DSGVO für jede Verarbeitung vorgeschrieben, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt. Für KI-Systeme, die personenbezogene Daten verarbeiten, ist das praktisch immer der Fall: automatisierte Entscheidungsfindung, Profiling, großangelegte Verarbeitung und systematische Überwachung lösen die Pflicht aus.

Die meisten Fachbereiche behandeln die DSFA als Compliance-Hürde — etwas, das die Rechtsabteilung über den Zaun wirft und das Projekt um Wochen verzögert. Diese Sichtweise ist falsch und teuer. Eine gut geführte DSFA ist der schnellste Weg, Risiken aufzudecken, Stakeholder abzuholen und die Dokumentation aufzubauen, die Sie für DSGVO und EU AI Act gleichermaßen brauchen — in einem Durchgang.

Wann eine DSFA für KI erforderlich ist

Unter der DSGVO ist eine DSFA verpflichtend, wenn die Verarbeitung voraussichtlich ein hohes Risiko birgt. Bei KI-Systemen wird dies ausgelöst durch:

  • Automatisierte Entscheidungsfindung mit rechtlicher oder erheblicher Wirkung auf betroffene Personen (Art. 22 DSGVO)
  • Systematische Bewertung persönlicher Aspekte (Profiling) — Scoring, Vorhersage von Leistung, Verhalten, Interessen
  • Großangelegte Verarbeitung besonderer Kategorien personenbezogener Daten oder strafrechtlicher Verurteilungen
  • Systematische Überwachung öffentlich zugänglicher Bereiche
  • Einsatz neuer Technologien — KI-Systeme fallen generell unter „neue Technologien" im Sinne der Verordnung

Die deutschen Datenschutzaufsichtsbehörden haben Listen von Verarbeitungstätigkeiten veröffentlicht, die eine DSFA erfordern. KI-basierte Verarbeitung findet sich auf praktisch jeder davon.

Die Praxisregel: Wenn Ihr KI-System personenbezogene Daten verarbeitet und mehr als triviale Automatisierung leistet, gehen Sie davon aus, dass eine DSFA erforderlich ist. Die Kosten einer DSFA, die technisch nicht nötig gewesen wäre, sind vernachlässigbar. Die Kosten einer unterlassenen DSFA, die erforderlich war, sind ein Aufsichtsverfahren.

Die DSFA als Readiness-Beschleuniger

Hier der Perspektivwechsel, der die Herangehensweise verändert: Die DSFA ist kein Compliance-Dokument. Sie ist eine Readiness-Diagnose.

Eine richtig strukturierte DSFA zwingt Sie, Fragen zu beantworten, die Sie ohnehin beantworten müssen:

  • Welche Daten verarbeitet das KI-System und woher stammen sie?
  • Welche Entscheidungen beeinflusst oder trifft das System?
  • Wer ist von diesen Entscheidungen betroffen, und was sind die Konsequenzen?
  • Welche Schutzmaßnahmen verhindern Fehler, Verzerrungen oder Missbrauch?
  • Wer hat die Aufsichtskompetenz, und wie wird sie ausgeübt?
  • Was passiert, wenn das System ein falsches Ergebnis produziert?

Das sind keine juristischen Fragen. Es sind Engineering- und Betriebsfragen. Wenn Sie sie nicht beantworten können, sind Sie nicht bereit für ein Deployment — unabhängig davon, ob eine DSFA rechtlich vorgeschrieben ist.

In unseren Projekten führen wir die DSFA in der Discovery-Phase durch, nicht nach der Entwicklung. Das deckt Probleme auf, bevor sie zu architektonischem Umbau werden.

Schritt für Schritt: Eine DSFA für KI durchführen

Schritt 1: Umfang definieren

Beschreiben Sie das KI-System, seinen Zweck, die verarbeiteten Daten und die Verarbeitungsvorgänge. Seien Sie konkret:

  • Systembeschreibung: Was tut es? Welche Art von KI (Klassifikation, Generierung, Vorhersage)?
  • Dateneingaben: Welche personenbezogenen Daten fließen in das System? Quelle, Kategorien, Umfang.
  • Datenausgaben: Was produziert das System? Vorhersagen, Empfehlungen, Entscheidungen, Inhalte?
  • Verarbeitungsvorgänge: Training, Inferenz, Fine-Tuning, Retrieval?
  • Verwendungszweck: Welchem geschäftlichen Ziel dient das System?
  • Verarbeitungsumfang: Wie viele Personen sind betroffen? Wie häufig?

Schreiben Sie keinen Roman. Eine Seite genügt. Das Ziel ist Klarheit, nicht Vollständigkeit.

Schritt 2: Notwendigkeit und Verhältnismäßigkeit bewerten

Hier begründen Sie, warum KI der richtige Ansatz ist und dass Sie nur das Nötige verarbeiten:

  • Notwendigkeit: Ist die KI-Verarbeitung für den angegebenen Zweck erforderlich? Könnten Sie das gleiche Ergebnis mit weniger eingreifenden Mitteln erzielen?
  • Verhältnismäßigkeit: Verarbeiten Sie nur die erforderlichen personenbezogenen Daten? Ist Datenminimierung in die Architektur eingebaut?
  • Rechtsgrundlage: Welche Rechtsgrundlage nach DSGVO gilt? Berechtigtes Interesse (Art. 6 Abs. 1 lit. f) ist für Unternehmens-KI verbreitet, erfordert aber eine Interessenabwägung. Einwilligung (Art. 6 Abs. 1 lit. a) ist bei Enterprise-Deployments selten.
  • Zweckbindung: Wird das System nur für den beschriebenen Zweck eingesetzt? Haben Sie Vorkehrungen gegen schleichende Zweckerweiterung getroffen?

In diesem Schritt zahlt sich eine Compliance-by-Design-Architektur aus. Wenn Ihr System von Beginn an mit Datenminimierung gebaut ist, schreibt sich dieser Abschnitt von selbst.

Schritt 3: Risiken identifizieren und bewerten

Erfassen Sie die Risiken für Rechte und Freiheiten betroffener Personen. Für KI-Systeme sind die typischen Risikokategorien:

  • Genauigkeitsrisiken: Das System trifft falsche Vorhersagen oder Klassifizierungen. Welche Auswirkung hat das auf Betroffene?
  • Verzerrung und Diskriminierung: Das System produziert systematisch unfaire Ergebnisse für bestimmte Gruppen. Haben Sie darauf getestet?
  • Transparenzrisiken: Betroffene wissen nicht, dass sie KI-Verarbeitung unterliegen, oder können nicht nachvollziehen, wie Entscheidungen zustande kommen.
  • Autonomierisiken: Das System schränkt die Wahlmöglichkeiten von Personen ein oder trifft Entscheidungen, die menschliches Urteil erfordern.
  • Datensicherheitsrisiken: Das KI-System schafft neue Angriffsflächen (Model Inversion, Prompt Injection, Datenlecks).
  • Zweckentfremdung (Function Creep): Das System wird für Zwecke jenseits der ursprünglichen Intention genutzt.

Bewerten Sie für jedes Risiko Eintrittswahrscheinlichkeit und Schwere. Nutzen Sie eine einfache Matrix — hoch/mittel/niedrig für jede Dimension. Das Ziel ist nicht Präzision, sondern Identifikation.

Schritt 4: Gegenmaßnahmen definieren

Definieren Sie für jedes identifizierte Risiko konkrete Schutzmaßnahmen:

  • Genauigkeit: Validierungstests, Leistungsschwellenwerte, menschliche Prüfung bei Grenzfällen, laufendes Monitoring mit Drift-Erkennung.
  • Verzerrung: Tests über demografische Gruppen, Fairness-Metriken, regelmäßige Audits.
  • Transparenz: Klare Offenlegung gegenüber Betroffenen, Erklärbarkeits-Mechanismen, Recht auf menschliche Überprüfung nach Art. 22 Abs. 3.
  • Autonomie: Human-in-the-Loop-Design, Override-Mechanismen, Eskalationspfade.
  • Sicherheit: EU-ansässige Infrastruktur, Verschlüsselung at rest und in transit, Zugriffskontrollen, Audit-Logging.
  • Zweckentfremdung: Technische Kontrollen, die die Nutzung auf den definierten Zweck beschränken, vertragliche Einschränkungen mit Anbietern.

Dokumentieren Sie, was Sie tun — nicht, was Sie vorhaben. Die DSFA ist ein Rechenschaftsdokument. Sie muss den tatsächlichen Stand Ihrer Schutzmaßnahmen widerspiegeln.

Schritt 5: DSB und Stakeholder konsultieren

Art. 35 Abs. 2 DSGVO verlangt, dass Sie bei der Durchführung einer DSFA den Rat Ihres DSB (Datenschutzbeauftragten) einholen. Das ist keine Empfehlung. Es ist eine gesetzliche Pflicht.

Über den DSB hinaus sollten Sie einbeziehen:

  • Das technische Team, das das KI-System baut oder betreibt
  • Den Business Owner, der den Anwendungsfall definiert und das Risiko akzeptiert
  • Die Rechtsabteilung für regulatorische Einordnung
  • Betroffene Fachbereiche, deren Workflows oder Mitarbeitende betroffen sind

Nach unserer Erfahrung ist das Konsultationsgespräch der wertvollste Teil der DSFA. Es bringt Annahmen ans Licht, die niemand hinterfragt hatte, deckt Risiken auf, die kein einzelner Stakeholder allein identifiziert hätte, und schafft ein Alignment, das sonst Monate dauern würde.

Schritt 6: Dokumentieren, freigeben und pflegen

Das finale DSFA-Dokument sollte enthalten:

  • Systembeschreibung und Verarbeitungsübersicht
  • Bewertung von Notwendigkeit und Verhältnismäßigkeit
  • Risikobewertungsmatrix
  • Gegenmaßnahmen und deren Umsetzungsstand
  • Stellungnahme des DSB
  • Freigabe durch den verantwortlichen Business Owner
  • Überprüfungsplan (wir empfehlen quartalsweise für KI-Systeme in Produktion)

Dies ist ein lebendes Dokument. Wenn sich das System ändert — neue Datenquellen, Modell-Updates, erweiterte Anwendungsfälle — muss die DSFA aktualisiert werden. Bauen Sie das in Ihren Change-Management-Prozess ein.

DSFA trifft EU AI Act

Für Hochrisiko-KI-Systeme unter dem EU AI Act überlappen sich DSFA und die Grundrechte-Folgenabschätzung des AI Act erheblich. Wir kombinieren beides in einer einzigen Bewertung, die abdeckt:

  • DSGVO-Datenschutzrisiken und Schutzmaßnahmen
  • Risikomanagement-Anforderungen des AI Act
  • Grundrechtliche Implikationen (Nicht-Diskriminierung, Privatsphäre, Menschenwürde)
  • Technische Dokumentationsanforderungen, die beide Regelwerke erfüllen

Dieser integrierte Ansatz vermeidet Doppelarbeit und erzeugt eine einzige Wahrheitsquelle für die Compliance. Den vollständigen Überblick über das Zusammenspiel der AI-Act-Anforderungen mit der DSGVO finden Sie im EU AI Act Compliance-Leitfaden.

Häufige Fehler

Die DSFA als einmalige Übung behandeln. Ist sie nicht. KI-Systeme entwickeln sich — Daten ändern sich, Modelle werden aktualisiert, Anwendungsfälle erweitern sich. Die DSFA muss mit ihnen mitwachsen.

Die DSFA nach der Entwicklung durchführen. Dann erfordern Schutzmaßnahmen architektonische Änderungen. Führen Sie sie in der Discovery-Phase durch.

Zu abstrakt bleiben. Eine DSFA, die sagt „wir werden angemessene Schutzmaßnahmen implementieren", ist nutzlos. Benennen Sie die Maßnahmen. Beschreiben Sie, wie sie funktionieren. Nennen Sie die verantwortliche Person.

Die DSB-Konsultation auslassen. Das ist eine gesetzliche Pflicht, kein Vorschlag. Dokumentieren Sie die Konsultation und die Stellungnahme des DSB.

Allein arbeiten. Eine DSFA, die eine einzelne Person in Isolation schreibt, übersieht Risiken. Sie ist von Natur aus eine bereichsübergreifende Übung.

Erledigen, nicht perfektionieren

Die DSFA ist kein Forschungsprojekt. Sie ist ein strukturiertes Gespräch, das ein Dokument produziert. Für einen typischen KI-Workflow dauert die Übung 4–8 Stunden fokussierte Arbeit über 2–3 Sitzungen — nicht Wochen.

Bei Remote Native enthält jedes Projekt eine vorgefertigte DSFA-Vorlage, zugeschnitten auf den konkreten KI-Workflow. Wir moderieren die Sitzungen, beziehen die richtigen Stakeholder ein und produzieren Dokumentation, die DSGVO- und AI-Act-Anforderungen gleichermaßen erfüllt.

Wenn Sie eine DSFA für eine KI-Initiative durchführen müssen und einen strukturierten, effizienten Ansatz wollen, buchen Sie ein Erstgespräch. Wir definieren den Umfang und skizzieren den Prozess — in 30 Minuten.

Weiterführend: