Eine Datenschutz-Folgenabschätzung — kurz DSFA — ist nach Art. 35 DSGVO für jede Verarbeitung vorgeschrieben, die voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen mit sich bringt. Für KI-Systeme, die personenbezogene Daten verarbeiten, ist diese Schwelle nahezu immer erreicht: automatisierte Entscheidungsfindung, Profiling, großangelegte Verarbeitung und systematische Überwachung lösen die Pflicht aus — und all das sind Kerneigenschaften moderner Unternehmens-KI.
Die meisten Fachbereiche behandeln die DSFA als bürokratische Hürde: etwas, das die Rechtsabteilung über den Zaun wirft und das Projekt um Wochen verzögert. Diese Sichtweise ist falsch und teuer. Eine gut strukturierte DSFA ist der schnellste Weg, Risiken aufzudecken, die richtigen Stakeholder ins Boot zu holen und genau die Dokumentation aufzubauen, die Sie für DSGVO und EU AI Act gleichzeitig brauchen — in einem einzigen Durchgang.
Wann eine DSFA für KI verpflichtend ist
Unter der DSGVO ist eine DSFA immer dann Pflicht, wenn die Verarbeitung voraussichtlich ein hohes Risiko birgt. Bei KI-Systemen greift diese Pflicht durch vier klassische Auslöser: automatisierte Entscheidungsfindung mit rechtlicher oder erheblich ähnlicher Wirkung auf betroffene Personen (Art. 22 DSGVO), systematische Bewertung persönlicher Aspekte und Profiling, großangelegte Verarbeitung besonderer Datenkategorien sowie systematische Überwachung öffentlich zugänglicher Bereiche. KI-Systeme fallen darüber hinaus generell unter „neue Technologien" im Sinne der Verordnung — ein eigenständiger Auslösetatbestand.
Die Konferenz der unabhängigen Datenschutzbehörden des Bundes und der Länder (DSK) hat im Mai 2024 eine Orientierungshilfe zu KI und Datenschutz veröffentlicht, die KI-Verarbeitung ausdrücklich in den Fokus rückt und auf die bestehenden „Muss-Listen" der Aufsichtsbehörden verweist. Die Botschaft ist klar: Bei KI-Systemen, die personenbezogene Daten verarbeiten, ist die DSFA der Regelfall, nicht die Ausnahme.
Die praktische Daumenregel: Wenn Ihr KI-System personenbezogene Daten verarbeitet und mehr als triviale Automatisierung leistet, gehen Sie davon aus, dass eine DSFA erforderlich ist. Die Kosten einer DSFA, die technisch nicht nötig gewesen wäre, sind vernachlässigbar. Die Kosten einer unterlassenen DSFA, die erforderlich war, sind ein Aufsichtsverfahren, gegebenenfalls verbunden mit Bußgeldern nach Art. 83 DSGVO.
DSFA trifft EU AI Act: eine Bewertung, zwei Zwecke
Der EU AI Act fügt ab August 2026 eine weitere Pflicht hinzu, die mit der DSFA eng verzahnt ist: die Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, FRIA) nach Art. 27 EU AI Act. Deployer von Hochrisiko-KI-Systemen aus dem öffentlichen Sektor sowie private Anbieter öffentlicher Dienstleistungen müssen diese Bewertung vor dem erstmaligen Einsatz des Systems durchführen.
Art. 27 Abs. 4 EU AI Act hält ausdrücklich fest, dass eine bereits durchgeführte DSGVO-DSFA für die FRIA genutzt werden kann — beide Bewertungen lassen sich in einem integrierten Dokument zusammenführen. Die Überschneidungen sind erheblich: Risikomanagement, Schutzmaßnahmen, menschliche Aufsicht und technische Dokumentation adressieren beide Regelwerke. Wer die DSFA von Anfang an so strukturiert, dass sie auch die FRIA-Anforderungen abdeckt, vermeidet Doppelarbeit und erzeugt eine einzige Wahrheitsquelle für die gesamte KI-Compliance. Den vollständigen Überblick über das Zusammenspiel der AI-Act-Anforderungen mit der DSGVO finden Sie im EU AI Act Compliance-Leitfaden.
Die DSFA als Readiness-Diagnose
Hier der Perspektivwechsel, der in der Praxis den Unterschied macht: Die DSFA ist kein Compliance-Dokument. Sie ist eine Readiness-Diagnose.
Eine richtig strukturierte DSFA zwingt Sie, Fragen zu beantworten, die Sie für ein verantwortungsvolles KI-Deployment ohnehin beantworten müssen: Welche Daten verarbeitet das System, und woher stammen sie? Welche Entscheidungen beeinflusst oder trifft es? Wer ist von diesen Entscheidungen betroffen, und mit welchen Konsequenzen? Welche Schutzmaßnahmen verhindern Fehler, Verzerrungen oder Missbrauch? Wer hat die Aufsichtskompetenz, und wie wird sie ausgeübt? Was passiert, wenn das System ein falsches Ergebnis produziert?
Das sind keine juristischen Fragen. Es sind Engineering- und Betriebsfragen. Wer sie nicht beantworten kann, ist nicht bereit für ein Deployment — unabhängig davon, ob die DSFA rechtlich vorgeschrieben ist. Wir führen die DSFA deshalb in der Discovery-Phase eines Projekts durch, nicht nach der Entwicklung. Probleme, die dort auftauchen, kosten ein Gespräch. Dieselben Probleme nach dem Deployment kosten architektonischen Umbau.
Schritt für Schritt: Eine DSFA für KI durchführen
Schritt 1: Umfang klar definieren
Beschreiben Sie das KI-System, seinen Zweck, die verarbeiteten Daten und die konkreten Verarbeitungsvorgänge. Seien Sie präzise, nicht ausschweifend. Systembeschreibung: Was tut das System — Klassifikation, Generierung, Vorhersage? Dateneingaben: Welche personenbezogenen Daten fließen ein, aus welchen Quellen, in welchem Umfang? Ausgaben: Was produziert das System — Vorhersagen, Empfehlungen, Entscheidungen, Inhalte? Verarbeitungsvorgänge: Training, Inferenz, Fine-Tuning, Retrieval — welche davon finden statt? Verwendungszweck: Welchem geschäftlichen Ziel dient das System, und wie wird es im Alltag eingesetzt? Betroffener Personenkreis: Wie viele Personen sind betroffen, wie häufig, mit welcher Unmittelbarkeit?
Eine Seite genügt für diesen Abschnitt. Das Ziel ist Klarheit, nicht Vollständigkeit.
Schritt 2: Notwendigkeit und Verhältnismäßigkeit bewerten
Hier begründen Sie, warum KI der richtige Ansatz ist und dass Sie nur verarbeiten, was tatsächlich nötig ist. Notwendigkeit: Ist die KI-Verarbeitung für den definierten Zweck erforderlich, oder ließe sich dasselbe Ergebnis mit weniger eingreifenden Mitteln erzielen? Verhältnismäßigkeit: Verarbeiten Sie nur die für den Zweck erforderlichen personenbezogenen Daten, und ist Datenminimierung in die Architektur eingebaut? Rechtsgrundlage: Welche DSGVO-Rechtsgrundlage gilt? Bei Unternehmens-KI ist das berechtigte Interesse nach Art. 6 Abs. 1 lit. f häufig, erfordert aber eine dokumentierte Interessenabwägung. Zweckbindung: Haben Sie technische und vertragliche Vorkehrungen gegen schleichende Zweckerweiterung getroffen?
Wenn Ihr System von Beginn an mit einer Compliance-by-Design-Architektur gebaut ist, schreibt sich dieser Abschnitt nahezu von selbst — das ist der konkrete Return on Investment solider Architekturentscheidungen in der Discovery-Phase.
Schritt 3: Risiken identifizieren und bewerten
Erfassen Sie die Risiken für Rechte und Freiheiten betroffener Personen. Für KI-Systeme gibt es typische Risikokategorien, die in keiner Bewertung fehlen dürfen.
Genauigkeitsrisiken entstehen, wenn das System falsche Vorhersagen oder Klassifizierungen trifft — die entscheidende Folgefrage ist: Welche konkreten Konsequenzen hat das für die betroffene Person? Verzerrung und Diskriminierung sind besonders kritisch, wenn das Trainingsset historische Ungleichgewichte enthält — haben Sie über demografische Gruppen hinweg getestet? Transparenzrisiken greifen, wenn Betroffene nicht wissen, dass sie KI-Verarbeitung unterliegen, oder die Entscheidungslogik nicht nachvollziehen können. Autonomierisiken entstehen, wo das System Wahlmöglichkeiten de facto einschränkt oder Urteile ersetzt, die Menschen vorbehalten sein sollten. Datensicherheitsrisiken sind bei KI-Systemen spezifisch und gehen über klassische IT-Security hinaus: Model Inversion, Prompt Injection und Training-Data-Leakage sind Angriffsvektoren, die in der klassischen IT-Risikoanalyse nicht auftauchen. Function Creep schließlich — die schleichende Nutzung des Systems für Zwecke jenseits der ursprünglichen Intention — ist bei KI besonders wahrscheinlich, weil generative Systeme von Natur aus vielseitig sind.
Bewerten Sie für jedes Risiko Eintrittswahrscheinlichkeit und Schwere in einer einfachen Matrix. Das Ziel ist Identifikation und Priorisierung, nicht wissenschaftliche Präzision.
Schritt 4: Gegenmaßnahmen konkret benennen
Definieren Sie für jedes identifizierte Risiko konkrete Schutzmaßnahmen — und dokumentieren Sie, was Sie tun, nicht was Sie vorhaben.
Gegen Genauigkeitsrisiken helfen Validierungstests mit definierten Leistungsschwellenwerten, menschliche Prüfung bei Grenzfällen und laufendes Monitoring mit Drift-Erkennung. Gegen Verzerrung brauchen Sie Tests über demographische Gruppen und festgelegte Fairness-Metriken. Für Transparenz genügt es nicht, die Datenschutzerklärung zu aktualisieren — Betroffene müssen erkennen können, dass sie KI-Verarbeitung unterliegen, und das Recht auf menschliche Überprüfung nach Art. 22 Abs. 3 DSGVO muss operativ durchsetzbar sein. Für Sicherheit gilt: EU-ansässige Infrastruktur, Verschlüsselung at rest und in transit, granulare Zugriffskontrollen und unveränderliches Audit-Logging — nicht als Absichtserklärung, sondern als dokumentierte Konfiguration. Gegen Function Creep helfen technische Kontrollen, die die Nutzung auf den definierten Zweck beschränken, kombiniert mit vertraglichen Einschränkungen gegenüber Anbietern.
Die DSFA ist ein Rechenschaftsdokument. Sie muss den tatsächlichen Stand Ihrer Schutzmaßnahmen zum Zeitpunkt der Erstellung widerspiegeln.
Schritt 5: DSB und Stakeholder konsultieren
Art. 35 Abs. 2 DSGVO verlangt, dass Sie bei der Durchführung einer DSFA den Rat Ihres Datenschutzbeauftragten einholen. Das ist keine Empfehlung — es ist eine gesetzliche Pflicht. Dokumentieren Sie die Konsultation und die Stellungnahme des DSB als eigenständigen Bestandteil der DSFA.
Über den DSB hinaus gehören folgende Stimmen zwingend an den Tisch: das technische Team, das das KI-System baut oder betreibt; der Business Owner, der den Use Case definiert und das Risiko letztlich akzeptiert; die Rechtsabteilung für die regulatorische Einordnung; sowie betroffene Fachbereiche, deren Workflows oder Mitarbeitende durch das System berührt werden. Das Konsultationsgespräch ist nach unserer Erfahrung der wertvollste Teil der gesamten Übung — es bringt Annahmen ans Licht, die niemand hinterfragt hatte, und deckt Risiken auf, die kein einzelner Stakeholder allein identifiziert hätte.
Schritt 6: Dokumentieren, freigeben, aktuell halten
Das finale DSFA-Dokument enthält die Systembeschreibung und Verarbeitungsübersicht, die Bewertung von Notwendigkeit und Verhältnismäßigkeit, die Risikobewertungsmatrix, die Gegenmaßnahmen mit ihrem Umsetzungsstand, die Stellungnahme des DSB sowie die formelle Freigabe durch den verantwortlichen Business Owner. Ergänzen Sie einen Überprüfungsplan — für KI-Systeme in Produktion empfehlen wir mindestens quartalsweise Überprüfung.
Die DSFA ist ein lebendes Dokument. Wenn sich das System ändert — neue Datenquellen, Modell-Updates, erweiterte Anwendungsfälle —, muss die DSFA aktualisiert werden. Bauen Sie das in Ihren Change-Management-Prozess ein, bevor das erste Modell-Update in Produktion geht, nicht danach.
Häufige Fehler, die das Projekt verzögern
Die DSFA als einmalige Übung behandeln. KI-Systeme entwickeln sich — Daten ändern sich, Modelle werden aktualisiert, Anwendungsfälle wachsen. Die DSFA muss mit dem System mitwachsen.
Die DSFA nach der Entwicklung durchführen. Dann erfordern die identifizierten Schutzmaßnahmen architektonische Änderungen an einem System, das bereits fertig gebaut ist. Das ist teuer. Führen Sie die DSFA in der Discovery-Phase durch.
Zu abstrakt bleiben. Eine DSFA, die sagt „wir werden angemessene Schutzmaßnahmen implementieren", ist für eine Aufsichtsbehörde wertlos und für Ihr eigenes Team nutzlos. Benennen Sie die Maßnahmen. Beschreiben Sie, wie sie funktionieren. Nennen Sie die verantwortliche Person.
Die DSB-Konsultation auslassen oder nachträglich einholen. Das ist eine gesetzliche Pflicht, und die Aufsichtsbehörden prüfen genau, ob sie auch dokumentiert ist.
Allein arbeiten. Eine DSFA, die eine einzelne Person in Isolation schreibt, übersieht Risiken, die nur sichtbar werden, wenn Engineering, Legal und Business gemeinsam am Tisch sitzen.
Erledigen, nicht perfektionieren
Die DSFA ist kein Forschungsprojekt. Sie ist ein strukturiertes Gespräch, das ein Dokument produziert. Für einen typischen KI-Workflow dauert die Übung vier bis acht Stunden fokussierte Arbeit über zwei bis drei Sitzungen — nicht Wochen.
Bei Remote Native enthält jedes Projekt eine vorgefertigte DSFA-Vorlage, zugeschnitten auf den konkreten KI-Workflow und von Anfang an so strukturiert, dass sie sowohl DSGVO- als auch EU-AI-Act-Anforderungen abdeckt. Wir moderieren die Sitzungen, beziehen die richtigen Stakeholder ein und produzieren Dokumentation, die einer Aufsichtsprüfung standhält.
Ein Fit Call klärt in 30 Minuten, ob Ihre geplante KI-Initiative eine DSFA auslöst, was sie abdecken muss und wie Sie die Bewertung effizient mit Ihrem bestehenden Datenschutz-Setup verzahnen — bevor die Entwicklung startet und Nachbesserungen teuer werden.
Quellen: Datenschutzkonferenz (DSK), „KI und Datenschutz: Orientierungshilfe," Mai 2024, datenschutzkonferenz-online.de; EU AI Act, Art. 27 (Grundrechte-Folgenabschätzung), Frist 2. August 2026, artificialintelligenceact.eu/article/27; DSGVO, Art. 35 (Datenschutz-Folgenabschätzung).