EU AI Act und DSGVO

Wo sich Pflichten überschneiden, und wo nicht

Die häufigste Frage, die Datenschutzbeauftragte und Compliance-Verantwortliche zur KI-Verordnung stellen, lautet: Wie verhält sich der EU AI Act zur DSGVO? Die Antwort ist weder „ersetzt“ noch „ergänzt“, sie lautet: Beide Regelwerke gelten parallel, adressieren unterschiedliche Schutzgüter mit unterschiedlicher Regulierungslogik und erzeugen an spezifischen Stellen Überschneidungen, die Unternehmen integriert managen müssen. Dieser Beitrag kartiert die Schnittstellen, benennt die Trennlinien und zeigt, welche Governance-Strukturen für die parallele Compliance sinnvoll sind.

Der Artikel erklärt die Schnittstellen zwischen EU AI Act und DSGVO. Die DSGVO regelt den Umgang mit personenbezogenen Daten, der EU AI Act die Anforderungen an KI-Systeme. Beide Regelwerke gelten parallel und müssen integriert umgesetzt werden.

Zwei Regelwerke, zwei Schutzrichtungen

Die DSGVO schützt das Grundrecht auf Datenschutz (Art. 8 EU-Grundrechtecharta). Sie reguliert die Verarbeitung personenbezogener Daten, unabhängig davon, ob KI im Spiel ist oder nicht. Ihr Gegenstand ist der Umgang mit Daten natürlicher Personen.

Der EU AI Act schützt ein breiteres Spektrum: Gesundheit, Sicherheit und Grundrechte insgesamt. Er reguliert das Inverkehrbringen und den Betrieb von KI-Systemen, unabhängig davon, ob personenbezogene Daten verarbeitet werden. Sein Gegenstand ist das KI-System als technisches System sowie dessen Bereitstellung und Nutzung. Anders als die DSGVO reguliert der EU AI Act nicht primär die Verarbeitung personenbezogener Daten, sondern die Anforderungen an KI-Systeme und deren Einsatz.

Art. 2 Abs. 7 der KI-Verordnung stellt klar: „Diese Verordnung lässt die Verordnung (EU) 2016/679 […] unberührt.“ Die DSGVO gilt also uneingeschränkt weiter. Der AI Act tritt daneben, nicht an ihre Stelle. Erwägungsgrund 10 konkretisiert: Die KI-Verordnung ergänzt bestehendes EU-Recht und soll komplementär wirken, nicht verdrängen.

Für Unternehmen bedeutet das: Ein KI-System, das personenbezogene Daten verarbeitet, muss beide Regelwerke vollständig erfüllen. Compliance mit dem einen entbindet nicht vom anderen. Diese Parallelität ist kein Versehen, sondern gewollt: Der Gesetzgeber hat bewusst darauf verzichtet, Datenschutzanforderungen in den AI Act zu integrieren, und stattdessen auf die bewährte DSGVO-Infrastruktur verwiesen.

Wo sich Pflichten überschneiden

An fünf Stellen erzeugen beide Regelwerke Anforderungen, die denselben Sachverhalt aus unterschiedlicher Perspektive adressieren.

Transparenz. Die DSGVO verlangt nach Art. 13 und 14, dass Betroffene über die Verarbeitung ihrer Daten informiert werden, einschließlich der Logik automatisierter Entscheidungen (Art. 13 Abs. 2 lit. f DSGVO). Der AI Act verlangt nach Art. 13, dass Hochrisiko-KI-Systeme so gestaltet werden, dass ihr Betrieb hinreichend transparent ist, und nach Art. 50, dass bestimmte KI-Systeme ihre KI-Natur offenlegen. Die Perspektiven unterscheiden sich, Datenschutz-Transparenz richtet sich auf die Information betroffener Personen über die Verarbeitung ihrer Daten. Die Transparenzpflichten des AI Act richten sich auf die Eigenschaften, Funktionsweise und den Einsatz von KI-Systemen. Beide verfolgen unterschiedliche Schutzziele, können aber organisatorisch gemeinsam umgesetzt werden.

Automatisierte Entscheidungen. Art. 22 DSGVO gibt Betroffenen das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet. Der AI Act stellt an Hochrisiko-KI-Systeme umfassende Anforderungen an menschliche Aufsicht (Art. 14), Risikomanagement (Art. 9) und Erklärbarkeit. Beide Regime zielen auf den Schutz vor intransparenter maschineller Entscheidungsmacht, aber aus unterschiedlichen Richtungen: Die DSGVO gibt dem Individuum ein Abwehrrecht, der AI Act stellt Systemanforderungen an den Anbieter.

Folgenabschätzungen. Die DSGVO verlangt eine Datenschutz-Folgenabschätzung (DSFA) nach Art. 35 bei hohem Risiko für Rechte und Freiheiten natürlicher Personen. Der AI Act verlangt nach Art. 27 für bestimmte Betreiber bestimmter Hochrisiko-KI-Systeme eine Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, FRIA). Die Pflicht betrifft nicht sämtliche Hochrisiko-KI-Systeme, sondern insbesondere bestimmte Systeme nach Anhang III sowie deren Einsatz durch öffentliche Stellen oder Anbieter öffentlicher Dienstleistungen. Die DSFA fokussiert auf Datenschutzrisiken; die FRIA adressiert das gesamte Spektrum der Grundrechte, einschließlich Nichtdiskriminierung, Menschenwürde, Meinungsfreiheit und Arbeitnehmerrechte. Für KI-Systeme, die personenbezogene Daten verarbeiten und zugleich unter die FRIA-Pflichten des Art. 27 fallen, werden häufig sowohl eine Datenschutz-Folgenabschätzung (DSFA) als auch eine Grundrechte-Folgenabschätzung erforderlich sein. Art. 27 Abs. 4 ermöglicht ausdrücklich, die FRIA mit der DSFA nach Art. 35 DSGVO zu kombinieren, eine pragmatische Regelung, die Doppelarbeit vermeidet.

Datenqualität und Daten-Governance. Art. 10 des AI Act stellt Anforderungen an die Qualität, Repräsentativität und Governance der Trainings-, Validierungs- und Testdaten. Art. 5 Abs. 1 lit. d DSGVO verlangt Datenrichtigkeit. Beide adressieren Datenqualität, aber in unterschiedlichem Kontext: Die DSGVO schützt die Genauigkeit personenbezogener Daten im Interesse der Betroffenen; der AI Act fordert Datenqualität im Interesse der Systemleistung und der Vermeidung diskriminierender Ergebnisse.

Verarbeitung besonderer Datenkategorien. Art. 10 Abs. 5 des AI Act enthält eine bemerkenswerte Ausnahme: Er erlaubt die Verarbeitung besonderer Kategorien personenbezogener Daten (Art. 9 DSGVO) zum Zweck der Erkennung und Korrektur von Verzerrungen in Hochrisiko-KI-Systemen. Die Bedingungen sind eng gefasst: Die Verarbeitung muss strikt erforderlich sein, angemessene Schutzmaßnahmen für die Grundrechte und Grundfreiheiten natürlicher Personen müssen bestehen, die Daten müssen in einer gesicherten Verarbeitungsumgebung verbleiben, und sie dürfen nicht an Dritte übermittelt oder für andere Zwecke verwendet werden. Diese Regelung adressiert ein praktisches Dilemma: Ohne Zugang zu Daten über Geschlecht, Ethnie oder Behinderung kann ein Anbieter nicht prüfen, ob sein System bestimmte Gruppen systematisch benachteiligt, aber genau diese Daten genießen unter der DSGVO den höchsten Schutz. Die Ausnahme ist eng auszulegen: Die Verarbeitung besonderer Kategorien personenbezogener Daten ist nur zulässig, soweit sie für die Erkennung und Korrektur von Verzerrungen erforderlich ist und die gesetzlichen Schutzvorkehrungen eingehalten werden. Sie schafft keine allgemeine Rechtsgrundlage für den Einsatz solcher Daten im Entwicklungs- oder Trainingsprozess.

Wo sie sich nicht überschneiden

Drei fundamentale Unterschiede trennen beide Regelwerke.

Regulierungsgegenstand. Die DSGVO reguliert Datenverarbeitung, jede Verarbeitung personenbezogener Daten, ob durch KI oder Tabellenkalkulationen. Der AI Act reguliert ein Produkt, das KI-System als technisches Artefakt, unabhängig davon, ob es personenbezogene Daten verarbeitet. Ein KI-System zur Qualitätskontrolle in der industriellen Fertigung, das keine personenbezogenen Daten verarbeitet, fällt unter den AI Act, aber nicht unter die DSGVO. Umgekehrt fällt eine manuelle Verarbeitung sensibler Gesundheitsdaten unter die DSGVO, aber nicht unter den AI Act.

Regulierungslogik. Die DSGVO folgt einer Verarbeitungslogik: Jede einzelne Verarbeitung braucht eine Rechtsgrundlage, einen Zweck und muss verhältnismäßig sein. Der AI Act folgt einer Produktsicherheitslogik: Das System als Ganzes wird gegen Anforderungen geprüft, bevor es auf den Markt kommt. Die DSGVO ist prozessorientiert, der AI Act ist produktbezogen.

Durchsetzung. Die DSGVO wird von Datenschutzaufsichtsbehörden durchgesetzt, in Deutschland der BfDI auf Bundesebene und die Landesdatenschutzbeauftragten. Der AI Act wird von Marktüberwachungsbehörden durchgesetzt. In Deutschland sieht der Entwurf des KI-Marktüberwachungsgesetzes (KI-MIG) vor, der Bundesnetzagentur eine zentrale Koordinierungsrolle zuzuweisen, ergänzt um sektorale Zuständigkeiten etwa der BaFin für Finanzdienstleistungen oder des BfArM für Medizinprodukte.. Die Zuständigkeitsabgrenzung zwischen Datenschutzaufsicht und KI-Marktüberwachung ist eine der offenen Governance-Fragen, die das KI-MIG noch konkretisieren muss. In der Praxis werden Fälle auftreten, in denen beide Behörden zuständig sind, etwa wenn ein Hochrisiko-KI-System gleichzeitig gegen Datenschutzanforderungen und gegen Transparenzpflichten des AI Act verstößt. Kooperationsmechanismen zwischen den Aufsichtsstrukturen werden entscheidend sein, um widersprüchliche Aufsichtsentscheidungen zu vermeiden.

Governance-Integration in der Praxis

Die parallele Geltung beider Regelwerke wirft für Unternehmen die Frage auf, ob Datenschutz-Governance und KI-Governance getrennt oder integriert organisiert werden sollten.

Die Argumente für Integration sind stark: Viele Prüfschritte überlappen (Folgenabschätzungen, Transparenz-Dokumentation, Datenqualitätssicherung). Die verantwortlichen Personen arbeiten mit denselben Systemen. Getrennte Governance erzeugt Redundanz, widersprüchliche Bewertungen und Abstimmungsaufwand.

Die Argumente für Differenzierung sind ebenfalls berechtigt: Die Kompetenzprofile unterscheiden sich (Datenschutzrecht vs. Produktsicherheitsrecht vs. KI-Technik). Die Aufsichtsbehörden sind verschieden. Die Zeitzyklen differieren, DSGVO-Compliance ist kontinuierlich, AI-Act-Compliance hat einen starken Fokus auf den Marktzugang.

Der pragmatische Ansatz: Eine integrierte Governance-Struktur mit differenzierten Fachverantwortungen. Der Datenschutzbeauftragte bleibt für DSGVO-Compliance zuständig, ein KI-Governance-Verantwortlicher für AI-Act-Compliance, aber beide arbeiten in einer gemeinsamen Governance-Struktur mit abgestimmten Prozessen, gemeinsamen Registern und koordinierten Folgenabschätzungen. Für Hochrisiko-KI-Systeme, die personenbezogene Daten verarbeiten, sollte eine kombinierte DSFA/FRIA Standard sein, nicht die Ausnahme.

Ein konkretes Integrationsmodell umfasst drei Ebenen: Auf der strategischen Ebene ein gemeinsames KI- und Daten-Governance-Board, das Grundsatzentscheidungen über den Einsatz von KI-Systemen trifft und Risikotoleranzgrenzen definiert. Auf der operativen Ebene ein gemeinsames Register aller KI-Systeme, das sowohl die AI-Act-Klassifizierung als auch die datenschutzrechtliche Bewertung enthält, das KI-Inventar und das Verarbeitungsverzeichnis nach Art. 30 DSGVO können in ein integriertes Register überführt werden. Auf der Prüfebene kombinierte Folgenabschätzungen, die Datenschutzrisiken und Grundrechtsrisiken in einem Prozess adressieren, sowie koordinierte Audit-Zyklen, die beide Regelwerke abdecken.

Unternehmen, die bereits über ein reifes Datenschutz-Managementsystem verfügen, haben einen strukturellen Vorteil: Prozesse für Verarbeitungsverzeichnisse, Folgenabschätzungen und Betroffenenrechte lassen sich auf AI-Act-Anforderungen erweitern. Wer bei null anfängt, sollte von vornherein integriert planen, statt zwei parallele Systeme aufzubauen.

Bußgeldrahmen im Vergleich

Beide Regelwerke sehen erhebliche Bußgelder vor, die sich im Einzelfall kumulieren können.

Die DSGVO sieht nach Art. 83 Bußgelder bis 20 Millionen Euro oder 4 Prozent des weltweiten Jahresumsatzes vor, je nachdem, welcher Betrag höher ist. Der AI Act sieht nach Art. 99 gestaffelte Bußgelder vor: bis zu 35 Millionen Euro oder 7 Prozent des Umsatzes für verbotene KI-Praktiken, bis zu 15 Millionen Euro oder 3 Prozent für Verstöße gegen Hochrisiko-Anforderungen, bis zu 7,5 Millionen Euro oder 1 Prozent für falsche Angaben gegenüber Behörden.

Ein KI-System, das sowohl gegen DSGVO-Pflichten als auch gegen AI-Act-Anforderungen verstößt, kann theoretisch nach beiden Regelwerken sanktioniert werden. Die Verordnung enthält Proportionalitätsregelungen: Für KMU und Start-ups gilt jeweils der niedrigere der beiden Beträge (fester Betrag oder Umsatzanteil). Eine vollständige Doppelbestrafung für denselben Sachverhalt wäre zudem durch den allgemeinen Grundsatz des ne bis in idem begrenzt, aber wenn verschiedene Verstöße gegen verschiedene Regelwerke vorliegen, können sich die Bußgelder durchaus kumulieren. Ein Beispiel: Wenn ein Hochrisiko-KI-System zur Personalauswahl gleichzeitig gegen die Transparenzpflichten des AI Act (Art. 13) und gegen die Informationspflichten der DSGVO (Art. 13/14) verstößt und zusätzlich Datenqualitätsmängel sowohl nach Art. 10 AI Act als auch nach Art. 5 Abs. 1 lit. d DSGVO aufweist, können die Aufsichtsbehörden jeweils unterschiedliche Verstöße sanktionieren, die Kappung greift nur bei identischem Sachverhalt.

Fazit: Komplementarität als Gestaltungsprinzip

EU AI Act und DSGVO sind keine Konkurrenten, sondern komplementäre Instrumente mit unterschiedlichen Schutzrichtungen. Für Unternehmen, die KI-Systeme mit personenbezogenen Daten entwickeln oder betreiben, bedeutet das: Beide Regelwerke müssen gleichzeitig erfüllt werden, aber die Erfüllung kann integriert organisiert werden.

Drei Handlungsempfehlungen ergeben sich. Erstens: Folgenabschätzungen kombinieren, Art. 27 Abs. 4 erlaubt dies ausdrücklich und reduziert den Gesamtaufwand erheblich. Zweitens: Governance integrieren, aber Fachverantwortungen differenzieren, der Datenschutzbeauftragte ist kein KI-Auditor und der KI-Governance-Verantwortliche kein Datenschutzexperte, aber beide müssen koordiniert arbeiten. Drittens: Die Sonderregelung des Art. 10 Abs. 5 kennen und nutzen, die Verarbeitung besonderer Kategorien zur Bias-Erkennung ist unter strengen Bedingungen zulässig und für faire KI-Systeme oft unerlässlich. Wer die Schnittstellen zwischen beiden Regelwerken frühzeitig identifiziert und integriert adressiert, reduziert nicht nur den Compliance-Aufwand, sondern baut eine Governance-Struktur, die auch kommenden regulatorischen Anforderungen standhält.