Konformitätsbewertung für Hochrisiko-KI

So bereiten sich Anbieter vor

Die Konformitätsbewertung ist der Nachweis, dass ein Hochrisiko-KI-System alle Anforderungen der KI-Verordnung erfüllt, bevor es in Verkehr gebracht wird.Art. 43 sieht für Hochrisiko-KI-Systeme grundsätzlich zwei Konformitätsbewertungsverfahren vor: die interne Kontrolle nach Anhang VI und die Bewertung unter Beteiligung einer Benannten Stelle nach Anhang VII. Welches Verfahren gilt, hängt davon ab, ob es sich um ein Hochrisiko-KI-System nach Anhang III handelt oder um ein KI-System als Teil eines regulierten Produkts nach Anhang I. Dieser Beitrag analysiert beide Verfahren, ordnet die Rolle der Benannten Stellen ein und zeigt, welche Vorbereitungsschritte Unternehmen bis August 2026 priorisieren sollten.

Der Artikel erklärt die Konformitätsbewertung Hochrisiko-KI als verpflichtenden Nachweis der EU-KI-Verordnung, dass ein Hochrisiko-KI-System vor dem Inverkehrbringen alle Anforderungen erfüllt. Er definiert die Unterschiede zwischen interner Kontrolle nach Anhang VI und Drittbewertung durch eine Benannte Stelle nach Anhang VII.

Zwei Wege zur Konformität

Art. 43 unterscheidet zwei Konformitätsbewertungsverfahren; maßgeblich ist dabei insbesondere, ob das System unter Anhang III oder unter Anhang I fällt.

Der erste Weg ist die interne Kontrolle nach Anhang VI. Sie gilt für Hochrisiko-KI-Systeme nach Anhang III, Punkte 2 bis 8 – also für Systeme in den Bereichen kritische Infrastruktur, Bildung, Beschäftigung, öffentliche Leistungen, Strafverfolgung, Migration und Rechtspflege (Anhang III Punkte 2 bis 8). Bei der internen Kontrolle bewertet der Anbieter selbst, ob sein System die Anforderungen erfüllt. Eine externe Prüfstelle ist nicht erforderlich. Das bedeutet allerdings nicht, dass die Anforderungen geringer wären – der Anbieter muss dieselben materiellen Pflichten erfüllen und die Konformität vollständig dokumentieren. Die interne Kontrolle ist eine Verfahrenserleichterung, keine inhaltliche Reduktion.

Die Bewertung unter Beteiligung einer Benannten Stelle nach Anhang VII ist für Systeme nach Anhang III, Punkt 1, erforderlich, wenn keine harmonisierten Normen oder gemeinsamen Spezifikationen angewendet werden, sowie für KI-Systeme im Anwendungsbereich von Anhang I, soweit das jeweilige sektorale Recht eine Drittprüfung vorsieht.

Sie ist in zwei Fällen vorgeschrieben: erstens für KI-Systeme, die als Sicherheitskomponente in ein reguliertes Produkt nach Anhang I eingebettet sind – hier wird die KI-Konformitätsbewertung in die bestehende sektorale Bewertung integriert, etwa in die Konformitätsbewertung nach der der jeweils einschlägigen harmonisierten Produktrechtsvorschrift nach Anhang I oder der Maschinenverordnung.
Zweitens für biometrische Identifikationssysteme und andere Systeme nach Anhang III Punkt 1, wenn der Anbieter keine harmonisierten Normen oder gemeinsamen Spezifikationen vollständig anwendet. Wendet er diese vollständig an, besteht ein Wahlrecht zwischen interner Kontrolle und Drittbewertung. Diese Systeme tragen ein besonders hohes Grundrechtsrisiko, weshalb der Gesetzgeber eine externe Prüfung als zusätzliche Absicherung vorsieht.

Interne Kontrolle nach Anhang VI

Die interne Kontrolle nach Anhang VI umfasst zwei Kernelemente.

Das erste ist die Überprüfung des Qualitätsmanagementsystems nach Art. 17. Der Anbieter muss nachweisen, dass sein QMS die Anforderungen der Verordnung abdeckt – von der Entwicklungsstrategie über das Risikomanagement bis zur Post-Market-Überwachung. Die Überprüfung umfasst die Dokumentation der QMS-Prozesse, die Nachvollziehbarkeit der Verantwortlichkeiten und den Nachweis, dass das QMS tatsächlich angewendet wird und nicht nur auf dem Papier existiert.

Das zweite ist die Prüfung der technischen Dokumentation nach Art. 11 und Anhang IV. Der Anbieter muss die technische Dokumentation nach Art. 11 und Anhang IV vollständig erstellen, prüfen und sicherstellen, dass Design, Entwicklung und Testing den dokumentierten Prozessen entsprechen.
Die Konsistenz zwischen Dokumentation und tatsächlichem System ist der kritische Prüfpunkt: Wenn die Dokumentation ein Risikomanagementsystem beschreibt, das in der Praxis anders funktioniert, besteht keine Konformität.

Die interne Kontrolle verlangt keine externe Validierung – aber sie verlangt eine ehrliche und dokumentierte Selbstbewertung. Der Anbieter muss nachweisen können, dass er jede Anforderung systematisch geprüft und die Ergebnisse festgehalten hat. Marktüberwachungsbehörden können jederzeit die Dokumentation der internen Kontrolle anfordern und deren Qualität bewerten. In der Praxis empfiehlt sich ein internes Audit-Team, das unabhängig von der Entwicklungsabteilung agiert und die Konformität mit dem Blick einer externen Prüfstelle bewertet. Unternehmen, die diese Fähigkeit nicht intern aufbauen können, sollten externe Berater hinzuziehen, auch wenn das Verfahren formal keine Benannte Stelle erfordert.

Bewertung durch Benannte Stellen nach Anhang VII

Die Bewertung nach Anhang VII umfasst die Prüfung des Qualitätsmanagementsystems und der technischen Dokumentation; zusätzliche Tests können ergänzend durchgeführt werden-

Die erste Stufe ist das QMS-Audit. Die Benannte Stelle prüft, ob das Qualitätsmanagementsystem des Anbieters die Anforderungen nach Art. 17 erfüllt – nicht nur formal, sondern auch in der praktischen Umsetzung. Sie prüft Prozesse, Verantwortlichkeiten, Schulungsnachweise und die Integration des Risikomanagements in den Entwicklungsprozess.

Die zweite Stufe ist die Bewertung der technischen Dokumentation. Die Benannte Stelle erhält vollständigen Zugang zur technischen Dokumentation und zu den Trainings-, Validierungs- und Testdatensätzen. Sie bewertet die Vollständigkeit, Konsistenz und Nachvollziehbarkeit der Dokumentation und prüft, ob die dokumentierten Risikomanagementmaßnahmen, Testverfahren und Leistungsmetriken den Anforderungen der Verordnung entsprechen.

Die dritte Stufe kann zusätzliche Tests umfassen. Die Benannte Stelle kann eigenständig Tests des KI-Systems durchführen oder vom Anbieter durchgeführte Tests verifizieren. Sie kann auch Zugang zu den Entwicklungs- und Testeinrichtungen verlangen, um die Übereinstimmung zwischen Dokumentation und tatsächlichem System zu überprüfen.

Am Ende des Verfahrens kann die Benannte Stelle eine Bescheinigung über die Konformitätsbewertung beziehungsweise die technische Dokumentation ausstellen, je nach einschlägigem Verfahren.
Diese Bescheinigung hat eine begrenzte Gültigkeit, sie richtet sich nach dem einschlägigen Verfahren und der Bescheinigung, und muss bei wesentlichen Systemänderungen erneuert werden. Die Benannte Stelle kann die Bescheinigung auch aussetzen oder widerrufen, wenn sie feststellt, dass das System die Anforderungen nicht mehr erfüllt. Für Anbieter bedeutet das: Die Konformitätsbewertung endet nicht mit der Bescheinigung, sondern begründet ein dauerhaftes Verhältnis zur Benannten Stelle, das regelmäßige Nachprüfungen einschließt.

Benannte Stellen: Anforderungen und Kapazitäten

Art. 44 bis 46 definieren die Anforderungen an Benannte Stellen und das Verfahren ihrer Benennung durch die Mitgliedstaaten.

Benannte Stellen müssen unabhängig vom Anbieter und von dessen Wettbewerbern sein. Ihr Bewertungspersonal muss über Fachkompetenz in KI-Technologien, Risikomanagement und den spezifischen Anwendungsbereichen verfügen. Die Mitgliedstaaten benennen die zuständigen Behörden für die Notifizierung und Überwachung der Benannten Stellen.

Für Unternehmen, die eine Drittbewertung benötigen, ist die Kapazitätsfrage drängend: Die Zahl qualifizierter Benannter Stellen für KI-Systeme wird zum Stichtag 2. August 2026 voraussichtlich begrenzt sein. Der Aufbau der notwendigen Kompetenz und Infrastruktur bei den Prüfstellen läuft parallel zum Aufbau der Compliance bei den Anbietern. Unternehmen sollten frühzeitig Kontakt zu potenziellen Benannten Stellen aufnehmen und Bewertungsslots reservieren – eine Vorlaufzeit von sechs bis neun Monaten ist realistisch.

CE-Kennzeichnung und Konformitätserklärung

Nach erfolgreicher Konformitätsbewertung folgen zwei formale Schritte.

Die EU-Konformitätserklärung nach Art. 47 ist ein maschinenlesbares Dokument, in dem der Anbieter erklärt, dass das KI-System die Anforderungen des Abschnitts 2 der Verordnung erfüllt. Sie wird zehn Jahre aufbewahrt und den Aufsichtsbehörden auf Verlangen vorgelegt. Die Konformitätserklärung verweist auf die technische Dokumentation und auf die angewendeten Normen oder, in Abwesenheit harmonisierter Normen, auf die Grundlage, anhand derer die Konformität nachgewiesen wird.

Die CE-Kennzeichnung nach Art. 48 wird sichtbar und dauerhaft am KI-System oder, wenn dies nicht möglich ist, auf der Verpackung oder in den Begleitunterlagen angebracht. Bei Systemen, die einer Drittbewertung unterzogen wurden, folgt auf das CE-Zeichen die Kennnummer der Benannten Stelle. Die CE-Kennzeichnung signalisiert den Marktüberwachungsbehörden und Nutzern, dass das System die Konformitätsbewertung durchlaufen hat. Für digital bereitgestellte Hochrisiko-KI-Systeme ist eine digitale CE-Kennzeichnung zu verwenden, sofern sie über die Benutzeroberfläche oder ein leicht zugängliches maschinenlesbares Mittel erreichbar ist, eine Praxis, die sich von der klassischen Produktkennzeichnung unterscheidet und für viele Softwareanbieter Neuland darstellt.

Sektorale Integration: Anhang-I-Produkte

Für KI-Systeme, die Sicherheitskomponenten regulierter Produkte nach Anhang I sind, gelten besondere Regeln. Die Konformitätsbewertung erfolgt im Rahmen der jeweiligen sektoralen Gesetzgebung – der Medizinprodukte-Verordnung, der Maschinenverordnung, der Aufzugsrichtlinie oder der entsprechenden Produktvorschrift. Die KI-spezifischen Anforderungen der KI-Verordnung werden in diese bestehende Bewertung integriert, sodass eine einzige Konformitätsbewertung beide Regelwerke abdeckt.

In der Praxis bedeutet das: Die sektorale Benannte Stelle muss auch KI-Kompetenz vorweisen. Für Medizinproduktehersteller, die KI-basierte Diagnosesysteme entwickeln, wird die bestehende MDR-Benannte Stelle die KI-Anforderungen mitprüfen. Ob die bestehenden Benannten Stellen diese zusätzliche Kompetenz zum Stichtag flächendeckend aufgebaut haben, ist eine offene Frage. Für Hersteller regulierter Produkte ergibt sich daraus eine doppelte Herausforderung: Sie müssen nicht nur ihre eigene KI-Compliance aufbauen, sondern auch sicherstellen, dass ihre Benannte Stelle die KI-spezifischen Aspekte der Bewertung fachlich abdecken kann. Ein frühzeitiges Gespräch mit der bestehenden Benannten Stelle über den KI-Bewertungsumfang ist dringend empfohlen.

Vorbereitung: Fünf Schritte bis August 2026

Die Konformitätsbewertung kommt nicht am Ende – sie muss von Anfang an mitgedacht werden. Fünf Vorbereitungsschritte sind prioritär.

Der erste Schritt ist die Bestimmung des anwendbaren Verfahrens: Fällt das System unter Anhang III (eigenständig) oder Anhang I (eingebettetes Produkt)? Handelt es sich um biometrische Fernidentifikation? Die Antwort bestimmt, ob interne Kontrolle genügt oder eine Benannte Stelle erforderlich ist.

Der zweite Schritt ist die Gap-Analyse gegen die materiellen Anforderungen: Art. 9 (Risikomanagement), Art. 10 (Daten-Governance), Art. 11 (technische Dokumentation), Art. 12 (Logging/Protokollierung), Art. 13 (Transparenz), Art. 14 (menschliche Aufsicht), Art. 15 (Genauigkeit, Robustheit, Cybersicherheit) und Art. 17 (QMS). Jede Lücke muss vor der Bewertung geschlossen werden.

Der dritte Schritt ist die Aufbereitung der technischen Dokumentation nach Anhang IV – vollständig, aktuell und prüfbar. Die Dokumentation ist das zentrale Prüfobjekt, sowohl bei der internen Kontrolle als auch bei der Drittbewertung.

Der vierte Schritt ist ein internes Probeaudit: Die eigene Konformität mit dem Blick einer externen Prüfstelle bewerten, Schwachstellen identifizieren und vor der eigentlichen Bewertung beheben. Dieser Schritt ist bei interner Kontrolle die einzige Qualitätssicherung; bei Drittbewertung reduziert er das Risiko negativer Prüfergebnisse.

Der fünfte Schritt ist, bei Bedarf, die frühzeitige Kontaktaufnahme mit einer Benannten Stelle. Die Kapazitäten werden begrenzt sein, und Bewertungsverfahren dauern mehrere Monate. Wer erst im Sommer 2026 einen Termin sucht, wird Schwierigkeiten haben. Die Vorbereitung auf die Konformitätsbewertung beginnt nicht mit dem Bewertungsverfahren selbst, sondern mit der systematischen Erfüllung aller materiellen Anforderungen – sie ist das Ergebnis einer Compliance-Reise, nicht deren Startpunkt.

Fazit: Konformitätsbewertung als Ziellinie der Compliance-Reise

Die Konformitätsbewertung ist der Punkt, an dem alle vorherigen Compliance-Schritte zusammenlaufen: das Risikomanagementsystem nach Art. 9, die technische Dokumentation nach Art. 11, das QMS nach Art. 17 – sie alle werden hier geprüft. Drei Aspekte verdienen besondere Beachtung.

Erstens: Die Mehrzahl der Hochrisiko-KI-Systeme nach Anhang III kann die interne Kontrolle nutzen, aber „intern“ heißt nicht „einfach“. Der Anbieter trägt die volle Verantwortung für eine belastbare Selbstbewertung. Zweitens: Für Systeme mit Drittbewertungspflicht ist die Kapazität der Benannten Stellen der kritische Engpass, frühzeitige Planung ist keine Empfehlung, sondern Notwendigkeit. Drittens: Die Konformitätsbewertung ist kein einmaliger Vorgang. Wesentliche Änderungen am System erfordern eine erneute Bewertung. Der Konformitätsnachweis muss über den gesamten Lebenszyklus aufrechterhalten werden.