Ist mein KI-System hochriskant? Die Einstufung sauber prüfen.
Kaum eine Frage des EU AI Act entscheidet so stark über Aufwand und Pflichten wie diese: Ist mein KI-System hochriskant? Fällt es in diese Kategorie, greifen umfangreiche Anforderungen — Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht, Konformitätsbewertung. Fällt es nicht darunter, bleibt vieles davon außen vor. In der Praxis erlebt man beide Fehler: Unternehmen, die in Panik ein harmloses internes Werkzeug als hochriskant behandeln und unnötig Geld verbrennen — und solche, die ein tatsächlich kritisches System leichtfertig einstufen und ein echtes Risiko übersehen. Beides ist teuer. Dieser Beitrag führt strukturiert durch die Prüfung entlang von Anhang III und Artikel 6 des AI Act, zeigt einen praktikablen Entscheidungsweg und benennt die typischen Grauzonen ehrlich. Er ersetzt keine Rechtsberatung; die verbindliche Einstufung im Grenzfall gehört in fachkundige Hände.
Warum die Einstufung das ganze Projekt prägt.
Die Hochrisiko-Einstufung ist der Dreh- und Angelpunkt des AI Act für Unternehmen. An ihr hängt, ob ein KI-System nur den allgemeinen Anforderungen (etwa der Kompetenzpflicht nach Artikel 4) unterliegt — oder dem vollen Pflichtenkatalog für Hochrisiko-KI.
Dieser Katalog ist substanziell: ein dokumentiertes Risikomanagementsystem, Anforderungen an Trainings- und Eingabedaten, ausführliche technische Dokumentation, Protokollierung, wirksame menschliche Aufsicht, Anforderungen an Genauigkeit und Robustheit sowie ein Konformitätsbewertungsverfahren. Der Aufwand dafür kann erheblich sein.
Deshalb lohnt es sich, die Einstufung nicht aus dem Bauch heraus, sondern strukturiert vorzunehmen — und das Ergebnis nachvollziehbar zu dokumentieren. Eine sauber begründete Einstufung ist auch dann wertvoll, wenn man zum Ergebnis „nicht hochriskant“ kommt: Sie zeigt im Zweifel, dass man die Frage ernsthaft geprüft hat.
Die zwei Pfade zur Hochrisiko-Eigenschaft.
Der AI Act kennt im Kern zwei Wege, auf denen ein System hochriskant werden kann. Das sauber auseinanderzuhalten erspart viel Verwirrung.
Pfad 1 — Sicherheitsbauteil von Produkten (Artikel 6 Absatz 1): Ein KI-System gilt als hochriskant, wenn es als Sicherheitsbauteil eines Produkts dient oder selbst ein Produkt ist, das unter bestimmtes EU-Produktsicherheitsrecht fällt (etwa Maschinen, Medizinprodukte, Aufzüge, Spielzeug) und für dieses Produkt eine Konformitätsbewertung durch Dritte vorgeschrieben ist. Hier verbindet sich der AI Act mit bestehendem Produktrecht.
Pfad 2 — Anwendungsbereiche aus Anhang III (Artikel 6 Absatz 2): Unabhängig davon gilt ein System als hochriskant, wenn es in einen der in Anhang III genannten sensiblen Bereiche fällt. Für die meisten Mittelständler ohne eigene regulierte Produkte ist Pfad 2 der relevantere.
Anhang III — die sensiblen Anwendungsbereiche.
Anhang III listet die Bereiche, in denen KI-Einsatz grundsätzlich als hochriskant gilt. In sinngemäßer Zusammenfassung sind das insbesondere:
- Biometrie, soweit zulässig (etwa biometrische Fernidentifizierung, Kategorisierung, Emotionserkennung)
- Kritische Infrastruktur (Sicherheitsbauteile in Verkehr, Wasser, Gas, Strom, digitaler Infrastruktur)
- Allgemeine und berufliche Bildung (Zugang, Bewertung, Prüfungsüberwachung)
- Beschäftigung und Personalmanagement (Recruiting, Auswahl, Beförderung, Kündigung, Leistungsbewertung)
- Zugang zu wesentlichen privaten und öffentlichen Diensten (Kreditwürdigkeit, bestimmte Versicherungen, Sozialleistungen, Notfalldienste)
- Strafverfolgung, Migration/Asyl/Grenzkontrolle, Justiz und demokratische Prozesse
Für viele Unternehmen ist vor allem der Bereich Beschäftigung praxisrelevant: KI in der Bewerbervorauswahl oder in der Leistungsbewertung von Mitarbeitenden fällt typischerweise hierunter. Wer ein KI-Tool zum Sichten und Ranken von Bewerbungen einsetzt, sollte sehr genau prüfen.
Die wichtige Ausnahme: kein erhebliches Risiko.
Entscheidend und oft übersehen ist eine Ausnahmeregelung in Artikel 6: Ein System, das zwar in einen Anhang-III-Bereich fällt, gilt dennoch nicht als hochriskant, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte darstellt — insbesondere, weil es das Ergebnis einer Entscheidung nicht wesentlich beeinflusst.
Der AI Act nennt dazu sinngemäße Fallgruppen, etwa wenn das System nur eine eng begrenzte verfahrenstechnische Aufgabe erfüllt, lediglich das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert, oder nur eine vorbereitende Aufgabe zur Entscheidung ausführt, ohne sie zu ersetzen.
Diese Ausnahme ist mächtig, aber kein Freibrief. Wer sie in Anspruch nimmt, muss die Einschätzung dokumentieren — und es gilt eine wichtige Rückausnahme: Profiling natürlicher Personen führt regelmäßig wieder zur Hochrisiko-Eigenschaft. Hier ist Vorsicht geboten, und im Zweifel fachkundiger Rat.
Ein praktikabler Entscheidungsweg.
Aus Artikel 6 und Anhang III lässt sich ein nachvollziehbarer Prüfpfad ableiten, den man pro KI-System einmal durchgeht:
| Schritt | Leitfrage | Konsequenz |
|---|---|---|
| 1 | Ist es Sicherheitsbauteil/Produkt nach gelistetem Produktrecht mit Drittbewertung? | Falls ja: hochriskant (Pfad 1) |
| 2 | Fällt der Einsatzzweck in einen Anhang-III-Bereich? | Falls nein: in der Regel nicht hochriskant |
| 3 | Beeinflusst es die Entscheidung wesentlich / betreibt es Profiling? | Profiling: hochriskant; nur vorbereitend: Ausnahme prüfen |
| 4 | Greift eine Ausnahme nach Artikel 6? | Falls ja: nicht hochriskant, aber dokumentieren |
| 5 | Ergebnis und Begründung festhalten | Nachweis für Aufsicht und interne Sicherheit |
Dieser Pfad ersetzt keine juristische Einzelfallprüfung, gibt aber eine belastbare Struktur — und verhindert, dass die Einstufung zur Gefühlsentscheidung wird.
Typische Grauzonen ehrlich benannt.
In der Praxis liegen die schwierigen Fälle selten an den Rändern, sondern in der Mitte. Drei wiederkehrende Grauzonen lohnen besondere Sorgfalt.
Bewerbervorauswahl: Ein Tool, das Lebensläufe nur formal vorsortiert, kann vorbereitend sein — eines, das Kandidaten rankt und damit die Auswahl faktisch lenkt, beeinflusst die Entscheidung wesentlich. Die Grenze ist fließend und hängt am konkreten Einsatz.
Kreditbezogene Anwendungen: Schon eine unterstützende Bonitätseinschätzung kann erheblich wirken, sobald sie die Entscheidung trägt. Hier ist konservatives Vorgehen ratsam.
Profiling: Sobald ein System Personen anhand von Merkmalen bewertet oder kategorisiert, kippt die Einstufung schnell. Die Versuchung, sich auf die Ausnahme zu berufen, ist groß — gerade hier ist sie oft nicht tragfähig.
Was nach der Einstufung kommt.
Lautet das Ergebnis „nicht hochriskant“, bleibt es bei den allgemeinen Pflichten — insbesondere KI-Kompetenz und, je nach System, Transparenzpflichten. Die dokumentierte Begründung legt man ab und prüft sie erneut, wenn sich der Einsatzzweck ändert.
Lautet das Ergebnis „hochriskant“, beginnt die eigentliche Arbeit: Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht, Konformitätsbewertung und Registrierung, soweit vorgeschrieben. Dieser Aufwand ist real und sollte früh eingeplant werden — am besten schon bei der Beschaffung, indem man Anbieter konkret nach ihrer AI-Act-Konformität fragt.
Die konkreten Stichtage für die Hochrisiko-Pflichten sind gestaffelt und sollten tagesaktuell aus offiziellen Quellen bezogen werden. Wer früh und strukturiert prüft, vermeidet Last-Minute-Hektik — und teure Fehlinvestitionen in beide Richtungen.
Sie sind unsicher, ob Ihr KI-System hochriskant ist, und wollen die Einstufung sauber und nachvollziehbar prüfen? Unverbindlich anfragen — wir gehen Ihre Anwendung entlang von Anhang III und Artikel 6 strukturiert durch und halten eine begründete Einstufung fest, auf die Sie sich stützen können.