Hochrisiko-KI

Was ist Hochrisiko-KI?

Hochrisiko-KI bezeichnet KI-Systeme, die laut AI Act erhebliche Risiken für Sicherheit oder Grundrechte bergen und deshalb strengen Pflichten unterliegen - etwa Risikomanagement, Dokumentationspflichten, menschliche Aufsicht und Konformitätsbewertung vor Markteinführung.

Wie die Einstufung erfolgt

Der AI Act definiert Hochrisiko-KI insbesondere über die Produktbereiche des Anhangs I sowie die Einsatzbereiche des Anhangs III - unter anderem kritische Infrastruktur, Bildung, Beschäftigung, wesentliche private und öffentliche Dienstleistungen, Strafverfolgung, Migration und Rechtspflege. Die Einstufung hängt vom Einsatzzweck ab, nicht von der zugrunde liegenden Technologie: Hochrisiko ist keine Eigenschaft der KI, sondern eine Eigenschaft ihres Einsatzes.

Warum Hochrisiko-KI besonderen Pflichten unterliegt

Entscheidungen solcher Systeme können erhebliche Auswirkungen auf Sicherheit oder Grundrechte haben - etwa bei der Vorauswahl von Bewerbungen oder dem Zugang zu Bildung. Deshalb verlangt der AI Act zusätzliche Nachweise und Kontrollen, bevor und während ein solches System eingesetzt wird.

Praktische Auswirkungen

Sowohl Anbieter, die ein Hochrisiko-KI-System entwickeln, als auch Betreiber, die es einsetzen, treffen konkrete Pflichten - deren Umfang je nach Rolle unterschiedlich ausfällt. Die konkreten Pflichten greifen gestaffelt; wann genau sie im Einzelfall anzuwenden sind, kann sich mit künftigen Anpassungen des Zeitplans ändern, ohne dass sich dadurch etwas daran ändert, wann ein System grundsätzlich als Hochrisiko gilt. Aktuelle Fristen dazu stehen im Eintrag AI Act.

Beispiel

Ein KI-System, das Bewerbungen vorsortiert oder über den Zugang zu Bildung entscheidet, kann unter bestimmten Voraussetzungen als Hochrisiko-KI eingestuft werden.

Weiterführend

Verwandte Begriffe → AI Act
→ Anbieter
→ Betreiber
→ Digital Omnibus