Transparenzpflicht

Was ist die Transparenzpflicht?

Die Transparenzpflicht im AI Act verlangt, dass bestimmte KI-Systeme oder ihre Ergebnisse für Menschen als solche erkennbar sind - unabhängig davon, ob das jeweilige System als Hochrisiko-KI eingestuft ist.

Wann Transparenz vorgeschrieben ist

Betroffen sind unter anderem Chatbots, die für Nutzer als KI-System erkennbar sein müssen, sofern dies nicht bereits aus dem Nutzungskontext offensichtlich ist, sowie KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte wie Deepfakes und Systeme zur Emotionserkennung oder biometrischen Kategorisierung.

Praktische Bedeutung

Die Transparenzpflicht trifft in erster Linie Anbieter und Betreiber der betroffenen Systeme - unabhängig von der Risikostufe des jeweiligen KI-Systems selbst. Sie ergänzt die spezifischeren Pflichten für Hochrisiko-KI um eine grundsätzliche Erkennbarkeitsanforderung.

Beispiel

Ein Chatbot auf einer Unternehmenswebsite weist zu Beginn des Gesprächs darauf hin, dass die Antworten von einem KI-System erzeugt werden. Ebenso können KI-generierte Bilder je nach Art des Inhalts einer Kennzeichnungspflicht unterliegen.

Weiterführend

Verwandte Begriffe → AI Act
→ Anbieter
→ Betreiber