Entwurf einer KI-Verordnung in der EU
Hard Facts
Kategorie: Gesetzesentwurf
Veröffentlicht: 21. April 2021
Akteure: Europäische Kommission
Primäre Quellen
Gesetzesentwurf der Kommission:
https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52021PC0206
Aszódi, Nikolett. A guide to the AI Act, the EU’s upcoming AI rulebook you should watch out for (August 26, 2022): https://algorithmwatch.org/en/ai-act-explained/
Weitere Einschätzungen von
Expert·innen
Mueller, Benjamin. The Artificial Intelligence Act: A Quick Explainer (Mai 4, 2021)
Fanta, Alexander. EU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“ (April 21, 2021)
Zusammenfassung
Die Europäische Kommission legte im April 2021 einen Vorschlag für ein Gesetz über Künstliche Intelligenz (KI-Verordnung) vor. Das Gesetz soll Vorschriften zum Schutz der Sicherheit, der Gesundheit und der Grundrechte vor den von KI-Systemen ausgehenden Risiken festlegen und auf Unionsebene und über alle Sektoren hinweg gelten. Die Kommission nutzt dafür ein Binnenmarktinstrument – die KI-Verordnung legt also fest, welche Anforderungen KI-Produkte erfüllen müssen, um in der EU auf den Markt kommen zu können. Sie setzt dabei auf einen risikobasierten Ansatz und schlägt vor, KI-Systeme verschiedenen Risikograden zuzuordnen, für die jeweils unterschiedliche Regelungen gelten sollen. Der Entwurf der Kommission sieht vor, dass KI-Systeme in Hochrisiko-Bereichen wie der vorausschauenden Polizeiarbeit, Einstellungsverfahren oder der Grenzkontrolle einer Konformitätsprüfung durch den Anbieter unterzogen werden müssen. Voraussetzung ist, dass diese Systeme über ihren Lebenszyklus hinweg bestimmte Voraussetzungen erfüllen müssen und in einer EU-Datenbank registriert werden.
Die Verordnung enthält auch eine Auflistung von Verboten: So soll unter anderem der Einsatz von biometrischen Echtzeit-Fernidentifikationssystemen im öffentlichen Raum zu Zwecken der Strafverfolgung – mit bestimmten Ausnahmen – als auch allgemeine staatliche soziale Bewertungssysteme (sogenanntes social scoring) verboten sein. Der Entwurf der Verordnung verleiht den von KI-Systemen betroffenen Menschen keine individuellen Rechte. Sie enthält auch keine Bestimmungen über individuelle oder kollektive Rechtsbehelfe oder einen Mechanismus, mit dem Menschen oder die Zivilgesellschaft die Risiken von KI-Systemen selbst beurteilen können.
Relevanz
Die Verhandlungen laufen. Wie die KI-Verordnung letztlich aussehen wird, ist derzeit noch völlig offen. Sobald der Rat und das Parlament innerhalb ihrer Institutionen einen Konsens erzielt haben (vermutlich bis Ende 2022), werden die sogenannten Trilog-Verhandlungen beginnen. Einige Mitgliedsstaaten wollen die Definition von Künstlicher Intelligenz auf Systeme des Maschinellen Lernens begrenzen und dadurch den Anwendungsgrad der Verordnung schmälern. Zivilgesellschaftliche Akteure weisen darauf hin, dass Grundrechtsverstöße auch durch „einfachere“ regelbasierte Systeme festgestellt wurden. Sie können gleichermaßen Schaden erzeugen und sind demnach nicht per se weniger risikoreich. Einige Parlamentarier·innen sprechen sich für weitere Einsatzverbote aus, z. B. von KI-gestützter vorausschauender Polizeiarbeit. Ein weiteres umstrittenes Thema sind die Ausnahmen von den Anforderungen der KI-Verordnung für manche Hochrisiko-Anwendungen. Während im Vorschlag der Kommission zunächst von Ausnahmen für KI-Anwendungen im militärischen Kontext die Rede war, möchten einige Mitgliedsstaaten auch den Bereich der nationalen Sicherheit ausnehmen – was Akteure aus der Zivilgesellschaft kritisieren. So könnten Staaten beispielsweise Gründe der nationalen Sicherheit als Legitimation nutzen, um biometrische Gesichtserkennung in Echtzeit im öffentlichen Raum einzusetzen.