Einblicke in das EU-KI-Gesetz

Nach einem intensiven dreitägigen Verhandlungsmarathon haben die Unterhändler der Ratspräsidentschaft und des Europäischen Parlaments erfolgreich eine vorläufige Einigung über den Vorschlag für eine einheitliche Regelung für künstliche Intelligenz (KI), das sogenannte Gesetz über künstliche Intelligenz, erzielt. Ziel des Verordnungsentwurfs ist es, die Sicherheit von KI-Systemen zu gewährleisten, die auf dem europäischen Markt eingeführt und in der EU eingesetzt werden, wobei die Grundrechte und die Werte der EU gewahrt bleiben sollen. Nach dieser vorläufigen Einigung werden die Bemühungen auf technischer Ebene in den kommenden Wochen fortgesetzt, um die Einzelheiten der neuen Verordnung festzulegen. Sobald diese Arbeiten abgeschlossen sind, wird die Präsidentschaft den Kompromisstext den Vertretern der Mitgliedstaaten zur Billigung vorlegen. Der umfassende Text muss von beiden Organen bestätigt und rechtlich-sprachlich überarbeitet werden, bevor er von den Mitgesetzgebern förmlich angenommen wird.

Wir haben Mitglieder unserer Community nach ihrer Meinung zum KI-Gesetz gefragt. Dies ist ihre Meinung:

Samson Esaias: Außerordentlicher Professor für Recht an der BI Norwegian Business School, Fakultätsmitglied am Berkman Klein Center of Internet and Society an der Harvard University

"„Seit dem Vorschlag der Kommission vom April 2021 hat sich in den gesetzgebenden Organen der EU ein Konsens über einen risikobasierten Ansatz für die KI-Regulierung sowie innovationsfördernde Maßnahmen wie Sandkästen herausgebildet. Die Debatten konzentrierten sich auf sensible Themen wie die biometrische Identifizierung für die Strafverfolgung und die Regulierung von KI für allgemeine Zwecke (GPAI). Das Parlament sprach sich für stärkere Grundrechtsgarantien aus, während der Rat breitere Ausnahmen für die Verwendung biometrischer Identifizierung für die Strafverfolgung befürwortete. Der GPAI-Regulierungsvorschlag des Parlaments stieß auch auf den Widerstand des Rates, zum Teil weil er sich auf die Technologie selbst konzentriert und nicht auf die damit verbundenen Risiken. Dennoch scheint das Parlament, wie aus den Pressemitteilungen hervorgeht, wichtige Erfolge erzielt zu haben, einschließlich des Verbots der biometrischen Identifizierung mit sensiblen Daten, des Internet-Foto-Scrapings für die Gesichtserkennung, der Beschränkung der prädiktiven Polizeiarbeit und der obligatorischen Folgenabschätzung für Rechte bei Systemen mit hohem Risiko. In ähnlicher Weise enthält der jüngste Entwurf trotz des starken Widerstands einiger Mitgliedstaaten auch wichtige Verpflichtungen zu GPAI und systemischen Gründungsmodellen, obwohl die Kriterien für letztere möglicherweise zu streng sind. Diese Fokussierung auf die GPAI-Regulierung, die ursprünglich im Kommissionsentwurf fehlte, verdeutlicht die Verschiebung der Prioritäten in den letzten zwei Jahren. Es stellt sich die Frage, ob diese Ergänzungen auch in zwei Jahren noch relevant sein werden, wenn die Gesetzgebung in Kraft tritt, oder ob sie die Notwendigkeit eines Umdenkens bei der Regulierung dieser sich schnell entwickelnden Technologien unterstreichen werden."

Urs Gasser: Professor für Public Policy, Governance und innovative Technologien, Rektor der Hochschule für Politik (HfP) und Dekan der TUM School of Social Sciences and Technology, Leiter der TUM Generative AI Taskforce

"Die Einigung über den AI Act stellt einen wichtigen Meilenstein dar. Sie ist vor allem ein starkes politisches Signal an die Weltgemeinschaft, das zeigt, dass die EU-Gesetzgebungsorgane funktionsfähig sind und sinnvolle Leitplanken in einem komplexen und schnelllebigen normativen Bereich aufstellen können, mit den Menschenrechten und demokratischen Werten als Leitplanken. Ob das KI-Gesetz als komplexer rechtlicher und regulatorischer Eingriff - der zuweilen einem Rorschachtest gleicht - die hohen Erwartungen seiner führenden Befürworter erfüllen wird, bleibt abzuwarten. KI-Governance als normatives Feld ist mit vielen Unbekannten verbunden. Die vielleicht größte Herausforderung besteht darin, kontinuierlich zu lernen und sowohl die rechtlichen Pfadabhängigkeiten als auch die unbeabsichtigten Folgen zu bewältigen, die mit solch ehrgeizigen Gesetzgebungsprojekten oft einhergehen, wie uns die jüngste Geschichte von Recht, Technologie und Gesellschaft lehrt."

Noha Lea Halim: Doktorandin und wissenschaftliche Mitarbeiterin an der Professur für Governance, Public Policy & Innovative Technologien an der TUM School of Governance, Mitarbeiterin in der TUM Generative AI Taskforce

"Mit der Einigung über den AI Act präsentiert die EU einen weltweit richtungsweisenden Regulierungsvorschlag – das bislang ambitionierteste Rahmenwerk. Indem sie nicht nur die wirtschaftlichen, sondern auch die gesellschaftlichen Auswirkungen von KI in den Blick nimmt, setzt sie den Ton für die künftige Entwicklung der Technologie und schafft weitreichende Auswirkungen für Forschung und Entwicklung von KI-Systemen in Europa und darüber hinaus. Die 12- bis 24-monatige Umsetzungsphase wird zeigen, wie anpassungsfähig die Verordnung langfristig gegenüber dem disruptiven Potenzial der Technologie ist und ob die Union die nötigen Kapazitäten aufbauen kann, um den Vorschlag mit Leben zu füllen. Dieser wegweisende Vorschlag ist jedoch erst der Anfang – den künftigen Herausforderungen der KI werden noch viele weitere Initiativen folgen."

Timo Minssen: Professor für Recht, CeBIL-Direktor an der Universität Kopenhagen und Global Visiting Professor an der TUM im Frühjahr 2024

"Obwohl weiterhin erhebliche Kontroversen bestehen, war es entscheidend, eine Einigung über den EU-AI-Act zu erzielen, denn jetzt ist der Moment, an dem entschieden werden muss, wo (und wo nicht) reguliert werden soll. Künstliche Intelligenz entwickelt sich rasant und wird bereits täglich von Millionen Bürger*innen in zahlreichen Lebensbereichen eingesetzt. Sowohl die Risiken als auch die Chancen sind real, und wir müssen ihnen zügig begegnen, wenn wir die Kontrolle behalten und die Vorteile dieser Technologie auf nachhaltige, sichere und faire Weise nutzen wollen.

Angesichts der Komplexität des Themas und der erforderlichen Abwägungen waren die Verzögerungen während der Verhandlungen zum AI-Act kaum überraschend. Viele der ursprünglich restriktiveren Bestimmungen scheinen nach und nach abgeschwächt worden zu sein. Vor allem industriepolitische Interessen und Wettbewerbsbedenken führten dazu, dass regulatorische Schwellenwerte gesenkt und tradierte wertbasierte Grenzen weiter gefasst wurden. Ähnliche Entwicklungen beobachten wir — zum Guten wie zum Schlechten — auch bei den chinesischen Übergangsregelungen zu generativer KI sowie in westlichen Staaten wie den USA und dem Vereinigten Königreich.

Diese veränderten politischen Perspektiven verdeutlichen, wie sehr KI unsere traditionellen Werte und Konzepte herausfordert, was das enorme Gewicht der Aufgabe unterstreicht. Die Auswirkungen betreffen nicht nur Unternehmen, Wohlstand, Industrie, Innovation und das Wissens­gemeingut, sondern auch den individuellen Zugang zu — und Schutz vor — mächtigen Technologien. Forderungen nach Verboten oder strengerer Regulierung bestimmter Anwendungen in der EU aus ethischen oder wertbasierten rechtlichen Gründen und wegen des Vorsorgeprinzips mussten und müssen gegen Wettbewerbsnachteile sowie Gesundheitsrisiken durch verpasste Chancen abgewogen werden, die aus zu hohen Hürden resultieren. Es ist daher zu erwarten, dass die Bedeutung sogenannter „Regulatory Sandboxes“ zunimmt, auch wenn dieses Konzept noch weiter präzisiert werden muss.

Es erscheint mir, dass der AI-Act bei konsequentem Schutz der Menschenrechte und grundlegenden Werte mit seinem risikokategoriebasierten Ansatz im Grundsatz die Linie „so offen wie möglich und nur so geschlossen (d. h. reguliert) wie nötig“ verfolgt. Gerade für Systeme mit geringem Risiko könnte das gute Nachrichten für viele Innovator*innen und KMU-Entwickler sein, auch wenn einige noch weniger Regeln bevorzugt hätten. Umgekehrt hätten diejenigen, die vor allem die Risiken sehen — oder etablierte Unternehmen mit starken IP-Portfolios und großen Rechtsabteilungen — womöglich einen Ansatz „so geschlossen wie möglich und nur so offen wie nötig“ mit hohen Schwellenwerten vorgezogen, sei es um Risiken — oder (!) neue Konkurrenz — zu begrenzen.

Dabei muss man sich bewusst sein, dass sich die aktuelle Debatte vor allem um hochrangige Regeln dreht. Im Alltag zählt jedoch, wie diese dort umgesetzt werden, wo es darauf ankommt, und ob die von uns gesetzten Regeln durchsetzbar, praktikabel und überwachbar sind. Steht die Wahl zwischen einem Dschungel extrem detaillierter Vorschriften ohne ausreichende Durchsetzungsmöglichkeiten und wenigen, aber sehr robusten und durchsetzbaren Regeln, bevorzuge ich eindeutig Letzteres, um die Achtung vor dem Recht zu erhöhen."

Armando Guio Espanol: Affiliate am Berkman Klein Center for Internet & Society der Harvard University

"Der EU-AI-Act ist eine Regulierung, die nicht nur Europa, sondern die ganze Welt beeinflussen wird. Seine Verabschiedung wird viele Länder dazu bewegen, eigene Regeln für die Entwicklung und Implementierung dieser Technologie festzulegen. Es wird entscheidend sein, die Arbeiten der kommenden Monate sowie den daraus entstehenden Umsetzungsprozess in der Europäischen Union genau zu verfolgen.

Im Jahr 2024 werden wir beobachten, wie sich mehrere Staaten Europa anschließen und offiziell neue Vorschriften für KI-Systeme einführen. So diskutieren derzeit etwa verschiedene lateinamerikanische Länder regulatorische Vorschläge für KI. Der EU-AI-Act wird viele dieser Debatten spürbar mobilisieren und beschleunigen. Ebenso wird es interessant sein zu sehen, wie sich diese regulatorische Fragmentierung auf die Nutzung und den Einsatz der Technologie auswirkt – und wie einige der größten Unternehmen darauf reagieren."

Dirk Heckmann: Professor für Recht an der TUM School of Social Sciences and Technology, Direktor von bidt.digital, Taskforce Generative KI

Ob sich der AI Act als wirksame Regulierung für KI erweisen wird, wird sich erst in der rechtlichen Praxis zeigen. Politische Zufriedenheit ersetzt keine Rechtssicherheit.