Zusammenfassung des EU-KI-Gesetzes

Das EU-KI-Gesetz stellt den umfassenden Ansatz der Europäischen Union zur Regulierung künstlicher Intelligenz dar und balanciert Innovation mit Sicherheit und ethischen Standards. Die Gesetzgebung zielt darauf ab, vertrauenswürdige KI-Entwicklung zu etablieren und gleichzeitig die europäische Wettbewerbsfähigkeit zu unterstützen.

Der Regulierungsrahmen verwendet ein risikobasiertes Klassifizierungssystem. KI-Systeme, die als "inakzeptables" Risiko eingestuft werden, unterliegen einem Verbot, insbesondere solche, die manipulative Techniken verwenden oder gefährdete Bevölkerungsgruppen ausnutzen. "Hochrisiko"-KI-Systeme – solche, die Sicherheit und Grundrechte in Bereichen wie Strafverfolgung, Bildung, Beschäftigung und kritische Infrastruktur betreffen – müssen Konformitätsbewertungen durchlaufen und vor der Bereitstellung in einer EU-Datenbank registriert werden.

Systeme mit "begrenztem Risiko", wie Chatbots und Deepfake-Generatoren, unterliegen Transparenzpflichten, die sicherstellen, dass Benutzer wissen, dass sie mit KI interagieren. Systeme mit "geringem/minimalem Risiko" unterliegen keinen zusätzlichen rechtlichen Anforderungen, obwohl freiwillige Compliance gefördert wird.

Anbieter von Hochrisiko-KI müssen Risikomanagementprotokolle implementieren, Tests durchführen, menschliche Aufsicht sicherstellen, Cybersicherheit aufrechterhalten und Daten ordnungsgemäß verwalten. Generative KI-Systeme müssen KI-generierte Inhalte offenlegen und die Erstellung illegaler Materialien verhindern.

Das Gesetz betont menschenzentrierte Prinzipien: KI-Systeme sollten Sicherheit, Transparenz, Rückverfolgbarkeit, Nichtdiskriminierung und Umweltverantwortung priorisieren. Menschliche Aufsicht ist obligatorisch, um schädliche Ergebnisse zu verhindern.

Die Durchsetzung umfasst benannte Behörden der Mitgliedstaaten und ein Europäisches KI-Gremium. Verstöße haben erhebliche Konsequenzen: Verwaltungsstrafen von bis zu 30 Millionen Euro oder 6% des Umsatzes. Kritiker weisen jedoch darauf hin, dass der Rahmen keine individuellen Durchsetzungsrechte vorsieht, was Bürger und zivilgesellschaftliche Organisationen daran hindert, die Nichteinhaltung direkt anzufechten.

Die menschliche Aufsicht bleibt durchgehend zentral und verhindert, dass autonome Entscheidungsfindung Schaden anrichtet.