Als der erste Entwurf der KI-Verordnung im April 2021 von der EU-Kommission diskutiert wurde, war vom bevorstehenden KI-Hype noch nichts zu spüren. Vielmehr war das in China verwendete "Social Scoring" Auslöser für ein Gesetz, das automatisierte Gesichtserkennung im öffentlichen Raum verbieten sollte. Drei Jahre später findet das Thema deutlich größeren Anklang in der Öffentlichkeit. Nach harten Verhandlungen stimmten nun über 80 Prozent der Parlamentarier für den Gesetzesentwurf. Damit wird vor allem die Erkennung von Personen, Personengruppen und Emotionen im öffentlichen Raum, am Arbeitsplatz und in Sozialen Netzwerken reglementiert. Ausnahmen bestehen für Strafverfolgungsbehörden.


In einer Presseerklärung unterteilt das EU-Parlament das Themenfeld in zwei Bereiche: KI-Nutzung mit inakzeptablen Risiken werden generell verboten. KI-Einsätze mit hohen Risiken für Grundrechte von EU-Bürger sind melde- und genehmigungspflichtig. Die vier Einsatzgebiete mit inakzeptablen Risiken lauten: Verhaltensmanipulation, Social Scoring, biometrische Identifikation und biometrische Echtzeit-Erkennungssysteme (etwa Gesichtserkennung). Der KI-Einsatz in allen vier Bereichen wird grundsätzlich verboten. Ausnahmen gibt es für Strafverfolgungs- und Grenzkontrollbehörden, nur bei ernsthafter Bedrohung sowie schweren Verbrechen und auf richterliche Anordnung.

Genehmigung für KI-Einsatz in bestimmten Produkten und Bereichen
Die Bereiche mit hohem Risiko umfassen einerseits Produkte wie Spielzeuge, Autos und medizinische Geräte, andererseits geschützte Bereiche, beispielsweise Bildungseinrichtungen oder der Arbeitsplatz. In diesen Hochrisiko-Bereichen muss der Einsatz von Künstlicher Intelligenz beantragt und genehmigt werden. Um die Umsetzung kümmern sich die einzelnen Nationalstaaten. In den nächsten Tage und Wochen werden deshalb weitere Details ausgearbeitet werden; höchstwahrscheinlich werden die EU-Gremien aktuelle Entwicklungen in nachträglichen Anpassungen berücksichtigen.

KI-Inhalte müssen klar erkennbar sein
Das Betreiben von generativer Künstlicher Intelligenz wie ChatGPT, Midjourney oder Gemini muss man nicht beantragen – aber die Herkunft ihrer Produkte offenlegen: Die Erzeugnisse einer generativen KI unterliegen zukünftig einer Kennzeichnungspflicht. Bei Fotos, Audio-Dateien, Filme und Bilder muss klar erkennbar sein, dass sie von einer KI erstellt werden. Anbieter generativer KIs sind zudem dafür verantwortlich, dass ihre Modelle keine illegalen Inhalte erzeugen. Obendrein sollen sie eine Zusammenfassung der kopiergeschützten Inhalte veröffentlichen, die für das Trainieren des Modells genutzt werden. Die EU behält sich vor, fortgeschrittenere KI-Modelle auf systemkritische Risiken zu prüfen.

Mit heißer Nadel gestrickt
Das News-Portal netzpolitik.org hat die Entwicklung des Gesetzes über die Jahre beobachtet. Bis Anfang 2023 war das KI-Gesetz ein eher unauffälliger Entwurf, der mit dem Hype um ChatGPT und Midjourney massiv an Relevanz gewann: Konzerne mit KI-Ambitionen investierten Millionen in ihre Lobbyarbeit, die Trilog-Verhandlungen im Dezember dauerten bis zu 22 Stunden. Der im Februar veröffentlichte Kompromisstext deckte sich dann nur teilweise mit den Erinnerungen einiger Abgeordneter. Doch überwog bei vielen Parlamentariern am Ende der Gedanke, dass eine unvollständige Regulierung besser sei als gar keine. 523 stimmten für das Gesetz, 46 dagegen, und 49 enthielten sich.

Verbote gelten wahrscheinlich noch dieses Jahr
Der weitere Verlauf folgt den üblichen Regeln der Europäischen Union. Im April folgt die offizielle Bekanntmachung, da vorab die Zeit fehlte für die detaillierte Übersetzung in 24 Amtssprachen. Danach stimmen die einzelnen Staaten dem Gesetz zu – mit Ablehnung wird hierbei nicht gerechnet. Das Verbot von Technologien mit inakzeptablen Risiken soll dann innerhalb von sechs Monaten gelten, also wahrscheinlich noch im Jahr 2024. Die Transparenzrichtlinien, Melde- und Genehmigungspflichten treten nach zwei Jahren, also 2026, in Kraft.