Das Thema selbst ist zwar nicht ganz durch, erhielt aber vor einigen Wochen durch X/Grok sehr viel mediale Aufmerksamkeit: Nacktbilderstellung durch KI‑Tools, genauer gesagt nonkonsensuale Erstellung sogenannter Deepfakes. Nicht das Erzeugen von Nacktbildern ist hierbei das Problem, sondern das Erstellen und Verbreiten entsprechender Darstellungen auf Grundlage echter Personen. Im Falle von Grok kamen zudem mehr als 23.000 dokumentierte Darstellungen mit Kindern in sexualisiertem Kontext hinzu. Die Europäische Union steht kurz davor, sogenannte Nudify-Apps zu verbieten. Parlament und Rat haben sich auf Änderungen des "AI Act" geeinigt, welche erhebliche Einschränkungen für entsprechende Tools mit sich bringen.


Man setzt direkt bei den Tools an
KI-Systeme, die sexuell explizite Handlungen identifizierbarer Personen ohne deren Einwilligung darstellen, sind nach Verabschiedung demnach künftig verboten. Die EU-Regelung zielt daher nicht nur auf die spätere Verbreitung solcher Bilder ab, sondern direkt auf Tools, die deren Erstellung ermöglichen. Der "Digital Services Act" verpflichtet große Plattformen ohnehin bereits dazu, systemische Risiken zu bewerten und zu mindern. Das geplante Nudify-Verbot soll zusätzlich unterbinden, ein System ausdrücklich mit dem Zweck anzubieten, derlei Inhalte zu erzeugen. Auch Anbieter, deren Systeme keine angemessenen Schutzmaßnahmen gegen die Erstellung nicht-einvernehmlicher sexueller Darstellungen oder CSAM-Inhalte besitzen, können erfasst werden.

Ab Dezember greifen neue Vorgaben
Im Newsbereich der EU-Kommission lassen sich dazu einige Details finden. Nach Angaben des Europäischen Parlaments sollen Unternehmen ihre Systeme bis zum 2. Dezember 2026 an die neuen Vorgaben anpassen. Schutzmechanismen, Sperren, Moderationsprozesse und technische Nachweisbarkeit sind fortan nicht mehr nur freiwillige Sicherheitsfunktionen, sondern Teil regulatorischer Anforderungen.

Einschreiten, bevor es zur Normalität wird
Die EU will offensichtlich nicht warten, bis sich Nudify-Dienste als normaler Anwendungsfall generativer KI etablieren. Nach der Debatte um Grok stuft man nonkonsensuale Deepfakes somit nicht als Moderationsproblem sozialer Netzwerke ein, sondern ganz grundsätzlich als unzulässige KI-Praxis. Für allgemeine KI-Bilddienste bedeutet dies: Wer in der EU verfügbar sein will, muss künftig beweisen, dass solche Inhalte nicht einfach per Prompt zu erzeugen sind. Hat man bereits entsprechende Schutzmechanismen, was bei den meisten Diensten ohnehin der Fall ist, dürfte sich somit erst einmal wenig ändern. Anders sieht es natürlich bei Apps und Diensten aus, die genau für diesen Zweck beworben werden und sich auch im App Store zuhauf finden ließen.