Aufgrund dreier maßgeblicher Verstöße gegen den Digital Services Act (DSA) hatte die EU-Kommission Ende vergangenen Jahres eine Strafe in Höhe von 120 Millionen Euro gegen X verhängt. Die Summe setzte sich aus 45 Millionen wegen Irreführung und Täuschung, 35 Millionen wegen fehlender Werbetransparenz und 40 Millionen wegen Aussperren von Forschern zusammen (siehe Artikel). Noch ausstehend sind Entscheidungen hinsichtlich systematischer Reproduktion von Inhalten, die eigentlich unter Strafe stehen – also Hassrede, Volksverhetzung, Terrorpropaganda oder Gewaltaufrufe.


Bilderstellung von Grok sorgt für rechtliche Probleme
Jetzt kommen weitere Verfahren hinzu, welche X ebenfalls teuer zu stehen kommen könnten. Erste Länder hatten den in X integrierten Dienst Grok schon gesperrt, in den USA und im Vereinigten Königreich laufen Ermittlungen, auch die EU nimmt sich nun konkreter Vorfälle an. Es geht um die sehr laschen Sicherheitsvorkehrungen von Grok, welche es ermöglichten, massenhaft Bilder mit sexueller Gewalt an Frauen und sogar Kindern anzufertigen. Zwar stoppte xAI jene Nacktbilderstellung Mitte Januar, doch zuvor hatte man trotz vieler Beschwerden wochenlang nicht auf Kritik reagiert – bzw. in Form von CEO Elon Musk fragwürdige Beiträge sogar mehrfach mit Lachtränen kommentiert. Kenntnis über die Sachlage war daher im Unternehmen vorhanden.

Ermittlungen sollen Tragweite feststellen
Die von der EU ins Leben gerufenen Untersuchungen sollen nun feststellen, ob xAI den gesetzlichen Vorgaben folgte, ausreichende Schutzmechanismen zu bieten und zudem schnell genug zu reagieren. Das Center for Countering Digital Hate hatte beispielsweise ermittelt, dass innerhalb von nur 11 Tagen rund 23.000 Darstellungen mit Kindern in sexualisiertem Kontext via Grok entstanden waren. Die Gesamtzahl an Bildern mit sexualisierter Gewalt lag in diesem Zeitraum bei ungefähr drei Millionen. xAI könnte die Tatsache, lange untätig zugesehen zu haben, dabei schwerer auf die Füße fallen, als die technische Lücke selbst. Generell seien besagte nicht-einvernehmlichen sexuellen Deepfakes von Frauen und Kindern eine gewaltsame, inakzeptable Form der Erniedrigung, so die EU-Digitalchefin Henna Virkkunen