Ein neuer Bericht des Tech Transparency Project wirft einen kritischen Blick auf Apples Umgang mit sogenannten Deepfake-Apps im App Store. In den Richtlinien ist offen sexualisiertes oder pornografisches Material normalerweise grundsätzlich untersagt, doch Apple (und Google) mache hier einen sehr schlechten Job – obwohl das Unternehmen die hohen Provisionen stets damit verteidigt, wie sorgfältig man sämtliche Inhalte überprüfe. Der neue Vorwurf lautet nun aber, dass der App Store eben nicht nur versehentlich problematische Apps beherbergt, sondern ihre Verbreitung durch Suche, automatische Ergänzung und Werbeflächen zusätzlich erleichtert. Wer Apple durch Werbung hierfür bezahlt, erhalte große Sichtbarkeit.


Einschlägige Suchbegriffe
Laut TTP lieferten Suchbegriffe wie "nudify", "undress", "deepfake" oder "deepnude" im App Store unzählige Apps, die Kleidung digital entfernen, echte Personen in pornografische Videos setzen oder aus ihnen sexualisierte Chatbots machen. Hinzu kamen Suchvorschläge und eben bezahlte Anzeigen, die solche Apps zusätzlich sichtbar machten. Damit steht nicht mehr nur die Frage im Raum, warum Apples Prüfung solche Apps durchlässt, sondern auch, inwieweit man an der Verbreitung mitwirkt – und finanziell davon profitiert. Den Daten zufolge erwirtschaftete das Unternehmen mit den im Bericht genannten Apps 20 bis 30 Millionen Dollar an Provisionen.

31 dieser Apps waren sogar für Minderjährige freigegeben, womit die App-Prüfung gleich mehrfach komplett scheiterte. Wenn der Anbieter in der Beschreibung sogar damit wirbt, keinerlei Filter einzusetzen und kein Login zu verlangen, sollte es eigentlich ein Leichtes sein, direkt einzugreifen. Apple hat auf den Bericht selbst zwar keinen Kommentar abgegeben, reagierte aber immerhin mit dem Entfernen von 15 Apps. Die nachträgliche Löschung demonstriert, dass Apples Kontrolle das Problem nicht von sich aus erkannt oder jedenfalls nicht zuverlässig verhindert hat – es sich außerdem nicht um Einzelfälle handelt.

Apple muss sich kritischen Fragen stellen
Der Bericht kommt insofern zur Unzeit, als in den USA erst vor wenigen Tagen aus dem Senat die Anfrage kam, wie Apple bislang mit der Thematik umging. Der Auslöser waren unter anderem zunehmende Fälle von Mobbing in Schulen durch Weiterverbreitung gefälschter Nacktbilder. In diesem Kontext sei zudem der Umgang mit Grok erwähnt (siehe gestriger Artikel), als Apple ebenfalls erst nach öffentlichem Druck im Hintergrund Schritte einleitete.