Als Google im Jahr 2012 das AR-Headset „Google Glass“ als Prototypen vorstellte, äußerten Datenschützer umfangreiche Befürchtungen, dass die integrierte Kamera ständig die Umgebung des Trägers erfassen und an Server des Herstellers übermitteln könnte. Vierzehn Jahre später ist mit Meta Ray-Ban Display ein ähnliches Modell frei erhältlich – und die damals geäußerten Bedenken haben anscheinend immer noch Gültigkeit: Eine Investigativreportage der schwedischen Zeitung „Svenska Dagbladet“ weist nach, dass Bilder und Videos auf den Bildschirmen von „Data Annotators“ landen. Die Inhalte sind teilweise äußerst privater Natur.


Die Journalisten sprachen mit dreißig Angestellten des Unternehmens Sama, welches in Kenia beheimatet ist und im Auftrag von Meta Video- und Audiomaterial auswertet. Was die Data Annotators erledigen, ist essenziell für die Zuverlässigkeit der Meta-KI – durch Bestätigung oder Widerspruch der KI-Vermutungen werden die Fähigkeiten des verwendeten Modells optimiert. Doch welche Szenen für die Weiterentwicklung der Meta-KI verwendet werden, dürfte den Nutzern nicht bewusst sein. Angestellte berichten von Szenen, die eindeutig zu privat sind, um für KI-Training herangezogen zu werden: Gelegentlich müssen sie mit ansehen, wie Menschen sich ausziehen, auf Toilette gehen oder miteinander intim sind.

Ausschalten unmöglich
In Schweden machen die Journalisten eine Probe aufs Exempel und versuchen, die Übermittlung von Daten zu Trainingszwecken zu unterbinden. Dies erschien ihnen jedoch unmöglich: Die Smartphone-App zur Steuerung der Meta-AR-Brillen erlaubte ihnen zwar, die Kommunikation mit den Servern des Herstellers zu unterbinden, dann lieferte die KI allerdings auch keine Antworten mehr. Will man künstliche Intelligenz, müssen Nutzer zustimmen, dass „gelegentlich“ Daten für KI-Training verwendet werden. Wann dies geschieht, oder welche dies waren, bleibt verborgen. Aus den Berichten der kenianischen Data Annotators sind Aufnahmen dabei, bei denen keine KI-Interaktion stattfindet.

Widerspruch zu DSGVO?
Gemäß der Datenschutzgrundverordnung sind Hersteller verpflichtet, Informationen entsprechend den EU-Datenschutzregeln zu behandeln. Meta erklärt, dies bedeute nicht, dass die so gesammelten Daten in der EU verbleiben müssen, sondern verpflichte lediglich zu einer Aufarbeitung und Verarbeitung gemäß EU-Regeln. Auf die Frage, ob und wie dies bei Subunternehmen in Niedriglohnländern gewährleistet wird, antwortete der Konzern nicht. Ehemalige Angestellte des Meta-Konzerns bestätigten, dass intime Details vom KI-Training ausgenommen werden. Die Gesichter von Personen sowie private Details wie Kreditkartennummern sollten automatisch unkenntlich gemacht, allzu intime Interaktionen herausgefiltert werden. Doch dieser Automatismus mache regelmäßig Fehler, so die Ex-Meta-Mitarbeiter.