Ungewollt veröffentlicht: Tausende intime ChatGPT-Gespräche waren über Google auffindbar
Die Interaktion mit KI-Assistenten dringt in immer weitere Lebensbereiche vor. Viele Menschen nutzen KI-Chats anstatt einer Internetsuche; manche erhoffen sich eine Lebensberatung, wie sie sonst nur ein enger Freund oder ein Therapeut liefern könnte. Manchmal mag es einfacher erscheinen, äußerst intime Fragen einer unpersönlichen KI zu stellen. Doch in einigen Fällen waren diese Interaktionen alles andere als vertraulich, wie das US-amerikanische Wirtschaftsmagazin Fast Company
herausgefunden hat: Über 4.500 Gesprächsverläufe zwischen Mensch und ChatGPT ließen sich über Google finden und der volle Inhalt nachlesen.
Dies geschieht nicht automatisch. Damit OpenAI eine Konversation von Google indizieren ließ, mussten Nutzer zunächst die Teilen-Funktion aufrufen, um sie an jemanden weiterzuleiten. Hier erscheint eine (standardmäßig inaktive) Auswahlbox mit der Beschriftung „Make this chat discoverable“. Erst wenn Nutzer diese anwählten, wurde die Interaktion öffentlich. Aus dem Inhalt einiger Chat-Verläufe lässt sich jedoch erkennen, dass sie nicht für die Öffentlichkeit bestimmt waren – oder zumindest nicht sein sollten. Die Fragenden blieben zwar anonym, doch gaben sie in ihren Fragen oftmals umfangreiche persönliche Informationen preis.
Unerfülltes Sexleben, psychopatisches KindViele Nutzer stellten Fragen, welche am besten bei einem Psychotherapeuten aufgehoben wären. Eine Person suchte Rat zum Leben in einem fremden Land und ihren sexuellen Aktivitäten. Jemand anderes wollte wissen, wie man psychopatisches Verhalten bei Kindern erkennt. Als erste Reaktion verwies OpenAI darauf, dass Anwender willentlich die Option angeklickt hätten und sie eindeutig genug beschrieben sei. Erst nach anhaltender Medienkritik lenkte der KI-Konzern ein und versprach, die Funktion zu entfernen sowie bestehende öffentliche Chats aus dem Google-Index zu entfernen.
Ähnliches Debakel bei Meta AIOpenAI ist nicht der erste KI-Anbieter, bei dem unbedarfte Nutzer im Nachhinein herausfanden, dass ihre Interaktionen öffentlich einsehbar waren: Im Juni machten Screenshots von
Interaktionen mit Meta AI die Runde, die sicherlich nicht absichtlich geteilt wurden: Menschen suchten Rat zu Beziehungssituationen (oder schlicht ihr Ladekabel). Der Fall bei Meta war noch brenzliger, da diese direkt im Social-Media-Feed (Instagram oder Facebook) derjenigen Person erschienen.