KI-Assistenten werden längst nicht mehr nur für unverfängliche Wissensfragen genutzt. Anwender besprechen mit ChatGPT, Claude, Gemini und Co. Gesundheitsfragen, berufliche Themen oder finanzielle Angelegenheiten – entsprechend sensibel können die dabei anfallenden Daten sein. Eine neue Untersuchung des Forschungsinstituts IMDEA Networks zeigt nun, dass zahlreiche KI-Dienste Informationen aus solchen Unterhaltungen an externe Analyse- und Werbedienste übermitteln. Wie weit dies geht, unterscheidet sich allerdings erheblich zwischen den einzelnen Anbietern.

[banner]

Untersuchung: Was passiert nach dem Prompt?
Für die Studie "Prompt like a Butterfly, Sting like a Tracker" untersuchten die Forscher ChatGPT, Claude, Gemini, Grok, DeepSeek, Perplexity, Mistral Le Chat, Meta AI und Microsoft Copilot. Alle untersuchten Angebote kommunizierten mit mindestens einem externen Analyse- oder Trackingdienst. Insgesamt fand man 124 Drittanbieter-Domains von 44 Unternehmen, von denen sie 34 dem Bereich Werbung und Tracking zuordneten.

ChatGPT: Chat-Kennung und URL, aber nicht der Gesprächsinhalt
Bei ChatGPT beobachtete man im Browser eine Übertragung der eindeutigen Gesprächskennung und der Chat-URL an Datadog, einen Dienst für Analyse und Systemüberwachung. Zusätzlich wurden Nutzer- und Sitzungskennungen übermittelt. Den eigentlichen Prompt, die Antwort oder den automatisch erzeugten Titel sahen die Forscher dort hingegen nicht.

Gemini: Der automatisch erzeugte Chattitel kann nach außen gelangen
Bei Gemini liegt das Problem an einer anderen Stelle. Die Webversion übermittelte den automatisch erzeugten Titel eines Gesprächs an Google Analytics. Solche Titel können bereits erstaunlich viel verraten. Auch bei abgelehnten nicht notwendigen Cookies beobachteten die Forscher entsprechende Google-Verbindungen. Der komplette Prompt gelangt jedoch nicht nach außen.

Perplexity: Prompt in der Android-App
Bei Perplexity unterschieden sich Webversion und die getestete Android-App (iOS wurde nicht untersucht!) deutlich. Im Browser beobachteten die Forscher unter anderem Gesprächskennung und Chat-URL bei Datadog. In der Android-App ging dagegen sogar der jüngste Prompt an den Analysedienst Wingify. Damit gehört Perplexity zu den Diensten, bei denen tatsächlich ein Teil des eigentlichen Gesprächsinhalts an einen externen Anbieter gelangte.

Grok fällt besonders negativ auf
Nach Zustimmung zu nicht notwendigen Cookies übermittelte die Webversion Gesprächskennung, vollständige Chat-URL und automatisch erzeugten Titel gleich an mehrere Dienste, darunter DoubleClick, Google Ads, Meta, TikTok und Twitter Analytics. Teilweise kamen Werbe-Cookies oder dauerhafte Kennungen hinzu, mit denen sich diese Informationen einem Nutzerprofil zuordnen lassen. Noch weiter ging es beim ausdrücklichen Teilen eines Grok-Chats. Meta und TikTok erhielten laut Untersuchung den letzten Prompt im Klartext, TikTok zusätzlich eine Bildschirmaufnahme des jüngsten Teils der Unterhaltung. Grok war zudem der einzige Dienst, bei dem die präparierten Testlinks noch Stunden und Tage später wiederholt von fremden Systemen aufgerufen wurden. Insgesamt registrierten die Forscher 70 Abrufe aus 14 Ländern.

[banner]

Meta AI, DeepSeek und Microsoft Copilot geben nichts weiter
Bei Meta AI ließ sich keine Übermittlung von Prompt, Titel oder Gesprächslink an externe Tracker feststellen. Man sollte dennoch nicht folgern, bei Meta AI den besten Datenschutz vorzufinden, denn intern dürften Daten sehr wohl verarbeitet werden. In der Studie ging es allerdings explizit um die Weitergabe an Drittanbieter, nicht um Datennutzung direkt auf der Plattform. Besonders zurückhaltend zeigten sich in der Untersuchung auch DeepSeek und Microsoft Copilot, beide überreichten keine Inhalte – allerdings gilt hier dieselbe Einschränkung wie bei Meta.

Claude und Mistral: Chat-Links mit Kontodaten verknüpft
Bei Claude erhielten externe Analysedienste unter anderem Gesprächskennungen und Chat-URLs. Intercom bekam zudem Nutzerkennung, E-Mail-Adresse und weitere Kontodaten übermittelt. Noch aussagekräftiger waren die Funde bei Mistral Le Chat. Dort gingen neben der Gesprächskennung auch URL und automatisch erzeugter Chattitel gemeinsam mit Nutzer- und Kontoinformationen an Intercom. Die eigentlichen Prompts oder Antworten wurden in diesen Fällen jedoch ebenfalls nicht übertragen.

[banner]

Wichtige Anmerkung zu den Funden
Bei den Funden ist allerdings zwischen Werbung und anderen Aufgaben zu unterscheiden. Nicht jedes Drittunternehmen ist nämlich ein Datenhändler. Dienste wie Datadog oder Sentry werden beispielsweise vor allem zur Fehleranalyse, Überwachung und Diagnose eingesetzt. Die Studie weist Datenübertragungen nach, nicht aber einen Verkauf von Chat-Inhalten. Aus den Ergebnissen lässt sich daher nicht ableiten, dass KI-Anbieter komplette Gespräche gegen Bezahlung an Werbefirmen weiterreichen. Wie erwähnt ging es zudem nicht darum, was der jeweilige KI-Anbieter intern mit den Unterhaltungen macht.

Tipps für mehr Privatsphäre
Wer KI-Chatbots nutzt und besonders auf Nummer sicher gehen will, sollte sensible Angaben möglichst vermeiden und keine vertraulichen Dokumente, Zugangsdaten oder personenbezogenen Informationen Dritter eingeben. Empfehlenswert ist zudem bei webbasierten KI-Diensten, nicht notwendige Cookies abzulehnen, verfügbare Optionen zur Nutzung von Chats für Training oder Personalisierung zu deaktivieren und allem voran öffentliche Freigabelinks nur gezielt einzusetzen.