Signal und iMessage ausgelesen, teure Versicherung gebucht: Metas KI-Agent Muse offenbart sich als Sicherheitsrisiko


Seitdem Anthropic im Oktober 2025 „Agent Skills“ als Funktionserweiterung der eigenen Frontier-Modelle vorgestellt hat, ist agentische KI zunehmend in den Fokus der Branche gerückt: LLM-gestützte Software unterteilt komplexe Aufgaben eigenständig in Einzelschritte und arbeitet diese ab, um den im Prompt formulierten Wunsch des Anwenders zu erfüllen. Missverständnisse oder übereifrige KI können dort fatale Folgen haben. Dies mussten einige Anwender der agentischen KI „Muse“ von Meta feststellen: Diese legte in einigen Fällen unerwünschtes Verhalten an den Tag.
Auf inc.com berichtet Jason Aten von einer
übergriffigen Interaktion mit einer neu installierten Version von Muse auf seinem Mac mini: Muse meldete sich eigenständig und nahm Bezug auf einen aktiven Chat zwischen Aten und seinem Podcast-Partner. Der KI-Agent schlug vor, den Inhalt der Unterhaltung als Thema für seine Kolumne anzurecherchieren – und nahm dabei Bezug auf einen anstehenden Abgabetermin aus einer anderen Konversation. Auf die Frage, woher der Agent den Gesprächsinhalt kenne, erhielt er die Antwort, dass lediglich der Inhalt der Push-Mitteilungen ausgelesen wurde. Tatsächlich stellte er jedoch fest, dass Muse umfassenden Zugriff auf die iMessage-Datenbank hatte. Aten zufolge hatte er Muse weder den Zugriff auf seine Nachrichten noch den macOS-Festplattenvollzugriff eingeräumt. Meta widersprach und erklärte, für den Zugriff seien beide Berechtigungen erforderlich – was wiederum von Jason Aten
zurückgewiesen wurde.
Karrieretipps und Signal-ErinnerungenReuters hat
Erfahrungsberichte von Meta-Angestellten zusammengetragen, welche problematisches Verhalten offenbarten: Anfragen nach Kinderbetreuung, Karrieretipps, Warenbestellungen und Kontoständen – allesamt nicht vom Anwender in Auftrag gegeben. Die Smartphone-Version von Muse erinnerte eine Nutzerin daran, auf eine Signal-Nachricht ihrer Schwester zu antworten. Besonders pikant: Signal ist Ende-zu-Ende-verschlüsselt. Die Verschlüsselung schützt allerdings nicht davor, dass ein KI-Agent über entsprechende Systemberechtigungen auf die bereits entschlüsselte Darstellung der Nachrichten auf einem Endgerät zugreift.
Erfundene Kontodaten und teure VersicherungenEin Meta-Angestellter bekam zudem unaufgefordert zwei Kontostände mitgeteilt – beide wertete er als entweder halluziniert oder einem anderen Nutzer zugehörig. Ein anderer Fall beschreibt einen unaufgeforderten Wechsel einer Haustierversicherung: Muse wechselte von einem Paket zum monatlichen Preis von 200 US-Dollar auf ein Premiumangebot, das 888 Dollar pro Monat kostet. Eine Rückabwicklung sei laut dem Angestellten nicht mehr möglich gewesen.
Reaktionen von MetaDavid Singleton, ein Mitglied des Meta-Superintelligence-Teams, bestätigte, dass Meta einige Berichte erhalten habe, in denen „Nutzer den Eindruck hatten, dass Muse halluziniere oder private Informationen anderer Anwender ausgebe“. Das Unternehmen habe daraufhin eine Untersuchung durchgeführt. Singleton zufolge hatte eine fehlerhafte Änderung der internen Anweisungen dazu geführt, dass Muse bestimmte Instruktionen auch in unpassenden Gesprächssituationen anwendete. Dies habe Halluzinationen ausgelöst. Dies sei kein Sicherheitsrisiko; man habe Muse angepasst und den Fehler ausgeräumt,
erklärte Singleton auf Threads. Reuters konnte allerdings unabhängig davon einen Zugriff auf Signal-Nachrichten reproduzieren.
Zweckentfremdung von BedienungshilfenEine Untersuchung, welche Reuters in Zusammenarbeit mit Signal und dem AI Now Institute durchführte, offenbarte, wie Muse unter macOS an den Inhalt der verschlüsselten Kommunikation gelangen konnte: durch eine Zweckentfremdung der Bedienungshilfen, welche Menschen mit Behinderungen den Zugriff auf Inhalte erleichtern sollen. Somit sei nicht Signals Verschlüsselung geknackt, sondern die entschlüsselte Darstellung am Endgerät zweckentfremdet worden – unter Android las Muse stattdessen Push-Benachrichtigungen aus. Apple ist die Problematik möglicherweise bereits bewusst: In macOS 27.3 Beta 2 führt das Unternehmen unter anderem
differenziertere Berechtigungen für Bedienungshilfen und den Zugriff auf Systemdaten ein. Zudem sollen Nutzer genauer erkennen können, welche Daten und Funktionen sie einer Anwendung freigeben. Derzeit ist die Muse-App in den Vereinigten Staaten, Japan, Kanada, Australien und Singapur
erhältlich.