Ein kleiner Computer mit einem leistungsfähigen KI-Agenten, kostenlos bereitgestellt in der Cloud? Was im ersten Moment wie ein gutes Angebot aussieht, sollte wohlüberlegt sein. Ganz besonders sorgfältiges Abwägen ist angeraten, wenn der Agent auf dem eigenen Mac ungefragt auf private Daten wie Nachrichten zugreift. Genau das scheint Metas neuer Agent Muse zu machen, jedenfalls legt dies ein Erfahrungsbericht des Tech-Journalisten Jason Aten nahe, der das KI-System ausprobiert hat.


Muse läuft in einer VM und soll Nutzer unterstützen
Die Idee hinter Muse ist einfach: In einer virtuellen Maschine läuft ein eigenes System auf Linux-Basis, inklusive Browser. Dort befindet sich auch Muse, der neue KI-Agent von Meta. Per App kann man vom Mac und iPhone aus auf ihn zugreifen und sich bei seinen Aufgaben unterstützen lassen. Nutzer haben dabei die Wahl, auf welche ihrer Informationen der Agent zugreifen darf – so die Theorie. In der Praxis ist der Agent offenbar aber in der Lage, selbst ohne ausdrückliche Freigabe auf private Daten zuzugreifen – und macht ohne zu fragen davon Gebrauch. Diese Erfahrung schildert der Journalist Jason Aten, wie er auf Inc.com berichtet.

Muse kennt Inhalt privater Nachrichten
Aten installierte die Muse-App auf dem Mac und seinem iPhone. Festplattenvollzugriff gewährte er ihr nach eigener Aussage nicht und wurde seiner Erinnerung nach auch nicht dazu aufgefordert. Den Zugriff auf Kalender, Nachrichten und persönliche Daten habe Aten aktiv verweigert. Nachdem er eine Zeit lang mit dem Agenten interagiert hatte, machte dieser ohne Aufforderung Vorschläge für eine Kolumne auf Basis der gerade geführten Konversation mit einem Podcast-Partner. Auf Nachfrage, woher der Bot das wisse, antwortet dieser, er hätte die Vorschauen gesehen, die beim Empfang einer Nachricht auf dem Mac angezeigt werden. Die dazugehörige Datenbank gelesen habe der Agent nicht. Nach weiteren Untersuchungen stellte Aten jedoch fest, dass Muse die lokale Datenbank vom Mac als Datenquelle bis Zeile 187.462 synchronisiert hatte.

Probleme bei Produktdesign und technischer Umsetzung
Da Meta damit wirbt, Muse wäre gebaut, um Sicherheit und Nutzerkontrolle in den Vordergrund zu stellen, richtet sich Atens Kritik vor allem gegen das Vorgehen des KI-Agenten, für das er Meta in der Verantwortung sieht. Die Produktumsetzung sei untragbar, selbst wenn er den Festplattenvollzugriff erteilt hätte. Er habe Muse zu keinem Zeitpunkt aufgefordert, die Nachrichten zu lesen oder etwas zu tun, wofür der Inhalt der Nachrichten erforderlich gewesen wäre. Die versprochene Transparenz und Nutzerkontrolle bliebe so auf der Strecke.

Neben diesen berechtigten Kritikpunkten bleibt weiterhin die Frage offen, wie Muse technisch an diese Daten kam. Auch eine Diskussion mit David Singleton von Meta auf Threads konnte keine echten Aufschlüsse geben. Eigentlich ist das Berechtigungssystem auf Apples Geräten so gestaltet, dass Daten ohne Freigabe nicht zugänglich sein sollten.