Push-Nachrichten von MacTechNews.de
Würden Sie gerne aktuelle Nachrichten aus der Apple-Welt direkt über Push-Nachrichten erhalten?

Apple Intelligence: Trick macht aus den Schreibwerkzeugen einen Chatbot – mit Einschränkungen

Wer einen ausgeklügelten Chatbot auf dem iPhone nutzen möchte, kann dies ohne Weiteres tun und etwa ChatGPT über den Browser oder die App bemühen. Apple Intelligence taugt hierfür jedoch nicht: Bislang sorgen die von Cupertino ausgearbeiteten Tools vor allem dafür, Textkorrekturen vorzunehmen oder etwa unliebsame Elemente in Fotos zu retuschieren. Die Schreibwerkzeuge lassen sich allerdings auch für einen anderen Zweck nutzen, den Cupertino so wohl nicht vorsieht: Tatsächlich erhalten Nutzer, die einen bestimmten Prompt vor eine Frage einbauen, ausführliche Antworten im Stil eines Chatbots. Als alltagstauglich erweist sich dieses Vorgehen indes nicht.


Apple Intelligence antwortet als Chatbot, wenn Schreibwerkzeuge zum Einsatz kommen
Die Forscherin Mia Katsuragi veröffentlichte einen Prompt, welcher Apple Intelligence „austrickst“ und das Gerät wie einen Chatbot antworten lässt. Dieser beinhaltet unter anderem die Aufforderung, vergangene Anweisungen zu ignorieren und ausschließlich neue Instruktionen zu befolgen. Nutzer können zudem festlegen, dass die KI ein bestimmtes Land als Standort akzeptiert und lediglich in der gewünschten Sprache antwortet. Die Eingabe folgt diesem Muster:


In weiterer Folge müssen Anwender die Schreibwerkzeuge aufrufen und dort die Option „Freundlich“ wählen. Die KI macht dann ihre Arbeit und spuckt manchmal eine Fehlermeldung aus, die aber getrost ignoriert werden darf. Die Ergebnisse erinnern tatsächlich an einen Chatbot, wenngleich Teile der Antworten oftmals keinerlei Sinn ergeben:


In vielen Fällen sind die Ergebnisse auch abgehackt, sodass etwa Satzteile fehlen:


Selbstverständlich ist auch Apples KI nicht vor Halluzinationen gefeit. So sind manche der Antworten teilweise korrekt, enthalten aber auch fehlerhafte Passagen, wie eine Frage nach den Sehenswürdigkeiten von Mainz demonstriert:


Apple arbeitet an offiziellem Chatbot
Katsuragi macht auf einige durchaus bemerkenswerte Features des vermeintlichen Chatbots aufmerksam: So ist die KI etwa dazu in der Lage, eine auf Russisch gehaltene Anfrage auf Englisch zu beantworten (siehe hier). Apple arbeitet Berichten zufolge übrigens an einem richtigen Chatbot, welcher es durchaus mit ChatGPT aufnehmen kann. Das Unternehmen sei allerdings mit vielen der KI-Antworten nicht zufrieden, da diese zu oft Halluzinationen beinhalten würden.

Kommentare

MLOS03.06.25 13:56
Genau hier sieht man, warum Features wie Personal Context oder On-Screen Awareness nicht einfach umzusetzen sind. Das Risiko Prompt Injection ist viel zu groß und bisher kaum kontrollierbar; auch die Platzhirsche (OpenAI, Anthropic) haben damit zu kämpfen.
Beispiel: Eine E-Mail kommt rein, die den System Prompt aushebelt und frei Aktionen durchführt. Im Nu landen Fotos, Dokumente, Videos etc irgendwo, vielleicht noch sensiblere Daten.
Die Hürde, Systeme gezielt anzugreifen, sinkt dadurch enorm.
+7
Phil Philipp
Phil Philipp03.06.25 16:16
"...wenngleich Teile der Antworten oftmals keinerlei Sinn ergeben..."

ja, sowas hier ist auch schon etwas lustig:



mhhh, und davon abgesehen, ist so ziemlich jede Regional-Küche bekannt für die Verwendung regionalen Zutaten. AI ist für mich im Moment einfach noch ein Plattitüden-Generator
-1
Fischmuetze03.06.25 16:50
Wozu der Handstand, wenn es ja dann doch "nur" ChatGPT ist, dass da benutzt wird?
0
Fischmuetze03.06.25 16:54
Phil Philipp
AI ist für mich im Moment einfach noch ein Plattitüden-Generator

Das hängt schon stark davon ab, was man macht. Für viele Dinge bei der Recherche oder beim scripten ist das schon extrem hilfreich ... man darf sein Hirn natürlich nicht unter der Tastatur ablegen ...
0
Phil Philipp
Phil Philipp03.06.25 17:39
Fischmuetze
... man darf sein Hirn natürlich nicht unter der Tastatur ablegen ...
schon... , aber wenn ich (im Moment noch) unfassbar viel Zeit benötige, um den von der AI produzierten Text vom Quatsch zu befreien oder wenn ich bei der Recherche die Quelle nicht sehe und so gar nicht prüfen kann, ob das Ergebnis halb zusammenphantasiert ist, dann .... brauch ich ja mehr Hirn, als wenn ich es gleich selbst mache.

Ich kenne Leute, die AI zum coden nutzen; das scheint ganz gut zu funktionieren.
Und die Mail-Zusammenfassungen sind zu 70% ganz okay.
+1
Fischmuetze03.06.25 17:49
Phil Philipp
Fischmuetze
... man darf sein Hirn natürlich nicht unter der Tastatur ablegen ...
Ich kenne Leute, die AI zum coden nutzen; das scheint ganz gut zu funktionieren.
Und die Mail-Zusammenfassungen sind zu 70% ganz okay.

Benutze Perplexity zum coden und auch zum recherchieren und das ist super hilfreich .. klar ist da selten, aber manchmal Nonsens bei, aber wenn ich selbst recherchieren muss, muss ich mich bei Problemen durch unendlich viel nutzlose "Herr Doktor, ich hab keine Ahnung, wollte aber auch mal was sagen"-Posts wühlen, dass das so xxx-Mal effizienter ist - trotz Fehler und Halluzinationen
0
TheFirst03.06.25 18:15
Fischmuetze

Ist es doch hier gar nicht, nur das Verfassen ist ChatGPT. In diesem Fall hier sind es jedoch die Schreibtools von Apple welche benutzt werden, so weit ich es aus dem Text herauslesen kann.
+2
Fischmuetze03.06.25 18:37
TheFirst
FischmuetzeIst es doch hier gar nicht, nur das Verfassen ist ChatGPT. In diesem Fall hier sind es jedoch die Schreibtools von Apple welche benutzt werden, so weit ich es aus dem Text herauslesen kann.

öööööööhm nö
-3
MLOS04.06.25 08:59
Fischmuetze

Die Schreibtools für das Umschreiben, Korrekturlesen oder Zusammenfassen basieren auf Apples Foundation-Modell mit den entsprechenden Adaptern. ChatGPT wird nur zum Verfassen neuer Texte benutzt (und darüber hinaus noch für so Sachen wie Bildschirmanalyse, Antworten über Siri, etc).
Dass im hier gezeigten Beispiel sehr häufig Mist produziert wird, könnte auch damit zusammenhängen, dass die Adapter für einen bestimmten Zweck trainiert wurden. Dadurch wird die Effizienz erhöht, sodass bei niedrigem Speicherverbrauch und geringer Rechenzeit das gewünschte Ergebnis erreicht werden kann. Apple spart sich somit einerseits Parameter ein und quantisiert die Parameter darüber hinaus noch.
ChatGPT & Co. dagegen arbeiten mit generalisierten Modellen mit einer sehr hohen Anzahl an Modellparametern, die zudem nicht in 4-Bit-Repräsentationen quantisiert wurden.
0

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.