Auf der WWDC 2024 erklärten Apples Entwickler, wie die Konzernstrategie bezüglich großer Sprachmodelle (Large Language Models, LLMs) aussieht: Soweit möglich sollen Machine-Learning-basierte Anfragen mit Modellen auf dem Gerät des Nutzers erfolgen. Für diesen Zweck entwickelte Apple sogenannte Foundation-Modelle, welche durch sogenannte Adapter für die einzelnen Zwecke optimiert werden. Für komplexe Aufgaben hält das Unternehmen mächtige Cloud-Modelle vor, die in anonymisierten Instanzen (Private Cloud Compute, PCC) abgearbeitet werden. In macOS 27 Golden Gate hat Apple nun mehrere Optionen integriert, mit denen Anwender gezielt mit den Modellen interagieren kann.
Bisher beschränken sich LLM-basierte Funktionen auf wenige (hauptsächlich textbasierte) sichtbare Werkzeuge: Mit Textwerkzeugen lässt sich Geschriebenes korrigieren, zusammenfassen oder beispielsweise in Tabellenform ausgeben. Um frei und eigenständig mit den vorinstallierten Foundation-Modellen zu interagieren, müssen Mac-Nutzer die Initiative ergreifen. Der einfachste Weg führt über Apples Kurzbefehle-App. Mehr Möglichkeiten bietet die Kommandozeile, diese stellt gleichzeitig auch höhere Hürden für Anwender.
Kurzbefehl-Aktion „Modell wählen“Die App „Kurzbefehle“ ist Apples Automatisierungsbaukasten. Legt man einen neuen Kurzbefehl an, bekommt man gleich ein in Golden Gate neues Einsatzgebiet von Apple Intelligence zu Gesicht: Anstatt den Programmablauf selbst aus Aktionen zusammenzusetzen, fordert das Programm Sie dazu auf, die gewünschte Funktion zu beschreiben – das LLM baut daraufhin einen Kurzbefehl gemäß dieser Vorgabe. Hier führt etwa der Prompt „Frage nach Eingabe und beantworte sie mit Apple Intelligence“ meist zum Erfolg. Über den Button „Bearbeiten“ kommen Sie in die bisher bekannte Bearbeitungsansicht.
Apple Intelligence hilft dabei, einen Kurzbefehl für Apple Intelligence zu erstellen.
Aktion „Modell wählen“Die Hilfe ist sehr angebracht, denn die zentrale Aktion für diesen Auftrag hat den Namen „Modell wählen“, welcher kaum einen Hinweis auf ihre Funktion gibt. In ihr können Sie zwischen drei Modellen wählen – standardmäßig ist „Cloud“ ausgewählt. Alternativ steht „Cloud PRO“ zur Auswahl, ein mehrstufiges Modell. Um zu schauen, was das auf dem Mac installierte Modell an Antworten erzeugt, wählen Sie „Auf dem Gerät“ aus. Die Informationen zur Aktion geben weitere Tipps, wie intelligent und multifunktional diese Aktion ist (siehe Bild oben). Über zusätzliche Aktionen lassen sich die Resultate beispielsweise von allen drei Modellen zusammentragen und als neuer Eintrag in der Notizen-App speichern. Vorteil der Kurzbefehl-Lösung: Sie funktioniert auch auf Mobilgeräten.
Kommandozeile: Direkte AnfrageAuch über das Terminal lassen sich Apples KI-Modelle universell befragen. Das Kommandozeilenprogramm dazu heißt „fm“ und ist ein Neuzugang unter macOS 27 Golden Gate. Gibt man den Befehl ohne Zusätze ein, erhält man eine Übersicht der Zusätze, welche das Programm erwartet – bei einem ausreichend dimensionierten Fenster wird es mit dem Foundation-Logo in ASCII-Art dekoriert.
So begrüßt das Kommandozeilenprogramm „fm“ interessierte Anwender.
Zunächst muss man mit dem Befehl
sudo fm license
die Anzeige der Lizenzvereinbarungen auslösen und mittels „y“ und anschließender erneuter Betätigung der Eingabetaste diesen zustimmen. Daraufhin lässt sich Apple Intelligence per Kommandozeile befragen. Der einfachste Weg führt über „fm respond '{frage}'. Ein Tipp: beschränken Sie sich auf die englische Sprache. Das lokale Modell erzeugt im Deutschen vielfach unsinnige Antworten.
Dieselbe Frage in zwei Sprachen, zwei gänzlich unterschiedliche Antworten – die Foundation-Modelle taugen derzeit nur für Fragen auf Englisch.
Bild eingebenÜber den Parameter „--image {dateipfad}“ geben Sie dem Sprachmodell eine Bilddatei, zu der Sie eine Frage stellen. Der ganze Befehl sieht dann etwa so aus.
fm respond 'describe the image' --image 'MacTechNews/testbild.png'
Das Foundation-Modell rechnet dann einige Zeit und liefert dann eine recht akkurate Bildbeschreibung.
Fotos und Illustrationen kann das Foundation-Modell mit erstaunlich hoher Präzision interpretieren.
Chat mit der Foundation-KIWenn es absehbar ist, dass eine Antwort nicht genügen wird, Sie also Folgefragen stellen wollen, nutzen Sie stattdessen den interaktiven Modus, welchen Sie mittels
fm chat
ins Leben rufen. Hier können Sie nun eine Frage stellen und mit dem Foundation-Modell interagieren – ähnlich wie mit einem KI-Chat der bekannten Anbieter. Dieser Modus erlaubt Nachfragen zu demselben Thema. Die unterste Zeile zeigt nach jeder Interaktion, wie weit sie das Kontextfenster beansprucht haben. Über die Eingabe „/save“ können Sie eine Konversation speichern, um diese später weiterführen zu können. Sie wird im Nutzerverzeichnis im versteckten Ordner „./fm/sessions“ abgelegt. Mittels „/quit“ verlassen Sie den interaktiven Modus.
KI-Chat im Terminal – eine versteckte Neuerung von macOS 27 Golden Gate.