Viele Anwender denken bei Künstlicher Intelligenz an ein Chat-Fenster, über welches sie ihre Wünsche an ein Rechenzentrum übermitteln. Für viele Aufgaben lassen sich alternativ lokale Modelle verwenden, welche die Berechnung der KI-Antwort auf eigener Hardware vornehmen. Ein Vorteil: Die eingespeisten Informationen verlassen nicht das Gerät. Auf der WWDC 2024 betonte Apple die Präferenz dieses Ansatzes und offeriert für diese Zwecke auf Macs mit M-Prozessor Apple-Foundation-Modelle. Google tritt nun mit AI Edge Gallery in direkte Konkurrenz zu Apple Intelligence auf dem Mac.


Der Direktdownload der AI Edge Gallery ist etwa 40 MByte groß; nach dem Verschieben in den Programme-Ordner nimmt die App knapp 140 MByte ein. Das Programm selbst stellt allerdings nur die Bedienschnittstelle; bevor Anwender Fragen stellen können, steht der Download eines Modells an. Die App offeriert fünf unterschiedliche Große Sprachmodelle (LLMs), darunter auch das jüngst veröffentlichte Gemma 4-12B-it. Der Download der mehrere GByte großen Dateien verzögert den ersten lokalen KI-Chat um einige Zeit – Gemma-4-12B-it ist beispielsweise über 6,5 GByte groß.

Transkription mit Eloquent
Ebenso veröffentlichte Google parallel eine App namens AI Edge Eloquent, um Gesprochenes in Echtzeit lokal zu transkribieren. Auch hier ist der Download des LLMs nachgelagert; standardmäßig lädt Eloquent auf einem M1-Mac das kleinere Modell "Gemma 4 2B" herunter, welches immerhin gut 2,4 GByte umfasst. Alternativ zum Diktat nimmt AI Edge Eloquent auch Audiodateien entgegen, um sie zu transkribieren. Die Qualität der Transkription ist in diesem Fall vielleicht in der englischen Sprache akzeptabel; deutsche Sprachinhalte erzeugen Texte, die eher dem Dadaismus zuzuordnen sind – trotz eines integrierten nachträglichen Verbesserungsdurchgangs. Apps wie MacWhisper können deutlich mehr und erkennen zudem unterschiedliche Sprecher.


Nachträgliches Aufräumen
Wer AI Edge Eloquent ausprobiert hat, aber unzufrieden mit den Resultaten ist, sollte nicht nur die App aus dem Programme-Ordner entfernen, sondern auch das heruntergeladene Modell. Dieses befindet sich im Ordner


Um ihn zu öffnen, wechseln Sie in den Finder, rufen "Gehe zu Ordner …" aus dem Menü "Gehe zu" aus (Tastenkürzel +G), fügen den Dateipfad in das Textfeld ein und betätigen die Eingabetaste. Die darin enthaltenen Dateien und Ordner bewegen Sie in den Papierkorb, um das heruntergeladene LLM zu löschen. Ähnliches gilt für AI Edge Gallery: Zwar gibt es in diesem Programm einen "Model Manager", um Modelle wieder zu löschen. Doch wer das Programm voreilig löscht, behält das LLM auf dem Festspeicher. Bei AI Edge Gallery landen sie im Ordner


Auch hier gelingt das nachträgliche Löschen via Finder: +G, Text einfügen, Enter, Inhalt des Ordners in den Papierkorb verfrachten.