Push-Nachrichten von MacTechNews.de
Würden Sie gerne aktuelle Nachrichten aus der Apple-Welt direkt über Push-Nachrichten erhalten?

Perplexity ermöglicht Mac-Nutzern lokale KI-Berechnungen ohne Serververbindung

Viele Anwender denken bei der Interaktion mit KI-Modellen an server-gebundene Lösungen: OpenAIs ChatGPT, Anthropics Claude und Copilot von Microsoft nehmen standardmäßig Anfragen über ein Chat-Interface oder eine API an, um diese auf den konzerneigenen Servern berechnen zu lassen. Lokale Berechnungen, wie sie Apple Intelligence als bevorzugten Weg vorsieht, sind derzeit ein Nischenthema. Perplexity will dies ändern und offeriert nun mit Perplexity Personal Computer eine Lösung, die lokal abläuft – exklusiv auf Mac-Hardware.


Anwender laden dafür zunächst die 170 MB große Mac-App sowie den agentischen Browser Comet herunter. Beim ersten Start der Perplexity-App entscheiden Anwender, auf welche persönlichen Dateien sie zugreifen darf. Als LLM-basierter Agent will Perplexity Dateien, Termine, Erinnerungen und E-Mails eigenständig verwalten. Die Kopplung an ein iPhone ermöglicht das Erteilen von LLM-Abfragen aus der Ferne. Der Anbieter empfiehlt einen Mac mini, der dauerhaft eingeschaltet bleibt; im Prinzip soll sich jedoch jeder Mac eignen.


Qwen als LLM
Das Mac-Programm kümmert sich um den Download des großen Sprachmodells. Anwender können zwischen Qwen 3.6 und PPLX Pro wählen – letzteres basiert allerdings ebenfalls auf der Open-Weights-Reihe des chinesischen Herstellers Alibaba Cloud. Perplexity setzt ein Pro- oder Max-Abonnement voraus – diese kosten derzeit 17 beziehungsweise 167 Euro pro Monat. Darin ist jeweils ein gewisses Token-Kontingent für serverbasierte LLM-Interaktionen enthalten. Mit der lokalen Ausführung können Anwender also nicht nur die Privatsphäre ihrer Daten wahren, sondern auch die Compute-Reichweite ihres Perplexity-Abonnements erweitern.

Hardware-Anforderungen
Vor dem Geldsparen steht jedoch erst einmal eine Investition: Das Ausführen von LLM-Berechnungen stellt hohe Anforderungen, insbesondere an die RAM-Ausstattung des Macs. Als Hardware empfiehlt Perplexity einen Mac mit Apple-Silicon-Prozessor und mindestens 36 GB RAM. Als Anhaltspunkt: Der günstigste Mac in Apples aktuellem Produktportfolio, welcher diese Anforderungen erfüllt, ist ein Mac mini M5 Pro mit 48 GB RAM. Für diese Ausstattung verlangt Apple derzeit 2659 Euro. Ein Mac Studio M5 Max mit 36 GB RAM kostet aktuell bei Amazon 66 Euro mehr.

Kommentare

B_Bocheinski22.10.26 10:35
Was, glaube ich, noch nicht so bekannt ist: Man kann auch OpenAI Codex mit lokalen LLMs nutzen, beispielsweise Qwen über Ollama . Meine eigenen Versuche waren allerdings wenig überzeugend, was auch an der kurz nach Veröffentlichung noch nicht optimalen Quantisierung von Qwen 3.8 für Apple Silicon gelegen haben könnte. Finds aber spannend!
+5
Bodo_von_Greif22.10.26 10:38
Für kostenlose lokale Modelle empfehle ich LM-Studio.

Allerdings waren meine Versuche mit 16 GB eher mässig.
Also auch hier mehr RAM

Gruss,
Bodo
[x] nail here for new monitor
+3
Huba22.10.26 12:01
Wenn das LLM doch eh schon lokal auf meinem Rechner läuft, frage ich mich, wieso trotzdem noch ein kostenpflichtiges Abo vorausgesetzt wird.
-3
B_Bocheinski22.10.26 12:16
Huba
Wenn das LLM doch eh schon lokal auf meinem Rechner läuft, frage ich mich, wieso trotzdem noch ein kostenpflichtiges Abo vorausgesetzt wird.
Die Entwicklung, Wartung und Aktualisierung eines Harnesses kosten schließlich auch Geld. Deshalb kann ich nachvollziehen, dass Perplexity die lokale Nutzung nur in Bezahltarifen anbietet. Bei Codex geht das auch kostenlos – vermutlich auch eine Strategie, um sich im Markt zu positionieren und Marktanteile zu gewinnen. Besonders interessant finde ich, dass ich dabei in meiner vertrauten Anwendung bleiben kann.
+1
trigunas10822.10.26 15:32
wer die die aktuell auf m4 oder m5 unterwegs sind kann ich aktuell LMStudio mit Splash - qwen 3.8 27B (incoai/qwen3.8-27b-splash) empfehlen. Das ist zu GGUF und MLX eine neue Runtime die bei mir mit 2x token pro sekunde läuft. so werden aus gefühlt nicht ganz so flotten 24t/sec sehr angenehme 50 t/sec. Und Qwen 3.8 27b ist wirklich sehr brauchbar. Als Harness verwende ich Goose welches über viele Erweiterungen gut anzupassen geht.

Zum Thema Perplexity möchte ich noch beitragen das Perplexity und Grok in einer Untersuchung am schlechtesten abgeschlossen haben was den Abfluss von Daten an Dritte betraf. Also nur bedingt zu empfehlen.
+2

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.