Moin zusammen,
da mein aktueller Homesever (Raspberry Pi 5) langsam an seine Grenzen kommt, soll ein neuer Mac Mini ihn ablösen.
Dazu möchte ich gerne nach euren Erfahrungen und Empfehlungen fragen.

Der Server wird in erster Linie für Home Assistant und Paperless-ngx verwendet.
Zudem möchte ich mit dem neuen System auch mit lokalen KI-Modellen experimentieren.
Die KI soll keine High-End Aufgaben übernehmen, sondern hauptsächlich einen RAG-Chat für meine Dokumente bieten und diese auch automatisch verschlagworten und benennen.

Ich habe den Mac Mini M6 - 512GB - 32 GB RAM im Blick. Reicht dieser dafür aus oder müsste es ein M5 Pro sein? Wie wichtig sind Prozessor und RAM im Verhältnis für meine Vorhaben?

Ich danke euch im Voraus!

Mein Tipp ist: Probiere auf einem anderen Rechner mal aus, welche lokalen LLMs deinen Anforderungen genügen. Ob da 10B-Nur-Text-Modelle reichen (32 GB reichen), oder ob du eher etwas Richtung 30B und multimodal brauchst (dafür sind 32 GB zu wenig). Danach kannst du leichter entscheiden, was du brauchst.