Push-Nachrichten von MacTechNews.de
Würden Sie gerne aktuelle Nachrichten aus der Apple-Welt direkt über Push-Nachrichten erhalten?

Weiterer Bericht: Die Hardware und Infrastruktur hinter Gemini-Siri – Google und Nvidia

Schon seit Monaten kursieren Berichte, wonach Apple die kommende Siri-Generation sowie bestimmte Modelle aus Apple Intelligence nicht mehr lokal oder auf hauseigenen Servern ausführen, sondern Googles Hilfe in Anspruch nehmen will. Erst vor einigen Tagen kamen wieder Meldungen über Google Cloud und Nvidia-Hardware auf. The Information hat nun noch einmal nachgelegt und die kürzlich getroffenen Aussagen präzisiert. Besagte Cloud-Anfragen sollen demnach tatsächlich auf Googles Infrastruktur mit "Nvidia Blackwell B200"-Servern laufen. Dabei wolle Apple Nvidias "Confidential Compute" nutzen, um Nutzerdaten während der Verarbeitung verschlüsselt zu halten.


Kurswechsel steht wohl an
Das wäre eine deutliche Abkehr von Apples bisheriger Außendarstellung. Seit der Vorstellung von Apple Intelligence betont Apple, dass die Aufgaben direkt auf dem Gerät laufen und nur komplexere Anfragen über Private Cloud Compute verarbeitet werden – also auf Servern mit Apple Silicon und einem von Apple kontrollierten Datenschutzmodell. Allerdings dürfte jene externe Verarbeitung für neuere Modelle zukünftig eher der Standardfall sein.

Apple Infrastruktur reicht nicht aus
Der Grund ist offenbar schlicht die erforderliche Rechenleistung. Apple habe intern versucht, eine angepasste Gemini-Version auf der eigenen Private-Cloud-Compute-Infrastruktur zum Laufen zu bringen. Diese Lösung sei aber zu langsam gewesen. Genau hier kamen Googles Rechenzentren mit Nvidia Blackwell B200 ins Spiel, denn diese sind für große KI-Modelle und speziell auf Training und Inferenz großer Sprachmodelle ausgelegt.

Notlösung: Ein sonst ungeliebtes Vorgehen
Damit würde Apple im Hintergrund genau jene Architektur verwenden, die das Unternehmen sonst eigentlich gerne vermeidet. Fremde Modelle auf fremder Cloud mit fremden Beschleunigern für eine Schlüsselfunktion des Systems. Was technisch durchaus nachvollziehbar ist, bleibt in der Kommunikation dennoch heikel. Auch zeitliche Aspekte dürften eine Rolle gespielt haben, denn noch ein bis zwei Jahre Verspätung würden erst recht seltsam aussehen.

Datenschutz per Nvidia-Funktionen
Nvidias Confidential Compute könnte der Versuch sein, den Widerspruch zwischen der 2024er Darstellung ("lokal, wegen Datenschutz") und den kolportierten Plänen abzufedern. Die Verarbeitung findet in einer geschützten Umgebung statt, sodass der Cloud-Betreiber keinen Einblick in die unverschlüsselten Daten erhält. Wie es aber ebenfalls schon mehrfach hieß: Langfristig würde Apple sehr gerne alles in der eigenen Hand haben, die Google-Lösung ist demnach für eine (vermutlich mehrjährige) Übergangsphase geplant.

Kommentare

OliBerlin05.06.26 12:05
Ich hätte gerne eine lokale KI, die ohne Cloudzugriff und auch offline auf dem Mac arbeitet und dadurch etwas vertrauenswürdiger ist. Dieser würde ich dann anvertrauen, meine sämtlichen Dokumente zu analysieren und durchsuchbar zu machen. Auf dieser Basis möchte ich Fragen stellen wie „Wann ist die nächste Autoversicherung fällig?“ oder „Wie war mein Verbleib mit John Appleseed?“

Solch eine lokale Verarbeitung auf dem Gerät wäre nicht abhängig von Funkverbindungen und sollte auch international akzeptiert werden.

Wenn Apple dagegen Online-Dienste von Google oder NVDIA einkaufen und zu denen Daten übertragen sollte, egal wieviel Sicherheit versprochen wird, dann bleiben Zweifel und die strengen Anforderungen in der EU und in China werden damit kaum erfüllt. Es sei denn, es werden in den verschiedenen Regionen unterschiedliche KIs eingebaut, aber dann entstände Chaos.
0
Gambler05.06.26 12:09
Gemma 4?
0
OliverCGN05.06.26 12:09
OliBerlin
Ich hätte gerne eine lokale KI, die ohne Cloudzugriff und auch offline auf dem Mac arbeitet und dadurch etwas vertrauenswürdiger ist. Dieser würde ich dann anvertrauen, meine sämtlichen Dokumente zu analysieren und durchsuchbar zu machen.

Hast Du Dir schon mal LM Studio oder AnythingLLM angesehen? Das ist genau das, was Du suchst. Gerade AnythingLLM ist dafür entwickelt worden, mit Deinen Dokumenten zu chatten.

In dem Zusammenhang ist DEVONthink auch interessant. Das ist eine lokale Dokumentenverwaltung, die eine Schnittstelle für lokale LLM bietet. (Mit einem Kauf würde ich zunächst abwarten, da es in den letzen Jahren immer einen Summersale mit guten Rabatten gab.)
0
Califa05.06.26 13:04
OliverCGN
Hast Du Dir schon mal LM Studio oder AnythingLLM angesehen? Das ist genau das, was Du suchst. Gerade AnythingLLM ist dafür entwickelt worden, mit Deinen Dokumenten zu chatten.
Für sowas braucht man wahrscheinlich einen ziemlich potenten Mac, oder? Kennt sich da jemand mit aus?
0

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.