Mich reizt das Upgrade vom mini M4 auf den M6 allein wegen der GPU Leistung. Für gelegentliches Spielen der Top Titel macht für mich das durchausein Unterschied. Auch wenn mich die jüngste Preiserhöhung etwas ärgert…

Da würde ich ja stark überlegen ob die Differenz / Aufpreis nicht ein Geforce NOW Abo bezahlt.

dam_j

Das nutze ich tatsächlich ab und zu. Allerdings macht es mehr Spaß wenn das Spiel Lokal ausgeführt wird.

Da stimme ich zu. Ich spiele Cyberpunk 2077 im GFN Ultimate Plan mit allen Einstellungen auf Ultra, und die Grafik ist sauber und flüssig, ohne Aussetzer. Da müsste ich viel Geld in einen Gaming-PC oder einen High-End-Mac investieren, um das zu erreichen.

Ich nehme an, Du hattest dich aber damals bewusst für den M4 und gegen den M4 Pro entschieden? Letzterer wäre ja jetzt immernoch etwas besser als der M6. Ich persönlich würden den M4 frühestens vielleicht mit dem M7 ersetzen. Wenn man nur wüsste ob der bald und vor allem diesmal auch für den Mini kommt…

Nur zur Einordnung des MacPro 2019 hinsichtlich der GPU-Leistung (Metal, Open CL, Geekbench 7, MacOS 26.6.2):

AMD Radeon RX6900XT 186164, 121720 (Original AMD)
Radeon Pro W5700X 188970, 121568 (Apple Modul)

Im Absatz M6 gegen M5 seid Ihr in der Zeile verrutscht.
"Der M5 ohne Namenszusatz erzielt im Geekbench-Test eine Metal-Punktzahl von 63.000 – und Apple kann mit dem M6 die Geschwindigkeit um 34 Prozent steigern (Punktzahl: 93.000)."

Die 63.000 stehen lt. eurer Tabelle für den M1Pro. Beim M5 stehen 69.000. Dann kommt es mit den 34% Differenz zu 93.000 auch wieder hin.

Moka´s Onkel
Dankeschön, ist behoben!

Nöö ich hab das Los entschieden lassen… der M7 wird wie der M5 vermutlich auch, nicht im Mini kommen, dann muss man auf den M8 warten, oder doch gleich auf den M10 😎

Ich finde es ja richtig krass was Apple da mit dem M auf die Beine gestellt hat, aber leider sind Spiele für die Grafik auf dem Mac ja kaum vorhanden, für die handvoll Spiele die dafür in Frage kommen ist es ja nicht wert. Apple muss iwas machen damit die Gaming Industrie die aktuellen Spiele auch auf den Mac bekommt ohne dafür das Spiel neu entwickeln zu müssen.

Ich meine ja nur. Viele Kaufinteressenten hatten damals ja durchaus hin oder herüberlegt. Entweder M4 Pro nehmen und dann x-Jahre Ruhe haben oder den einfachen M4 und dann wieder günstig mit dem Base-Modell updaten, wenn man die höhere Leistung wirklich auch braucht. Am besten halt, wenn der Base-Chip das Niveau des älteren Pros erreicht hat. Eine an sich gute Strategie, nur ist der M6 noch nicht ganz auf dem Niveau des älteren Pros und es kommt erschwerend hinzu, dass der Einstieg beim Mini von attraktiven 699€ auf über 1.000€ angestiegen ist.

Wir wissen es natürlich alle nicht, aber ich denke schon, dass der M7 in allen Varianten auch im Mini erscheinen wird.

Hier wird ja immer angegeben, dass die GPU-Leistung immer wichtiger für KI-Berechnungen wird.
Bei NVIDIA gibt es Cuda und da ist mir der Nutzen klar.

Wie sieht es bei den M-Prozessoren aus?
Da gibt es ja auch spezielle Module für KI/maschinelles Lernen die Neural Engine.

Inwiefern nutzt auch Apple die GPU für KI Berechnungen? Was macht die Neural Engine genau?
Hier ist mir nicht klar, ob die GPU-Leistung bei Apple mit der von NVIDIA vergleichbar ist im Bereich KI. Gibt es bei Apple auch sowas wie Cuda?
Gibt es spezielle Benchmarks, die das messen?
(Der Metal-Benchmark wird hier bestimmt nur die grafische Leistung und nicht KI-Berechnungen wiederspiegeln, oder?)

Wer kann hier mal etwas Klarheit schaffen ?

Apple hat eine eigene API für KI – MLX.

CUDA ist ursprünglich als reine Grafik API entstanden. Später wurde daraus auch eine HPC API. Diese Teile der API sind frei zugänglich und kostenlos erhältlich. Etliche Teile der KI API sind nur kostenpflichtig erhältlich, und das ist relativ neu im Vergleich zu den anderen Teilen. Was nVidia im Laufe der Zeit geschaffen hat, sind hoch optimierte Softwarepakete, um Rechnungen nicht nur auf einer GPU auszuführen, sondern die Programme in einem Cluster zu verteilen. Damit das gut funktioniert wurde die Firma Mellanox gekauft einem Startup für HPC Netzwerktechnik. Dann gibt es massive Anpassungen an der Software.

nVidia bietet diverse Produktfamilien an:

• Embedded GPUs und CPUs (bisher meist auf ARM Referenzdesigns basiered)
• Desktop und Notebook GPUs (auch als Serverausführung erhältlich)
• HPC/AI GPUs und CPUs
• Netzwerktechnik

Apple konkurriert mit den Desktop/Notebook Lösungen von nVidia. Apple bietet hier Vorteile, weil Apple mehr RAM anbieten kann als nVidia. nVidia hat hier Vorteile bei der Rechenleistung und Bandbreite. In dieser Geräteklasse ist das Maß der Dinge bei nVidia die RTX Pro 6000 mit 96GB RAM.Die Karte hat ca. 1,7TB/s Speicherbandbreite. Reicht eine Karte nicht mehr aus, muss aber über den PCIe Bus (ca. 120GB/s) auf eine andere Karte übertragen werden. Die kleineren Karten haben entsprechend weniger Bandbreite und Speicher, was man in den Datenblätter nachschauen kann. Die RTX Pro 6000 ist eine richtige Grafikkarte, die auch einen Monitor ansteuern kann. Dazu enthält sie Hardware fürs Video En- und Decoding. Auf diesen Produkten wird überlicherweise Inferencing gemacht, d.h. Modelle genutzt und nicht trainiert.

nVidia liefert aber auch die GB200 und GB300 System. Das sind die große System auf denen die Modelle trainiert werden. Hier wird eine ARM Server CPU „Grace“ in dieser Generation genannt, mit einer GPU kombiniert. Die B200 ist die Blackwell Generation und auch für HPC geeignet B300 wird Blackwell Ultra genannt und ist nur noch für AI gedacht.

Ein „Knoten“ besteht aus einer Grace CPU und zwei Blackwell GPUs. Die CPU hat ihren eigenen dedizierten Speicher, aber da CPU und GPUs über spezielle HighSpeed NVLinks verbunden sind, können die GPUs auf den Speicher der CPU und umgekehrt zugreifen. Dazu befinden sich auf den Knoten noch externe NVLinks, mit denen sich die Knoten untereinander vernetzen lassen. Aktuell sind 72 Knoten zu einer virtuellen Super-GPU zusammenschaltbar. Das passt alles noch in ein Rack. Mehrere dieser Super-GPUs kann man zu einem Cluster per Netzwerk zusammenschalten, und dabei ist der Netzwerkdurchsatz dieser Systeme größer als bei einem MacStudio der Speicherdurchsatz. Auf diesen Systemen werden die Modelle trainiert.

Bisher ist der einzige Konkurrent für nVidia in diesem Marktsegment AMD.

Danke für die Info.
Aber auf Anwenderseite (also normalen PCs/Laptops). Wo ist sind da die M-Cpus/GPUs (bzw. Entsprechende Macs) einzuordnen?
Und gibt es spezielle Benchmarks, die eine halbwegs transparente Vergleichbarkeit zu schaffen?

Was machen nun die NeuralEngines genau und was die GPUs?

Da musst Du Dich durch die entsprechenden Berichte kämpfen: z.B. von Alex Ziskind.
Phoronix macht sich da die Mühe, aber Phoronix ist eine reine Linux Seite.
Die beschleunigen Matrizen- bzw. Tensormulitplikationen mit Datentypen wichtig für KI. Bei nVidia steckt das in den GPUs abhängig vom der CUDA Compute Fähigkeit der Hardware. Genaueres dazu findet sich in der sehr umfangreichen Dokumentation von nVidia. Bei Intel können auch die CPUs spezielle Matrizenmultiplikationen beschleunigt ausführen. Keine Ahnung wie es bei Intels GPUs aussieht.

Das Problem ist, dass jede Firma ihr eigenes Ding macht, und die Dokumentation bei den großen der Branche sehr umfangreich ist. Man kann diese jeweils tausenden Seiten an Dokumentation nicht alle lesen.

Persönlich genutzt habe ich schon ARM Neon, Intel/AMD SSE/AVX und CUDA allerdings jeweils für HPC und nicht KI.

Üblicherweise versucht man etwas auf höhere Ebene zu nutzen, und interessiert sich nicht was auf der untersten Ebene passiert. Dafür gibt es spezielle Entwickler, die den Code an die jeweilige Plattform anpassen. Bei HPC nutzt man dann so Libraries wie BLAS, LAPACK und FFTW.

Nachtrag: Das Lesen des Level1 Techs Forums kann sinnvoll sein. Hier vergleichen Nutzer die Leistung ihrer jeweiligen Systeme.

Ich kann mit diesen Werten wenig anfangen. Wie viele FPS sind das in GTA 6, max Settings in 6K?

Das ist eine ganz andere Baustelle.

GB200, GB300 wie auch die AMD Instinct GPUs liefern exakt 0 Frames. Um wie viel Frames verbessert die Neural Engine die 3D Performance bei Apple? 0 Frames!

Vieles wurde eh schon gesagt. Ganz grob: Nvidia hat CUDA, Apple hat MLX. Modelle die es draussen gibt laufen beide auf Apples System, aber speziell dafür gebaute MLX Modelle (die es auch für fast alle relevanten gibt sin natürlich auf Apples System schneller)

Nvidias GPUs haben dank Optimierungen meistens (zumindest gegen über den alten Macs) noch eine höheren Durchsatz bzw Token per Sekunde gehabt, aber dafür waren sie wiederum extrem teuer (eine 5090 lag am Markt schon teilweise über 5000€, und das ist nur due GPU, da fehlt dir noch der Rechner!), Stromhungrig und mit hohem Kühlbedarf. Gleichzeitig war VRAM Mangelware. Eine 5090 hat hier nur 32GB und ist aber in den Consumer GPUs das beste was man bekommen konnte. Dann gibt es natürlich noch die spezifischeren GPUs für KI Anwendungen, die @gfhfkgfhfk ja schon erwähnt hat. Alles dann natürlich nochmal teurer (da kann eine GPU schon alleine 10-20k kosten, je nach Modell...)

Größter Vorteil von Apple ist ihre Architektur und effizienz sowie die im Vergleich immense Unified Ram Größe mit bis zu 512GB. Dann kommt noch RDMA dazu, mit dem man mehrere Macs koppeln kann. Damit sind dann bis zu 2TB an unified RAM möglich sowie shared Compute. Und eine solche Kette an 4 Mac Studio Ultras verbraucht die dann unter Vollast wahrscheinlich unter 500W für 4 volle Workstations. zum Vergleich: eine 5090 kann unter Vollast schon um die 700-900W erreichen (rest vom Rechner wieder nicht mitgezählt).

In dem Segment ist Apple momentan ziemlich ungeschlagen. Und für Heimanwender oder auch Firmen die sich für interne Zwecke was aufbauen wollen eine sehr gute Alternative weil ich dort dann gigantische Models laufen lassen kann, die auf Nvidia Hardware nur mit einem vielfachen der Kosten möglichen wären.

Mit Verlaub aber die neuen SoCs kann man ja nicht auf die Neural Engine reduzieren.

Das war eine Frage hier in der Diskussion „Was bringen die Neural Engines für Vorteileß“, und auf meine Antwort hast Du wiederum geantwortet.

Das Spiel gibts noch nichtmal also ist die Frage zweifelhaft. Außerdem wäre die Antwort irrelevant. Wieviel Frames du in einem bestimmten Spiel bekommst sagt wenig über die Leistung der Hardware aus. Da gibts viele Ebenen die da mit Spielen vom Spiel selbst Engine, Systeme etc etc.

Man könnte ein Spiel erstellen das auf einer 5090 katastrophal läuft aber auf einer scheinbar 10 Jahre alten Hardware flüssig.

Der Einsatzzweck kommt am Ende auch dazu. Performance im Rendering von Spielen sagt wenig aus für ganz andere Tätigkeiten