Bloomberg: M7 Ultra mit Fokus auf Künstliche Intelligenz – und bis zu 1,5 Terabyte RAM | News

Raziel113.07.26 11:30

Habe mich schon gefragt wie lange es dauern wird bis Apple im industriellen Segment Gas geben wird. Die Hardware ist ja da und sie ist im Grunde unschlagbar bzw. quasi ein heiliger Gral gegenüber dem, was Nvidia etc hat. Nur das Apple diese eben nicht für größere Maßstäbe angeboten hat und daher Nvidia ihre eigentlich ineffizienten Lösungen verkaufen kann.

+10

Gedankenschweif13.07.26 12:07

Die Überlegungen im Artikel weichen von den sonstigen Prognosen über die zukünftige Entwicklung ab. Nahezu alle Medien prognostizieren ein Anhalten der Speicherkrise bis 2027. Im Artikel wird der M7 Ultra für 2029 angenommen. Da sollte die Speicherkrise wohl überwunden sein und 1,5 TB Speicher wieder zu deutlich niedrigeren Preisen erhältlich sein.

+6

gfhfkgfhfk13.07.26 12:52

Raziel1

Habe mich schon gefragt wie lange es dauern wird bis Apple im industriellen Segment Gas geben wird. Die Hardware ist ja da und sie ist im Grunde unschlagbar bzw. quasi ein heiliger Gral gegenüber dem, was Nvidia etc hat. Nur das Apple diese eben nicht für größere Maßstäbe angeboten hat und daher Nvidia ihre eigentlich ineffizienten Lösungen verkaufen kann.

Da lehnt sich jemand sehr weit aus dem Fenster! nVidia entwickelt nun ebenfalls eigene ARM CPU Architekturen. Bisher hatten sie nur die ARM Referenz Designs verwendet. So etwa das Neoverse V2 Design in der Grace CPU. Die neue Vera CPU verwendet den sogenannten Olympus Core. Mal sehen, ob Apple in der Lage ist, mit dieser nVidia ARM CPU mitzuhalten.
Bekannte Daten der Vera CPU: 88 ARM V9.2 Kerne, 88 PCIe 6.0 Lanes, bis zu 1,5TB RAM, bis zu 1,2TB/s Speicherbandbreite.

0

Raziel113.07.26 13:06

gfhfkgfhfk

Raziel1

Habe mich schon gefragt wie lange es dauern wird bis Apple im industriellen Segment Gas geben wird. Die Hardware ist ja da und sie ist im Grunde unschlagbar bzw. quasi ein heiliger Gral gegenüber dem, was Nvidia etc hat. Nur das Apple diese eben nicht für größere Maßstäbe angeboten hat und daher Nvidia ihre eigentlich ineffizienten Lösungen verkaufen kann.

Da lehnt sich jemand sehr weit aus dem Fenster! nVidia entwickelt nun ebenfalls eigene ARM CPU Architekturen. Bisher hatten sie nur die ARM Referenz Designs verwendet. So etwa das Neoverse V2 Design in der Grace CPU. Die neue Vera CPU verwendet den sogenannten Olympus Core. Mal sehen, ob Apple in der Lage ist, mit dieser nVidia ARM CPU mitzuhalten.
Bekannte Daten der Vera CPU: 88 ARM V9.2 Kerne, 88 PCIe 6.0 Lanes, bis zu 1,5TB RAM, bis zu 1,2TB/s Speicherbandbreite.

Ist kein aus dem Fenster lehnen sondern nunmal Fakt. Das Nvidia hier ebenfalls (so wie bekanntlich jeder Hersteller) schon lange versucht die Richtung zu gehen ist klar. Zuletzt haben sie ja eine eigene Variante angekündigt für Windows Rechnern. Und es ist auch klar das irgendwann eine Konkurrenz hervorstechen wird.

Bisher ist das aber noch nicht der Fall. Wir haben erst letzten Firmen intern geprüft was man alles anschaffen könnte für diverse Anwendungsfälle. Ein Setup aus Consumer Macs verkettet mittels RDMA wäre bei grob 50k gewesen. Ein gleichwertiges Nvidia setup bei knapp 800k. Und an Kühlung und Stromverbrauch braucht man dann garnicht denken. Das sind schon nicht Welten dazwischen. Natürlich bietet Nvidia Hardware bei denen mehr ordentlich Leistung bekommt. Aber dann darf man weder Kosten, noch Stromverbrauch und Abwärme auf seiner Liste an relevanten Punkten stehen haben.

Ich glaube nicht das Apple ein Problem damit hätte Nvidias Lösung zu schlagen und sei es am Ende nur in Effizienz, Wärme, Stromverbrauch. Aber erstmal müssen wir sehen ob Apple den Schritt wirklich geht. Sie hatten jetzt im Grunde 6 Jahre Vorsprung und es wäre schade wenn sie das nicht ausnutzen

+6

gfhfkgfhfk13.07.26 13:54

Raziel1

Ist kein aus dem Fenster lehnen sondern nunmal Fakt.

Jetzt lehnst Du Dich noch weiter aus dem Fenster.

Raziel1

Wir haben erst letzten Firmen intern geprüft was man alles anschaffen könnte für diverse Anwendungsfälle. Ein Setup aus Consumer Macs verkettet mittels RDMA wäre bei grob 50k gewesen. Ein gleichwertiges Nvidia setup bei knapp 800k.

„Gleichwertig“ sind die Produkte mit Sicherheit nicht gewesen, sondern auf der nVidia Lösung wäre die gleiche Softwarelösung gelaufen.

Was nVidia anbietet ist mehr als den Faktor 10 schneller was die Speicherbandbreite und die Netzwerkbandbreite betrifft, und es skaliert nahezu beliebig.

Apples MacStudio M3Ultra Cluster, für den sie vor einigen Monaten über Influencer soviel Werbung gemacht haben, ist auf vier MacStudios mit je 512GB beschränkt gewesen. In diesem Setup wurden alle vier Thunderbolt Ports an jeder Maschine belegt. Da Apple keinerlei Technologie hat, um Macs weiter zu skalieren, wird das auch nie über diese wenigen Mac hinauswachsen. Jetzt auf einmal ist jeder in der Apple Welt aus dem Häuschen, weil Apple RDMA unterstützt. Der Punkt ist, RDMA ist bei Netzwerktechnik ein uralter Hut. Es ist einfach eine Selbstverständlichkeit, dass man im Serverumfeld diese Technik unterstützt.

Die MacStudios wurden per TB5 vernetzt d.h. 80Gbps. nVidia bietet 800Gbps Netzwerkkarten an. Der Speicherdurchsatz auf einer B300 GPU beträgt 8TB/s, und nicht 820GB/s des Mac Studio M3Ultra. Selbst die RTX Pro 6000 mit ihren knapp 1,6TB/s ist deutlich schneller als der M3Ultra Mac.

Der MacStudio Cluster von Apple ist für eine bestimmte Nische eine geeignete kostengünstige Lösung. Wenn das passt wunderbar, aber man sollte die Realität nicht aus den Augen verlieren.

Raziel1

Ich glaube nicht das Apple ein Problem damit hätte Nvidias Lösung zu schlagen und sei es am Ende nur in Effizienz, Wärme, Stromverbrauch.

Wie soll das funktionieren? Apple hat keinerlei Expertise in Netzwerktechnik. Ohne Netzwerktechnik skalieren die Lösungen nicht. Die Apple M SoCs haben nur minimale PCIe Ausstattung. Wie willst Du da viele notwendige Netzwerkverbindungen realisieren? Mehr PCIe Root Komplexe auf einem Chip bedeutet auch höherer Stromverbrauch.

+7

Metty13.07.26 14:14

gfhfkgfhfk

Wie soll das funktionieren? Apple hat keinerlei Expertise in Netzwerktechnik.

Mir düngt, es lehnt sich hier nicht nur jemand aus dem Fenster, er droht geradezu aus demselbigen zu fallen.

Nur weil Apple selbst keine Netzwerkhardware auf dem freien Markt anbietet, heißt das nicht, daß Apple davon keine Ahnung hat. Apple betreibt gigantische Rechenzentren mit massiven Netzwerkstrukturen. Also so ganz ohne Erfahrung sind die nicht. Und da Apple hier und da, insbesondere bei der Hardwareentwicklung, überraschen kann, bin ich vorsichtig optimistisch, daß sie hier etwas vorbereiten. Der Bedarf KI Ressourcen geschickt zu vernetzen ist Apple sicherlich nicht verborgen geblieben.

+4

gfhfkgfhfk13.07.26 14:18

Metty

Apple betreibt gigantische Rechenzentren mit massiven Netzwerkstrukturen. Also so ganz ohne Erfahrung sind die nicht.

Apple kauft diese Technik zu, und entwickelt sie nicht selbst. Dann bleibt festzuhalten, dass nVidia der Technologieführer bei Netzwerktechnik ist. Die anderen Firmen hinken da deutlich hinterher.

0

goldaccess213.07.26 14:26

Bin langsam verwirrt mit der Prozessor-Roadmap und der MacBook (Pro) Roadmap.

Wäre wundervoll, wenn MacTechNews mal eine Tabelle mit den möglichen Gerüchte-Modellen aufwarten könnte. Also, was die Gerüchte sagen den Terminen und Modellen von Mac Book Pros (und Ultra) und welche Prozessoren da eventuell drinstecken könnten.

Klar, das wäre keine verlässliche Planungs-Grundlage - aber besser, als das, was ich so im Kopf habe.

-1

Raziel113.07.26 14:48

gfhfkgfhfk

Raziel1

Ist kein aus dem Fenster lehnen sondern nunmal Fakt.

Jetzt lehnst Du Dich noch weiter aus dem Fenster.

Raziel1

Wir haben erst letzten Firmen intern geprüft was man alles anschaffen könnte für diverse Anwendungsfälle. Ein Setup aus Consumer Macs verkettet mittels RDMA wäre bei grob 50k gewesen. Ein gleichwertiges Nvidia setup bei knapp 800k.

„Gleichwertig“ sind die Produkte mit Sicherheit nicht gewesen, sondern auf der nVidia Lösung wäre die gleiche Softwarelösung gelaufen.

Was nVidia anbietet ist mehr als den Faktor 10 schneller was die Speicherbandbreite und die Netzwerkbandbreite betrifft, und es skaliert nahezu beliebig.

Apples MacStudio M3Ultra Cluster, für den sie vor einigen Monaten über Influencer soviel Werbung gemacht haben, ist auf vier MacStudios mit je 512GB beschränkt gewesen. In diesem Setup wurden alle vier Thunderbolt Ports an jeder Maschine belegt. Da Apple keinerlei Technologie hat, um Macs weiter zu skalieren, wird das auch nie über diese wenigen Mac hinauswachsen. Jetzt auf einmal ist jeder in der Apple Welt aus dem Häuschen, weil Apple RDMA unterstützt. Der Punkt ist, RDMA ist bei Netzwerktechnik ein uralter Hut. Es ist einfach eine Selbstverständlichkeit, dass man im Serverumfeld diese Technik unterstützt.

Die MacStudios wurden per TB5 vernetzt d.h. 80Gbps. nVidia bietet 800Gbps Netzwerkkarten an. Der Speicherdurchsatz auf einer B300 GPU beträgt 8TB/s, und nicht 820GB/s des Mac Studio M3Ultra. Selbst die RTX Pro 6000 mit ihren knapp 1,6TB/s ist deutlich schneller als der M3Ultra Mac.

Der MacStudio Cluster von Apple ist für eine bestimmte Nische eine geeignete kostengünstige Lösung. Wenn das passt wunderbar, aber man sollte die Realität nicht aus den Augen verlieren.

Raziel1

Ich glaube nicht das Apple ein Problem damit hätte Nvidias Lösung zu schlagen und sei es am Ende nur in Effizienz, Wärme, Stromverbrauch.

Wie soll das funktionieren? Apple hat keinerlei Expertise in Netzwerktechnik. Ohne Netzwerktechnik skalieren die Lösungen nicht. Die Apple M SoCs haben nur minimale PCIe Ausstattung. Wie willst Du da viele notwendige Netzwerkverbindungen realisieren? Mehr PCIe Root Komplexe auf einem Chip bedeutet auch höherer Stromverbrauch.

Ich fürchte eher du bist mit dem Thema nicht wirklich vertraut Deine "Fenster lehn" Kommentare sind dazu anmaßend, ohne zu wissen was dein Gegenüber beruflich macht. Das Apples Lösung Consumer Hardware ist, hast du auch bewusst überlesen genauso wie das Nvidia natürlich auch was bietet für das Geld. Genauso wissen wir alle das Nvidias Lösung quasi unendlich skalierbar ist. Wäre das alles anders würden wir Macs in Rechenzentren sehen und das tun wir aus gutem Grund nicht.

Und trotzdem sieht man was selbst in der Konstellation bei Apple möglich wäre und was vergleichbares bei Nvidia existiert. Es braucht nicht viel um zu erkennen wir weit Apple hier die Nase vorne hat, wenn sie den Vorteil nur nützen würden. Derzeit tun sie das im industriellen Sektor nicht. Ob es sich überhaupt auszahlen würde wäre eine andere Frage. Schon damals haben sie ihre Rack Lösungen eingestampft.

Derzeit bleibt und aber im kleineren Ramen trotzdem Apples derzeitige Angebote. In einer Server Farm sehen wir das derzeit nicht, aber für viele andere Fälle wie in Firmen etc sind die Lösungen äusserst attraktiv.

+1

gfhfkgfhfk13.07.26 15:30

Raziel1

Ich fürchte eher du bist mit dem Thema nicht wirklich vertraut

Du fängst hier fröhlich an Äpfel mit Birnen zu vergleichen, und wunderst dich dass du Gegenwind bekommst? nVidias Produktpalette reicht von embedded Lösungen (insbesondere Automotive) bis hin zu HPC/AI-Supercomputern. Apple bietet hingegen ein recht eng zugeschnittenes Produktsortiment an. Du bist derjenige der hier unsinnigste Vergleiche zieht, und damit dokumentierst, dass du wenig Ahnung von der Thematik hast.

Raziel1

Es braucht nicht viel um zu erkennen wir weit Apple hier die Nase vorne hat,

Haben sie das denn? Apple punktet aktuell bei KI nur in dem relativ kleinem Marktsegment fürs Inference (Training kann man auf Apple Hardware faktisch vergessen), wenn man mehr Speicher braucht als eine RTX Pro 6000 bietet (96GB). Das Problem ist aber, dass durch die Speicherkrise der MacStudio auch nur noch mit 96GB erhältlich ist, und das neue MBP auch nur mit maximal 128GB erhältlich ist. Beide sind deutlich langsamer als die RTX Pro 6000.

Dazu lassen sich acht RTX Pro 6000 preisgünstig in einen Server stecken, so dass 768GB RAM bekommt, und das kopieren über die PCIe Slots ist schneller als über Thunderbolt. So ein Ding kostet auch keine 800k, die 800k sind für einen DGX SuperPod fällig, und da steckt ganz andere Hardware drin auf der man auf Training machen kann.

-1

xcomma13.07.26 17:09

gfhfkgfhfk

Der MacStudio Cluster von Apple ist für eine bestimmte Nische eine geeignete kostengünstige Lösung.

An diese Tests / Berichte mit MacStudio Clustern erinnere ich mich noch, wie der hier z.B. . Für einen headless-Betrieb mit "Exo-Cluster-Steuerung" kann man es aber noch wesentlich kostengünstiger bekommen. Ganz konkrete Berechnungen müsste man, vor allem seit den geänderten Umständen im RAM/SSD Bereich, der aber letztendlich alle trifft, erneut anstellen, aber dazumal ist man Pi mal Daumen mit um die 50% geringeren Kosten weggekommen, wenn man das auf Basis der AMD Ryzen AI Max 300 Series aufbaut, wie es sie z.B. bei Framework gibt.

0

CJuser14.07.26 08:48

goldaccess2

Bin langsam verwirrt mit der Prozessor-Roadmap und der MacBook (Pro) Roadmap.

Wäre wundervoll, wenn MacTechNews mal eine Tabelle mit den möglichen Gerüchte-Modellen aufwarten könnte. Also, was die Gerüchte sagen den Terminen und Modellen von Mac Book Pros (und Ultra) und welche Prozessoren da eventuell drinstecken könnten.

Klar, das wäre keine verlässliche Planungs-Grundlage - aber besser, als das, was ich so im Kopf habe.

Aktuell sieht es scheinbar so aus:

- 4. Quartal 2026:
MacBook Pro M6

- 1. Halbjahr 2027: Designwechsel
MacBook Pro M7
(neues Gehäuse, aber reduzierte Neuausstattung, wahrscheinlich sogar das aktuelle Display)
MacBook Pro M7 Pro & M7 Max
(ggf. Wechsel der Bezeichnung auf MacBook Ultra)

Persönliche Meinung: Wenn man hier eine stärkere Trennung machen will, gibt es zukünftig hoffentlich auch ein MacBook Pro M7 mit 16,2 Zoll Display... wobei ich das OLED-Modell dann nicht zum MacBook Ultra machen würde, sondern das "Budget-Pro" zum MacBook Studio.

0

Raziel114.07.26 09:09

gfhfkgfhfk

Raziel1

Ich fürchte eher du bist mit dem Thema nicht wirklich vertraut

Du fängst hier fröhlich an Äpfel mit Birnen zu vergleichen, und wunderst dich dass du Gegenwind bekommst? nVidias Produktpalette reicht von embedded Lösungen (insbesondere Automotive) bis hin zu HPC/AI-Supercomputern. Apple bietet hingegen ein recht eng zugeschnittenes Produktsortiment an. Du bist derjenige der hier unsinnigste Vergleiche zieht, und damit dokumentierst, dass du wenig Ahnung von der Thematik hast.

Raziel1

Es braucht nicht viel um zu erkennen wir weit Apple hier die Nase vorne hat,

Haben sie das denn? Apple punktet aktuell bei KI nur in dem relativ kleinem Marktsegment fürs Inference (Training kann man auf Apple Hardware faktisch vergessen), wenn man mehr Speicher braucht als eine RTX Pro 6000 bietet (96GB). Das Problem ist aber, dass durch die Speicherkrise der MacStudio auch nur noch mit 96GB erhältlich ist, und das neue MBP auch nur mit maximal 128GB erhältlich ist. Beide sind deutlich langsamer als die RTX Pro 6000.

Dazu lassen sich acht RTX Pro 6000 preisgünstig in einen Server stecken, so dass 768GB RAM bekommt, und das kopieren über die PCIe Slots ist schneller als über Thunderbolt. So ein Ding kostet auch keine 800k, die 800k sind für einen DGX SuperPod fällig, und da steckt ganz andere Hardware drin auf der man auf Training machen kann.

Hut ab, du gewinnst auf jeden Fall mal den Preis fürs Trolling Für "Gegenwind" benötigt es jemanden der zuerst mal die Diskussion auch versteht und die Materie. Du wiederholst hier immer das selbe Grundgerüst scheinst aber nicht wirklich den Kern der Diskussion verfolgt zu haben. ich glaube du kannst sehr wohl selbst zwischen Consumer und Industrie Hardware und Angeboten Unterscheiden und verstehst garantiert den Markt unterschied zwischen einem Desktop Mac und industriellen Nvidia Lösungen. Das ändert aber nichts an den Aussagen. Und du kannst und Veteranen genre Nvidia Alternativen vorschlagen die an Effizienz etc vergleichbar sind in den passenden Segmenten. Ich bin sehr gespannt. Zuletzt wurde erst wieder für 100k ein lokales Setup angeschafft von dem ich dir jetzt schon sagen kann, das das mit den Consumer Lösungen von Apple deutlich günstiger gegangen wäre.

0

trigger2k2515.07.26 08:40

Das ist ein Hase Igel Rennen oder glaubt irgendjemand, dass die LLM genauso leistungsfähig und groß bleiben wie sie jetzt sind?

0

gfhfkgfhfk16.07.26 17:51

Raziel1

Für "Gegenwind" benötigt es jemanden der zuerst mal die Diskussion auch versteht und die Materie.

Und deshalb kam heute die Meldung, dass Apple verzweifelt KI-Startups sucht, weil deren Hardware nicht fürs KI insbesondere das Training taugt. Immer wieder amüsant wie sehr einige den Bezug zur Realität verloren haben und von reinem Wunschdenken beherrscht werden.

-1

Bloomberg: M7 Ultra mit Fokus auf Künstliche Intelligenz – und bis zu 1,5 Terabyte RAM

Kommentare

Kommentieren

Sie müssen sich einloggen, um die News kommentieren zu können.