Hi zusammen,
ich hab eine, ein wenig aussergewöhnliche Frage für eine "kreative" Hardware Kombination.
Ich möchte für ML / AI eine NVIDIA Grafikkarte anschaffen, die dann auch zwingend Linux bzw. Windows benötigt.
Jetzt bin ich seit knapp 20 Jahren Apple User und hab bei diversen Kollegen nachgefragt die mich zu diversen Händlern geschickt haben. Einen PC selber zusammen bauen, will ich nicht und werd ich nicht - so richtig lust auf eine Windows Kiste hab ich jetzt auch nicht - dann kam mir diese Idee:
Gebrauchter Mac Pro von 2010 ( ab 150 - 200 € )
RTX 4060 rein
und dann Bootcamp drauf und gut ist... oder?
Die Nvidia müsste ja unter Windows laufen - ich tippe mal darauf dass Mac OS die Karte einfach ignorieren wird...
Hat irgendjemand Erfahrung mit so einer Kombi, also Intel Mac Pro mit Bootcamp und NVIDIA ( im besten Fall CUDA )?
Ich weiss es ist ein wenig seltsam - aber gefällt mir besser als mir irgendeine Plastikkiste zu holen...

Du willst dir dafür 13 Jahre alte Mac-HW anschaffen?? "Kann" funktionieren wenn sich Windows nicht an den seit Jahren nicht aktualisierten BootCamp Treibern stört. Ob das Leistung und Spaß bringt wage ich zu bezweifeln...

Und seit wann sind PC´s in Plastikkisten?!

Ob eine RTX 4060 mit so alter Hardware nicht ausgebremst wird, bzw. überhaupt läuft, ist die Frage:

• Ein Mac Pro 2010 unterstützt nur PCIe 2.0 (5 GT/s), eine RTX 4060 unterstützt PCIe 4.0 (16 GT/s).
• Unter Volllast braucht eine RTX 4060 bis zu 550 W, ein Mac Pro 2010 bietet maximal 375 W (75 W über den Slot und je 150 W über die internen Hilfsanschlüsse).

Noch eine andere Sache: Bootcamp ist ein macOS-Programm, das dabei hilft, Windows auf dem Mac zu installieren. Es ist unklar, was das mit der Fragestellung zu tun hat. Unterstützt wird auch nur das Windows zu der jeweiligen Zeit, aus der der Mac stammt, in diesem Fall also Windows 8.1.

Wird die Karte (sie nutzt PCIe Gen 4) an den PCIe-2.0-Slots des alten Mac Pro nicht ausgebremst?

@Marcel
Ok, die Punkte wären dann natürlich K.O. Kriterien...
Danke für die Antworten, war die Idee wohl doch ein wenig sehr "kreativ"...

Wenn es dir "nur" um die Optik geht: es gibt Leute, die in die schönen alten Gehäuse der MacPro aktuelle DOSen-Mainbords (mit passenden CPUs und Netzteilen) einbauen...

Ne es ging primär um "Bios" und "PCI Lanes" und was weiss ich nicht alles, das mag für Bastler und Enthusiasten ja bestimmt super sein, ich bin aber unter anderem zum Mac gewechselt, weil ich mich genau damit nicht mehr beschäftigen wollte... und im Gegensatz zu meinen nicht vorhandenem wissen zu PCs hab ich zumindest ein wenig Erfahrung mit Macs - nur eben nicht in so einer Kombination...

@michimaier
oder eben mal die geistrige Haltung ändern... und umsteigen in die neue KI Zeitrechnung.
(sag ich mal so als langjähriger MacUser)
Ich bin da hoffnungsvoll und denke Apple wird mit den nächsten M3+ Generationen mit der NVIDIA Grafikpower sehr schnell aufholen.

Wenn Du wirklich AI machen willst und keine Software nutzt, die zwingend Windows erfordert, ist das OS der Wahl Linux.
Das ist eine schlechte Wahl, da der MacPro hoffnungslos veraltet ist. Besser ist es sich ein aktuelles PC System anzuschaffen und darin die RTX4060 unter Linux zu betreiben.
Warum kein Metallgehäuse?

Ich hoffe ja immer noch auf einen neuen "DOS Compatible", mit schön integriertem PC-System.

Hintergrundinformationen zum Thema AI und HPC auf nVidia GPUs

Aktuell ist CUDA 12.3 Update 1 und das läuft auf Windows: 10, 11, Server 2019 und Server 2022, und meines Wissens wird keine dieser Windows Versionen von Bootcamp auf einem alten MacPro unterstützt.

nVidia verkauft einige Computersysteme für AI bzw. HPC selbst. Alle diese Systeme werden ausschließlich mit Linux ausgeliefert und unterstützt, da einige Teile der nVidia Software ausschließlich für Linux verfügbar sind (z.B. HPC Compiler, Enterprise AI Suite, …). Daher ist es sinnvoll CUDA Software auch für Linux zu entwickeln, wenn es nicht sehr triftige Gründe für Windows Software gibt – beispielsweise ein CUDA-Plugin für eine bestehende Windows Software.

Es gibt aktuell Entwicklerkits für embedded AI Entwicklung z.B. Jetson AGX Orin. Es gab die DGX-Station, eine AI/HPC Entwicklermaschine, die dann durch eine Partnerschaft mit SuperMicro durch eine günstigere Lösung von SuperMicro ersetzt wurde. Darüber gibt es eine Reihe von zertifizierten Systemen von Partnern. Die DGX-Server von nVidia sind weiterhin erhältlich.

Günstig ist ein Linux PC/Workstation auf Basis eines Desktop Prozessors und eine der nVidia Gaming Karten. Das gibt es von diversen Händler fertig zusammengebaut und wenn es sich um ein Markengerät handelt auch mit Garantie und Support für diese Konfiguration.

Ja die Idee ist ja inzwischen vom Tisch...

Was hast du denn krasses vor, dass ein M3 Max nicht reicht?

Welche Idee? Die einen alten MacPro zu nutzen, oder die überhaupt AI auf nVidia GPUs zu machen?

@gfhfkgfhfk
Den Mac Pro mit einer NVIDIA auszustatten - "lustige" Story: Hab gestern einen PC bei einem bekannten Händler erstellt - die Konfig an einen Bekannten aus der PC Welt geschickt - und der hat mir erstmal erklärt wie sinnfrei die Konfiguration ist... ich hab keine Ahnung von PCs...

Keine Ahnung von PCs, aber einen alten Mac Pro umbauen wollen? Irgendwie beißt sich das.

Es ist auch die Frage, was du beim ML machen willst?
Grundsätzlich nur „nutzen“ oder auch „trainieren“.

Und in welchem Bereich?

Um Modelle zu nutzen dürfte ein aktueller Mac ausreichen, Zum Beispiel läuft DrawThings mit Stable Diffusion für Text-To-Image auch auf einem iMac M1 ganz brauchbar. (Passt auch auf einem älteren iPad Pro, saugt nur schnell die Akku leer).
Um Modelle zu trainieren könnte auch Apple MLX (OpenSource: ) ganz passable Ergebnisse bei ausreichender Performanz bieten. MLX ist halt auf die Eigenheiten der Mx CPUs (Unified Memory) optimiert, das muss ein schneller PCIe-Bus erst mal kompensieren.

Ganz anderer Ansatz: Wenn du dein ML-Zeugs nur gelegentlich machen willst, miete dir doch einfach für die Zeit eine AWS-Instanz. Dort gibt es sehr viele Instanz-Typen mit vielen NVidia-GPUs und unterschiedlichen Prozessoren/RAM-Ausstattungen wie auch Windows oder Linux.

Ich habe genau das selbe für das Trainieren der Modelle für unser neues VectorAI gemacht.

@Mendel - Das wäre tatsächlich eine Alternative über die ich nachdenke.