Deep Learning mit mehreren GPUs: Amd-Crossfire oder Nvidia-SLI GPU Bridge?

Entscheidungsbäume, Random Forest, Support Vektor Maschinen, Neuronale Netze, ...

Moderator: consuli

Antworten
consuli
Beiträge: 479
Registriert: Mo Okt 10, 2016 8:18 pm

Deep Learning mit mehreren GPUs: Amd-Crossfire oder Nvidia-SLI GPU Bridge?

Beitrag von consuli »

Hallo!

Im Wesentlichen für Spielecomputer haben sowohl Amd als Nvidia Brückenadapter im Angebot, um zwei oder mehr Grafikkarten zu koppeln. Bei AMD schimpft sich die Brücke Crossfire bei Nvidia SLI.

Solche mit steckbaren Hardware-Brücken versehene Grafikarten Arrangements lassen sich grundsätzlich auch für das Deep Learning von neuronalen Netzen verwenden.

Habt Ihr bereits Erfahrungen mit Neuronalen Netzen (oder Machine Learning allgemein, fallls das geht) auf mehreren Grafikkarten?

Was empfehlt ihr? Nvidia oder AMD? Das Deep Learning Framework (z.B. Tensorflow) muss ja auch die Architektur der Grafikprozessoren unterstützen, nicht wahr?
Irmgard.
Benutzeravatar
EDi
Beiträge: 1599
Registriert: Sa Okt 08, 2016 3:39 pm

Re: Deep Learning mit mehreren GPUs: Amd-Crossfire oder Nvidia-SLI GPU Bridge?

Beitrag von EDi »

IMO ist Nvidia da ganz klar vorne.

Das könnte für dich interessantsein:

https://timdettmers.com/2019/04/03/whic ... -learning/
Bitte immer ein reproduzierbares Minimalbeispiel angeben. Meinungen gehören mir und geben nicht die meines Brötchengebers wieder.

Dieser Beitrag ist lizensiert unter einer CC BY 4.0 Lizenz
Bild.
Athomas
Beiträge: 768
Registriert: Mo Feb 26, 2018 8:19 pm

Re: Deep Learning mit mehreren GPUs: Amd-Crossfire oder Nvidia-SLI GPU Bridge?

Beitrag von Athomas »

Die Antwort auf Deine Frage „Nvidia oder AMD“ gibst Du ja durch den von Dir verlinkten Artikel von Tim Dettmers mehr oder weniger selbst: wer nicht gegen das quasi-Monopol von Nvidia ankämpfen will (oder kann), sollte halt zu Nvidia greifen!

Wenn Du an Multi-GPU denkst, hast Du die Leistungsfähigkeit einer Nvidia RTX 2080 Ti mit ihren (theoretischen) 14,2 TFlops bereits ausgereizt!?

Zur Orientierung: das ist etwa die Rechenleistung, die der schnellste Supercomputer des Jahres 2000 hatte! Der wog 106 Tonnen und brauchte 6 MW – 3 fürs Rechnen und 3 fürs Kühlen (https://en.wikipedia.org/wiki/ASCI_White)!

Damit würde nach heutigen Preisen der Strom für eine Stunde Rechnen unter Volllast mehr kosten als die genannte Grafikkarte – ach, wie ich diese krummen Vergleiche liebe :lol: !
consuli
Beiträge: 479
Registriert: Mo Okt 10, 2016 8:18 pm

Re: Deep Learning mit mehreren GPUs: Amd-Crossfire oder Nvidia-SLI GPU Bridge?

Beitrag von consuli »

Athomas hat geschrieben: Di Dez 24, 2019 1:27 pm (...)
wer nicht gegen das quasi-Monopol von Nvidia ankämpfen will (oder kann), sollte halt zu Nvidia greifen!
(...)
Auch wenn ich nicht der "Monopol-Donquichote" bin:
Es geht doch immer darum, wieviel kostet es mich und wie nützlich ist es im Verhältnis für mich (und was "verdiene" ich daran). Deine Nvidia RTX 2080 Ti kostet mal gerade 1300 Euro! (Wenn man sie günstig kriegt.) Da liegt es doch nah, statt einer Nvidia RTX 2080 Ti zwei oder drei kleinere AMD Saphire Karten über die Crossfire-Brücke parallel zu betreiben, oder nicht? Gut, man dann braucht natürlich auch ein Mainboard mit 3, 4, am besten 5 oder 6 PCI-E Steckplätzen ...

Übrigens sind auch schon andere "Aufrührer" auf den "verbotenen" Gedanken gekommen, ins AMD-Lager zu wechseln:
Reddit: "When might AMD be viable for deep learning". :P :P
Irmgard.
Antworten