Als Nvidia sagte, dass es im zweiten Quartal des Geschäftsjahres 2024 Hardware für Rechenzentren im Wert von 10,3 Milliarden US-Dollar verkauft hat, könnte man annehmen, dass das Unternehmen tonnenweise seine High-End-Compute-GPUs H100 verkauft hat, aber das Marktforschungsunternehmen Omdia sagt, dass Nvidia im zweiten Quartal des Kalenderjahres 2023 buchstäblich 900 Tonnen H100-Prozessoren verkauft hat.
Omdia schätzt, dass Nvidia im zweiten Quartal über 900 Tonnen (1,8 Millionen Pfund) H100-Compute-GPUs für Anwendungen in den Bereichen künstliche Intelligenz (AI) und High-Performance-Computing (HPC) ausgeliefert hat. Omdia geht davon aus, dass das durchschnittliche Gewicht eines Nvidia H100 Compute GPUs mit Kühlkörper über 3 Kilogramm beträgt, so dass Nvidia im zweiten Quartal über 300 Tausend H100s ausgeliefert hat.
Die Nvidia H100 ist in drei verschiedenen Formfaktoren erhältlich, die alle ein unterschiedliches Gewicht haben. Eine Nvidia H100 PCIe-Karte wiegt 1,2 Kilogramm, und das Gewicht des Nvidia H100 SXM-Moduls ist nicht bekannt (wir haben Nvidia angefragt), aber das Gewicht eines OAM-Moduls mit Kühlkörper – das in etwa die gleiche Größe und TDP wie ein H100 SXM hat – liegt bei maximal 2 Kilogramm.
Wenn man davon ausgeht, dass 80 % der Nvidia H100-Lieferungen Module und 20 % Karten sind, sollte das durchschnittliche Gewicht einer einzelnen H100 etwa 1,84 Kilogramm betragen. Omdia sagt, dass es das Gewicht auf der Grundlage der Anzahl der von Nvidia im zweiten Quartal ausgelieferten H100-Module geschätzt hat, so dass das tatsächliche Gewicht weniger als 900 Tonnen betragen könnte, aber wir können trotzdem sagen, dass Nvidia im zweiten Quartal buchstäblich Tonnen von H100-Modulen ausgeliefert hat.
Omdia geht davon aus, dass Nvidia in den kommenden Quartalen etwa die gleiche Menge an GPUs verkaufen wird. Das Unternehmen wird also in diesem Jahr etwa 3.600 Tonnen oder 7,2 Millionen Pfund H100-GPUs verkaufen. Das entspricht etwa 1,2 Millionen H100-GPUs pro Jahr, wenn das Tempo gleich bleibt.
Dies ist eine grobe Schätzung, aber die Auslieferung von mehr als 300 Tausend H100-GPUs in einem Quartal ist eine enorme Leistung. Wir gehen davon aus, dass die Zahl der H100-Prozessoren auch die auf China ausgerichteten H800-Prozessoren umfasst. Wir sollten aber auch bedenken, dass das Unternehmen tonnenweise (vielleicht sogar wortwörtlich) seine Rechen-GPUs der früheren Generation A100, A800 und A30 an Unternehmen liefert, die sie bereits für KI-Inferenz und technische Berechnungen verwenden, so dass die tatsächliche Zahl der Rechen-GPUs, die Nvidia pro Quartal verkauft, wesentlich höher ist als 300 Tausend und weit über 900 Tonnen insgesamt.
Das reicht natürlich nicht aus, um die unersättliche weltweite Nachfrage nach GPUs zu befriedigen – Nvidias KI-GPUs sind über das Jahresende hinaus ausverkauft. Wir können also davon ausgehen, dass sich die Auslieferungsrate im kommenden Jahr beschleunigen wird, da Nvidia von der Begeisterung für generative KI profitiert.
Um der Geschichte etwas mehr Kontext zu verleihen, sind hier einige andere Dinge, die 900 Tonnen wiegen:
- 4,5 Boeings 747s
- 11 Space Shuttle Orbiter
- 215.827 Gallonen Wasser
- 299 Ford F150-Lightnings
- 181.818 PlayStation 5s
- 32.727 Golden Retriever
