Die Nachfrage nach KI- und HPC-GPUs in China treibt die Preise für Compute-GPUs krass nach oben. Die Nachfrage nach generativen, auf künstlicher Intelligenz basierenden Diensten und die Befürchtung, dass die US-Regierung den Verkauf von GPUs für KI-Workloads einschränken könnte, treibt die Preise in der Volksrepublik China weiter in die Höhe.
In einigen Fällen kann der Preis der H800-Compute-GPU von Nvidia bis zu 500.000 ¥ erreichen, was etwa 70.000 $ pro Einheit entspricht, berichtet MyDrivers. Tatsächlich ist es immer noch schwer, eine GPU zu bekommen, selbst zu diesem Preis.
Nicht nur teuer sondern auch selten
Letzten Monat sprang der Preis für Nvidias A800-GPU, der für Anwendungen im Bereich der künstlichen Intelligenz (KI) und des Hochleistungsrechnens (HPC) verwendet wird, praktisch über Nacht um 20 % auf 110.000 ¥ (15.000 $), nachdem Gerüchte aufgetaucht waren, dass die US-Regierung den Export solcher Produkte nach China beschränken könnte. Jetzt können Nvidias A800 und H800 Compute-GPUs ¥120.000 ($16.800, vermutlich für A800), ¥250.000 ($34.970), ¥300.000 ($41.970) und sogar ¥500.000 ($69.950, vermutlich für H800) erreichen.
Aber selbst wenn man das Geld hat, um die auf China ausgerichteten A800- und H800-GPUs zu bezahlen – abgespeckte Versionen von Nvidias A100- und H100-Compute-GPUs mit reduzierter Leistung und Skalierbarkeit – ist es möglicherweise unmöglich, eines dieser Geräte zu bekommen. Anstatt bei einem Distributor oder Wiederverkäufer zu kaufen, muss man sich direkt an Nvidia China oder sogar an die Nvidia-Zentrale wenden, heißt es in dem Bericht.
KI macht China abhängig von Nvidia
Die lächerlich hohen Preise sollten nicht überraschen. Die überwiegende Mehrheit der KI-Cluster basiert auf den Compute-GPUs von Nvidia und führt Software aus, die für die CUDA-Softwareebene von Nvidia entwickelt wurde, die ausschließlich Prozessoren des grünen Unternehmens unterstützt. Wenn die Betreiber von KI-Diensten und -Clustern nicht genügend Compute-GPUs bekommen können, um die wachsende Nachfrage nach ihren Produkten zu befriedigen, wird die Qualität ihrer Dienste sinken, und sie riskieren, ihr Geschäft mit der Zeit zu verlieren.
Nvidia äußert sich nicht zu den Preisen für seine Rechenzentrums-GPUs, daher ist der Bericht über die Preise für die Compute-GPUs des Unternehmens mit Vorsicht zu genießen. Eine Nvidia H800 Compute GPU im Add-in-Board-Format kostet in den USA 30.603 US-Dollar. CDW, einer der führenden Wiederverkäufer von Rechenzentrumshardware, listet nur eine solche Karte auf, und es dauert 5-7 Werktage, bis sie geliefert wird, was auf eine relativ knappe Versorgung mit diesen Produkten hinweisen könnte.
Nvidia’s Monopol
Logischerweise ist der Preis dann auch entsprechend hoch, Nvidia hat also als Hardwarehersteller dank einer Software die am besten auf ihrer Hardware läuft mal wieder die Welt im Zaum. Ähnlich wie mit dem Crypto-Farmen lässt sich jetzt also auch mit anderen Produkten aus dem Hause Nvidia mega Geld machen. Es sollte global aber auf jedenfall darauf geachtet werden, dass es demnächst nennenswerte Konkurrenz zu Nvidia in diesem Sektor geben sollte, da sonst das Monopol wirklich zu größ werden würde.
