Noch bis zum 27. August findet die Hot-Chips-Konferenz 2024 von Nvidia statt, in deren Rahmen Nvidia auch Details zu seiner AI-Hardware und den neuen KI-Beschleunigern der Blackwell-Generation bekanntgibt. Nach einigen Revisionen von Nvidia verzögert sich der Start der Blackwell-Beschleuniger.
Bei Blackwell und Blackwell NVLink handelt es sich um KI-Beschleuniger der neuesten Generation von Nvidia. Auf der diesjährigen Hot-Chips-Konferenz gibt Nvidia einige wichtige Details dazu bekannt. Die Gerüchte über eine Verschiebung der Beschleuniger im Datacenter von den letzten Monaten haben sich nun bestätigt. Nvidia musste eine Revision vornehmen und ein neues Package auflegen, was beim Chip-Auftragsfertiger TSMC zu einem Neustart in der Fertigung führte. Auf die für das erste Quartal 2025 angekündigte Gaming-Hardware hat die Verzögerung keine Auswirkungen. Lediglich die KI-Chips sind davon betroffen.
Test in eigenen Datacentern von Nvidia
Nvidia betreibt eigene Datacenter und testet dort die Blackwell-GPU. Netzwerkverbindungen außerhalb der Rack-Infrastruktur werden mit Spektrum-X800 und Quantum-X800 hergestellt. Zur Infrastruktur der GPU gehören B200, GB200, NVLink Switches, NVLink Switch Trays und Compute Trays.
Bei Blackwell handelt es sich um die fünfte Generation des NVLink-Interconnects von Nvidia. Mit ihr ist ein Datendurchsatz von 1,8 TB/s in beiden Richtungen möglich. Der Blackwell NVLink Switch Chip gehört dazu und stellt 72 Ports zur Verfügung. Alle diese Ports sind miteinander verbunden, um es auf bidirektional 7,2 TB/s zu bringen. Ein Blackwell NVLink Switch Tray verfügt über zwei Blackwell NVLink Chips.
Fertigung bei TSMC
Nvidia beauftragt den Chiphersteller TSMC mit der Fertigung des Blackwell NVLink Chips. Der Chip mit ungefähr 50 Milliarden Transistoren wird in 4NP gefertigt. Laut Nvidia hat der Chip eine Größe von über 800 Quadratmillimetern. Auch die Blackwell-GPU ist etwas größer als 800 Quadratmillimeter, doch können darin 104 Milliarden Transistoren Platz finden.
Der Blackwell NVLink Chip ist aktuell ein Maximum des Möglichen in der Chipfertigung. Er beherbergt weniger als die Hälfte der Anzahl an Transistoren wie die Blackwell-GPU, doch ist das darin begründet, dass auch noch ein SerDes-Bereich für Ports vorhanden sein muss. Für die Umsetzung sind vergleichsweise wenig Transistoren erforderlich.
Details zur Blackwell-Architektur
Nvidia will auf der Hot-Chips-Konferenz noch weitere Details zur Architektur von Blackwell bekanntgeben. Ein Whitepaper wurde bislang noch nicht veröffentlicht. Der Marktstart der ersten Systeme mit Blackwell-GPU ist für Ende 2024 geplant. Anfang 2025 sollen größere Stückzahlen davon verfügbar sein. Der Chip ist in mehreren Konfigurationen geplant, zu denen der Superchip GB200, DGX B200, HGX B100 und HGX B200 gehören.
Nachfolger von Blackwell schon in Planung
Nvidia bestätigte die Pläne, die das Unternehmen bereits auf der Computex 2024 vorgestellt hatte. Es ging darum, was nach Blackwell kommt. Blackwell Ultra ist als Nachfolger der Blackwell-GPU vorgesehen. Die Speicherkapazität erhöht sich von maximal 192 GB auf bis zu 244 GB. Bei der Speicherbandbreite ändert sich nichts. Anstelle von HBM3e mit acht Stacks könnte Nvidia beim Nachfolger eine Variante mit zwölf Stacks verwenden.
Präsentationen auf der diesjährigen Computex heizten die Gerüchteküche an. Nachfolger von Blackwell soll Gerüchten zufolge Rubin 2026 werden. Dazu ist eine Rubin-GPU auf der Basis von HBM4 vorgesehen. Blackwell wird noch mit der Grace-CPU kombiniert. Für die Grace-CPU wird es einen Nachfolger mit dem Namen Vera geben, der mit Rubin kombiniert werden soll. Bei NVLink verdoppelt sich die Bandbreite auf 3,6 TB/s. Die Datenraten verdoppeln sich auch bei den InfiniBand-Verbindungen.
Rubin Ultra soll 2027 auf den Markt kommen und einen HBM4 mit einer größeren Speicherkapazität haben.
Quellen: Nvidia, TSMC, hardwareLUXX
