Die mögliche Kernanzahl könnte von GB100- und GB202-GPUs untersucht werden.
Der bekannte Hardware-Leaker @kopite7kimi, der nachweislich typischerweise Details über Nvidias Pläne kennt, hat einige seiner Gedanken über mögliche Konfigurationen von Nvidias nächster Generation mit dem Codenamen Blackwell GPUs geteilt. Wenn seine Annahmen, die vermutlich auf der Kenntnis bestimmter Details basieren, richtig sind, könnte Nvidias Blackwell in Bezug auf die Anzahl der CUDA-Kerne und die Speicherschnittstelle ein ziemliches Upgrade erhalten. Da diese Informationen jedoch inoffiziell sind, sollten sie mit Vorsicht betrachtet werden.
„Wie ich bereits erwähnt habe, ist GA100 8 [GPC] * 8 [TPC] und GH100 ist 8 [GPC] * 9 [GTC]“, schrieb @kopite7kimi in einem X-Beitrag. „[Compute] GB100 wird eine Grundstruktur wie 8 [GPC] * 10 [TPC] haben. [Client PC] GB202 sieht aus wie 12 [GPC] * 8 [TPCs].“
As I mentioned before, GA100 is 8*8, and GH100 is 8*9. GB100 will have a basic structure like 8*10. GB202 looks like 12*8.
— kopite7kimi (@kopite7kimi) September 28, 2023
Die GPUs von Nvidia sind in Gruppen großer Grafikverarbeitungscluster (GPCs) organisiert, die aus kleineren Texturverarbeitungsclustern (TPCs) bestehen, die wiederum aus einer Gruppe von Streaming-Multiprozessoren (SMs) bestehen, die tatsächliche CUDA-Kerne beherbergen.
Unter der Annahme, dass der bekannte Hardware-Leaker Recht hat und Nvidia die Anzahl der Streaming-Multiprozessoren pro TPC und der CUDA-Kerne pro SM beibehalten wird, wird die Compute-GB100-GPU des Unternehmens für Anwendungen im Bereich der künstlichen Intelligenz (KI) und des Hochleistungsrechnens (HPC) verfügbar sein 20.480 CUDA-Kerne (eine Steigerung von 11 % gegenüber GH100) in der Vollkonfiguration, während die Client-PC-orientierte GB202-GPU in ihrer Vollkonfiguration 24.576 CUDA-Kerne (eine Steigerung von 33 % gegenüber AD102) erhält.
Angesichts der Arbeitslasten, denen GB100 ausgesetzt sein wird, ist es für Nvidia logisch, „fette“ GPCs mit möglichst vielen TPCs pro GPC zu verwenden, um den Datenaustausch zwischen TPCs so gering wie möglich zu halten. Gleichzeitig könnte es für Nvidia sinnvoll sein, die GPCs des GB202 etwas „fetter“ zu machen als heute, um die interne Organisation der GPU zu vereinfachen. Eine völlig neue Organisation von GPCs wird jedoch wahrscheinlich Treiberoptimierungen erfordern.
Zusätzlich zu einer neuen Mikroarchitektur und einer erhöhten Anzahl von CUDA-Kernen wird Nvidias GB100 voraussichtlich eine 8.192-Bit-HBM3/HBM3E-Speicherschnittstelle erhalten, während GB202 voraussichtlich einen 512-Bit-GDDR7-Speicherbus erhalten wird, behauptet der Leaker.
Vor etwa einer Woche ging @kopite7kimi davon aus, dass Nvidias Blackwell die ersten GPUs sein könnten, die eine Multi-Chiplet-Architektur übernehmen, ging aber nicht näher darauf ein. Es ist unklar, ob er die Anzahl der GPCs und TPCs auf einem Chiplet oder auf mehreren davon erörtert hat. Wenn man bedenkt, dass die TSMC N3-Prozesstechnologie (die vermutlich zur Herstellung von Blackwell-GPUs verwendet wird) hinsichtlich der Transistordichte nur begrenzte Vorteile gegenüber N4 bietet und Nvidias GH100 bereits nahe an der maximal möglichen Chipgröße liegt, die mit vorhandener Lithographieausrüstung möglich ist, ist dies möglich dass Nvidia es nur geschafft hat, 20.480 CUDA-Kerne in GB100 zu quetschen. In diesem Fall könnte es für Nvidia sinnvoll sein, zwei GB100-Chips für seine Rechen-GPU der nächsten Generation zu verwenden.
Unter der Annahme, dass die Blackwell-GPUs Ende 2024 bis Anfang 2025 auf den Markt kommen werden, wurden die Zielspezifikationen für Nvidias Blackwell-Prozessoren der nächsten Generation bereits vor gut einem Jahr festgelegt, und inzwischen sind die Blackwell-GPUs der Spitzenklasse wahrscheinlich vom Markt genommen worden. Muster dieser Geräte werden wahrscheinlich irgendwo in den Laboren des Unternehmens getestet. Daher gibt es bei Nvidia Hunderte von Leuten, die die Spezifikationen der Blackwell-GPUs des Unternehmens kennen und einige Details mit Leuten außerhalb des Chipdesigners teilen können.
Allerdings ist es möglich, dass @kopite7kimi mehr oder weniger genaue Informationen über Nvidias Blackwell-GPUs der nächsten Generation hat. Es ist jedoch auch möglich, dass alle Details zu Nvidias kommenden GPUs im Wesentlichen fundierte Vermutungen und keine tatsächlichen, soliden Informationen sind.
