Nvidia hat einen kompakten KI-Computer vorgestellt, der auf seinem neuen GB10 Grace Blackwell-Chip läuft. Das System mit der Bezeichnung Project DIGITS kann nach Angaben des Unternehmens KI-Modelle mit bis zu 200 Milliarden Parametern verarbeiten.
Der GB10-Chip kombiniert eine Blackwell-GPU mit Tensor-Kernen der fünften Generation mit einer Arm-basierten Grace-CPU mit 20 Kernen. Diese sind über Nvidias proprietäres NVLink-C2C-Interconnect verbunden. Das System liefert laut Nvidia eine KI-Rechenleistung von einem Petaflop bei FP4-Gleitkommapräzision. Der Computer verfügt über 128 GB Arbeitsspeicher und bis zu 4 TB NVMe-Speicher. Durch die Verknüpfung von zwei Systemen über die ConnectX-Netzwerktechnologie können Entwickler KI-Modelle mit bis zu 405 Milliarden Parametern ausführen. Das System läuft auf einem Linux-basierten Betriebssystem.
Laut CEO Jensen Huang soll das System die KI-Entwicklung für Datenwissenschaftler, Forscher und Studenten zugänglich machen. Entwickler können die KI-Software von Nvidia nutzen, darunter das NeMo-Framework für die Feinabstimmung von Modellen, Rapids für die Datenwissenschaft und Frameworks wie PyTorch und andere. Project Digits wird im Mai zu einem Startpreis von 3000 Dollar auf den Markt kommen.