Digits: Das ist Nvidias KI-Supercomputer für zu Hause
Auf der CES 2025 hat Nvidia das Project Digits vorgestellt. Dabei handelt es sich um einen leistungsstarken Rechner, der optisch an einen Mac Mini erinnert und helfen soll, KI-Modelle zu erstellen.
Mit dem Project Digits legt Nvidia den Grundstein, um seine Vormachtposition im KI-Business zu festigen. Alle mit dem System erstellten und getesteten KI-Modelle sollen anschließend in KI-Cloud-Systemen von Nvidia laufen.
Viel Rechenkraft auf dem Schreibtisch
Im Project Digits befindet sich der Grace-Blackwell-Superchip, oder kurz GB10, von Nvidia. Die Blackwell-GPU schafft bei KI-Berechnungen bis zu einem Petaflop. Das sind 1000 Teraflops. Zum Vergleich: Die aktuellen Copilot+ PCs mit Snapdragon-Chips haben 45 Teraflops. Zum System gehören außerdem die neueste Generation an CUDA-Rechenkernen sowie die fünfte Generation der Tensor-Rechenkern. Diese sind via NVLink-C2C mit den 20-ARM-Rechenkernen der Grace-CPU verbunden.
Quelle: Nvidia
Das Digits-System verarbeitet bis zu 200 Milliarden Parameter. Ist das KI-Modell größer, lassen sich zwei der Desktop-Rechner verbinden, um bis zu 405 Milliarden Parameter zu verarbeiten. Das entspricht dem Umfang von Llama 3.1, dem aktuell größten KI-Modell von Meta.
126 Gigabyte Arbeitsspeicher und vier Terabyte SSD-Speicher (NVMe) gehören zur Standardausstattung von Digits. Das System läuft auf dem linuxbasierten Nvidia DGX OS und bietet Zugriff auf die KI-Software-Bibliothek von Nvidia. Es unterstützt zudem Frameworks wie PyTorch, Python oder Jupyter Notebook.
Quelle: Nvidia
Arbeit an KI-Modellen soll erleichtert werden
Nvidias CEO Jensen Huang zeigt sich in der Pressemitteilung des Unternehmens ambitioniert. Er will mit dem Project Digits den Grace Blackwell Superchip Millionen von Entwicklern und Entwicklerinnen zur Verfügung stellen. «Placing an AI supercomputer on the desks of every data scientist, AI researcher and student empowers them to engage and shape the age of AI.»
Ab Mai 2025 will Nvidia sein Project Digits verkaufen. Kostenpunkt 3000 Dollar. Nicht günstig, dürfte aber schwer werden, einen anderen Rechner mit so viel Rechenkraft pro Dollar zu finden.
Titelbild: Nvidia
Als Grundschüler saß ich noch mit vielen Mitschülern bei einem Freund im Wohnzimmer, um auf der Super NES zu spielen. Inzwischen bekomme ich die neueste Technik direkt in die Hände und teste sie für euch. In den letzten Jahren bei Curved, Computer Bild und Netzwelt, nun bei Digitec und Galaxus.
