Bericht: Nvidia plant, die Speicher-Konfiguration des Rubin Ultra anzupassen, um dem Mangel an High-End-HBM entgegenzuwirken

Der Anstieg der Nachfrage nach AI-Infrastruktur stößt zunehmend an die Grenzen der Lieferketten.

Laut einem Bericht von The Information prüft Nvidia eine recht radikale Anpassung – die Einführung einer Version des nächsten AI-GPU Rubin Ultra mit einem geringeren als ursprünglich geplanten Speicher, um den Produktionsdruck aufgrund des Mangels an hochwertigem High Bandwidth Memory (HBM) zu lindern.

Das bedeutet, dass selbst Nvidia, das die GPU-Marktführerschaft innehat, gezwungen ist, ein Gleichgewicht zwischen Produktspezifikationen und Lieferkapazität zu suchen.

Diese Entwicklung zeigt nicht nur, dass die Versorgung mit HBM zu einem der kritischsten Engpässe in der AI-Wertschöpfungskette geworden ist, sondern auch, dass die Kosten für AI-Server weiter steigen könnten und der Druck beim Bau von Datenzentren weiterhin an die nachgelagerten Bereiche weitergegeben wird.

Am Donnerstag schloss die Nvidia-Aktie mit einem Minus von 0,1 %, die Aktie von SK Hynix mit einem Minus von 4,97 %.

HBM-Lieferengpässe: Nvidia testet mehrere "Geringer Speicher"-Versionen

Informierte Kreise berichten, dass Nvidia in den letzten Wochen mindestens drei verschiedene Versionen der Rubin Ultra GPU getestet hat, von denen einige mit einer geringeren Speichergröße als ursprünglich geplant ausgestattet wurden.

Ein wichtiger Grund für Nvidias Überlegung, Versionen mit weniger Speicher zu veröffentlichen, liegt darin, dass in Zukunft möglicherweise nicht genügend hochwertige HBM-Chips verfügbar sind, um eine Massenproduktion nach dem ursprünglichen Design zu unterstützen.

Rubin Ultra ist ein zentraler Bestandteil der nächsten Generation von AI-Computing-Plattformen von Nvidia und positioniert sich oberhalb der bald in Produktion gehenden Rubin-Serie. Sie wird als wichtige Hardware-Plattform für das Training von groß angelegten AI-Modellen angesehen. Nach ursprünglicher Planung sollte sie mit größerem, schnelleren HBM ausgestattet werden, um die Training- und Inferenzleistung weiter zu steigern.

Angesichts der anhaltenden Knappheit bei HBM prüft Nvidia derzeit eine Anpassung der Produktspezifikationen, um durch die Änderung des Speichers sicherzustellen, dass das Produkt planmäßig auf den Markt kommt, anstatt weiterhin auf eine Erweiterung der Lieferkette zu warten.

Weniger Speicher bedeutet mehr zu installierende GPUs

Im Bereich AI-Training bestimmt HBM nicht nur die Datenübertragungsfähigkeit der GPU, sondern beeinflusst auch direkt die Größe der aufgenommenen Modelle.

Wenn Rubin Ultra letztendlich mit einem geringeren Speicher ausgestattet wird, könnten Kunden beim Betrieb großer AI-Workloads wie Sprachmodelltraining gezwungen sein, mehr GPUs einzusetzen, um Aufgaben zu erledigen, die bisher mit weniger Chips zu bewältigen waren.

Obwohl Nvidia durch Steigerung der GPU-Rechenleistung und Optimierung der Vernetzungs-Bandbreite einen Teil des Leistungsdefizits ausgleichen kann, dürften insgesamt die Systembereitstellungskosten und die Komplexität der Cluster weiter steigen.

Für große Cloud-Anbieter wie Microsoft, Meta, Amazon, Google, die laufend ihre AI-Investitionen erhöhen, bedeutet dies, dass die Kosten für den Bau von Datenzentren künftig weiter steigen könnten.

Der AI-Boom legt den größten Flaschenhals der Branche offen

HBM ist mittlerweile eines der begehrtesten und knappsten Kernkomponenten der AI-Industriekette.

In den letzten Jahren hat die schnell wachsende Nachfrage nach Modelltraining die GPU-Auslieferung deutlich erhöht, während die für GPUs erforderlichen HBM-Komponenten vor allem von wenigen Unternehmen wie Samsung Electronics, SK Hynix und Micron geliefert werden. Komplizierte Fertigungsprozesse, hohe Qualitätsanforderungen und lange Erweiterungszyklen sorgen dafür, dass das Produktionswachstum der Lieferanten nur schwer mit der AI-Nachfrage Schritt halten kann.

Branchenexperten gehen davon aus, dass HBM in den kommenden Jahren weiterhin knapp sein wird, was einer der wichtigsten Gründe für die hohen Preise von AI-Servern ist.

Dass Nvidia nun aktiv eine Version von Rubin Ultra mit weniger Speicher in Betracht zieht, zeigt, dass selbst das Unternehmen mit der größten Verhandlungsmacht der Wertschöpfungskette seine Produktplanung den HBM-Lieferbeschränkungen unterordnen muss.

Kostenbelastung breitet sich auf die gesamte Tech-Branche aus

Die Auswirkungen steigender HBM-Preise betreffen nicht mehr nur AI-Server.

Mit der anhaltenden Knappheit bei kritischen Komponenten wie GPU und HBM steigen die Hardwarekosten in der gesamten Tech-Branche. Unternehmen erhöhen ihre Budgets für AI-Infrastruktur, immer mehr Firmen sind gezwungen, ihre Investitionen zu steigern, um die Anforderungen für die Generative AI-Nutzung zu erfüllen.

Gleichzeitig beginnen die gestiegenen Chipkosten auch auf den Konsumelektronikmarkt durchzuschlagen. Einige Hardwarehersteller, darunter Apple, kompensieren den Druck in der Lieferkette längst durch höhere Endproduktpreise.

Laut Marktbeobachtern wird der Wettbewerb um hochwertige Speicherressourcen weitergehen, solange die Nachfrage nach AI-Rechenleistung weiterhin rasant wächst und neue HBM-Kapazitäten nur begrenzt verfügbar werden. HBM-Lieferfähigkeit bleibt somit ein entscheidender Faktor für die Expansionsgeschwindigkeit der AI-Branche.