Abstrakte KI-Visualisierung fuer ein neues Sprachmodell

Nvidia stellt NVHBM vor: Massgeschneiderter HBM4-Speicher fuer KI-Chips

Nvidia hat mit NVHBM ein Toolkit fuer massgeschneiderten HBM4-Speicher vorgestellt, das einen eigenen Speichercontroller sowie eine NVLink-Fusion-Anbindung mitbringt und Partner enger an das Nvidia-Oekosystem bindet.

Controller im Base-Die integriert

HBM4 teilt sich Chip-Ebenen mit dem DRAM und nutzt eine gemeinsame untere Logikschicht zur Steuerung. Anders als bei AMDs Ansatz bettet Nvidia den Speichercontroller direkt in den Base-Die ein. Das schafft Platz in CPUs, GPUs und I/O-Dies. Zur Kommunikation zwischen HBM und Compute-Dies kommen miniaturisierte NVLink-Schnittstellen zum Einsatz.

Alle drei HBM-Hersteller an Bord

Die Trennung der Logikschicht von den Speicherebenen erlaubt eine Optimierung mit logikfokussierten Fertigungsprozessen. Mit Samsung, SK Hynix und Micron validieren beziehungsweise bieten alle drei HBM-Hersteller NVHBM an. Als erster Abnehmer gilt Amazons Halbleitersparte Annapurna Labs.

Strategie gegen CXL

NVHBM ist Teil der NVLink-Fusion-Plattform. Nvidia bindet damit Firmen, die eigene KI-Beschleuniger entwerfen, an seine Interconnect-Technik und haelt NVLink gegenueber konkurrierenden Standards wie Compute Express Link (CXL) prominent. Kunden koennen anpassen, bleiben aber von Nvidias Verbindungstechnik abhaengig.


Quellen: heise online.

Mastodon
Nach oben scrollen