Nvidia a SK Hynix chcú vytvoriť AI SSD, špeciálne pre trénovanie AI na serveroch

NVIDIA a SK hynix podľa informácií z kórejských zdrojov pracujú na spoločnom projekte zameranom na vývoj nového typu úložiska určeného pre umelú inteligenciu. Interný projekt s označením Storage Next má viesť k vzniku tzv. AI SSD, ktoré bude optimalizované najmä pre AI inference, teda fázu, keď sa už natrénované modely používajú v reálnych aplikáciách.

Posun smerom k inference mení nároky na hardvér. Zatiaľ čo pri tréningu dominujú výpočty a vysoká priepustnosť pamätí typu HBM, pri inference je kľúčový rýchly a nepretržitý prístup k obrovskému množstvu modelových parametrov. Tie dnes nie je možné efektívne držať výlučne v HBM alebo klasickej DRAM, a práve tu má vzniknúť priestor pre nový typ úložiska, ktorý bude fungovať ako medzivrstva medzi pamäťou a klasickým SSD.

Podľa dostupných informácií plánuje SK hynix predstaviť prvý prototyp do konca budúceho roka. Finálne riešenie by sa mohlo objaviť okolo roku 2027. Hovorí sa o výkone až na úrovni 100 miliónov IOPS, čo je výrazne viac než ponúkajú dnešné enterprise SSD.

Cieľom je dosiahnuť vysokú priepustnosť a nižšiu spotrebu energie vďaka novej architektúre NAND pamätí a radičov, pričom NVIDIA by mala na projekte úzko spolupracovať najmä z pohľadu integrácie do AI infraštruktúry.

Samozrejme nič z tohto dostupnosť NAND pamätí nezlepší.