A nagy-méretű mesterséges intelligencia modellek, mesterséges intelligencia-ügynökök és multimodális alkalmazások gyors fejlődésével az AI számítástechnikai rendszerek új kihívással néznek szembe: képesek-e lépést tartani a tárolási képességek a számítási teljesítmény növekedésével? A közelmúltban a globális tárolóipar jelentős előrelépést ért el, mivel az SK Hynix és a SanDisk közösen kiadták az iparág első szabványkészletét a High Bandwidth Flash (HBF) számára, ezzel megkezdődött a következő generációs mesterséges intelligencia tárolási technológia szabványosított fejlesztési szakasza.
Ez a hír nemcsak a félvezetőipari lánc figyelmét hívta fel magára, hanem azt is jelzi, hogy a mesterséges intelligencia infrastruktúrájában folyó verseny fokozatosan a számítási teljesítmény egyszerű törekvéséről a "számítási + tárolási szinergikus optimalizálás" új szakaszába mozdul el. A szervergyártók, az adatközpontok üzemeltetői és a kapcsolódó hardver-ellátási láncot gyártó cégek számára a HBF fejlesztése a jövőbeli mesterséges intelligencia-rendszerarchitektúra-frissítések fontos irányvonalává válhat.
A HBF szabványrendszer létrehozása felgyorsítja-e a mesterséges intelligencia tárolására szolgáló ökoszisztéma kialakulását?
A HBF szabvány specifikációit az Open Compute Project (OCP) HBF Műszaki Munkacsoportja dolgozta ki, amelyben az SK Hynix és a SanDisk fő műszaki közreműködőként vett részt. Időközben a Google és a Tensorrent mesterséges intelligenciachipeket gyártó cég csatlakozott a szövetséghez, amely támogatást nyújt a technológiai ellenőrzésben, az interfész tervezésében és az ökoszisztéma fejlesztésében.
Ez a szabvány elsősorban a mesterséges intelligencia következtetési rendszereit és az AI-gyorsító alkalmazásokat célozza meg, egységes műszaki keretet hozva létre, amely magában foglalja a rendszer interfészeit, az elektromos specifikációkat, a chipek egymásra helyezését, a csomagolás megbízhatóságát és a szoftveres olvasási/írási irányelveket.
A hagyományos tárolási megoldásokhoz képest a HBF célja, hogy kezelje a mesterséges intelligencia-modellek folyamatosan -nagyobb skálája által generált adathozzáférési nyomást, lehetővé téve, hogy a nagyobb kapacitású és nagyobb sávszélességű tárolási erőforrások közelebb kerüljenek a számítási maghoz, ezáltal javítva a rendszer általános hatékonyságát.
Miért van szüksége az AI-iparnak olyan új tárolási technológiákra, mint a HBF?
Az elmúlt években az AI-alkalmazások, amelyeket nagy nyelvi modellek példáznak, gyorsan fejlődtek, miközben a modellparaméterek skálája folyamatosan nőtt. A többmilliárdtól a százmilliárdig terjedő paraméterek között az AI-rendszerek magasabb követelményeket támasztanak a nagy-sebességű adatolvasási képességekkel szemben.
Jelenleg a High Bandwidth Memory (HBM) rendkívül nagy adatátviteli sebességével az AI-gyorsítók fontos tárolási összetevőjévé vált. Magas költsége és korlátozott kapacitása miatt azonban a HBM hajlamos a kapacitáshiányra, amikor az ultra-nagy-léptékű modellek következtetéseivel foglalkozik.
A HBF technológia egy új tárolási szint, amely ebben a háttérben jelent meg. A HBM-hez hasonló fejlett csomagolási módszert alkalmaz, több NAND Flash chipet egymásra helyezve nagyobb tárolási kapacitást ér el, miközben nagy adatátviteli sebességet tart fenn.
A vonatkozó technológiai tervek szerint az első -generációs HBF-termék egyetlen-veremkapacitás elérése 512 GB, és körülbelül 1,6 TB/s olvasási sávszélesség érhető el, ami jelentős előnyöket mutat a kapacitásbővítés és az egységköltség szabályozása terén.
Mik a HBF jövőbeli alkalmazási forgatókönyvei?
Ipari alkalmazások szempontjából a HBF alkalmasabb a nagy olvasási igényű adatfeladatok kezelésére. Például az AI modellkövetkeztetés során a modellsúlyok, a vektoradatbázisok és egyes gyorsítótárazott adatok gyakori olvasást igényelnek, és a HBF hatékonyan csökkentheti a hagyományos tárolóeszközök adatátviteli nyomását.
A jövőben a HBF-et várhatóan a következőkre fogják alkalmazni:
AI szerverek és adatközponti tárolórendszerek;
Nagy{0}}léptékű nyelvi modell-következtető platformok;
Intelligens vezetési adatfeldolgozó rendszerek;
Cloud computing AI infrastruktúra;
Nagy{0}}teljesítményű számítástechnikai (HPC) berendezések.
Különösen az AI-ügynökök rohamos fejlődése miatt a modelleknek összetettebb kontextuális információkat és valós idejű adatinterakciókat kell kezelniük, és ez tovább növeli a nagy-kapacitású, nagy{2}}sávszélességű tárolás fontosságát.
A HBF felváltja a HBM-et?Az iparági verseny továbbra is hosszú távú{0}}figyelést igényel.
Míg a HBF jelentős fejlesztési potenciált mutatott, az iparág általában úgy véli, hogy nem fogja teljesen felváltani a HBM-et, de valószínűbb, hogy az AI tárolóarchitektúra kiegészítő rétegévé válik.
Mivel a HBF a NAND Flash technológián alapul, írási és törlési élettartama korlátozott, így alkalmasabb olyan alkalmazásokhoz, amelyek gyakran olvasnak és ritkán frissítik az adatokat, például részleges modellparamétereket, előzményes gyorsítótáradatokat és nagy{0}}adat-visszakeresési feladatokat tárolnak.
A jövő mesterséges intelligenciarendszerei diverzifikáltabb tárolási architektúrát alkothatnak: a HBM az alacsony-késleltetésű, nagy-frekvenciás hozzáférési feladatokat, míg a HBF a nagyobb-kapacitású adattárolási igényeket kezeli, és mindkettő együtt dolgozik az AI számítási hatékonyságának javításán.
Következtetés: A HBF szabvány megjelenése új szakaszba állítja az AI infrastruktúrát.
Az SK Hynix és a SanDisk HBF szabvány népszerűsítése nemcsak technológiai frissítés, hanem az új tárolási megoldásokat kutató mesterségesintelligencia-ipari láncot is képviseli. A globális mesterségesintelligencia-alkalmazások továbbterjedésével az alacsonyabb-költségek és a hatékonyabb{2}}adathozzáférés elérése kulcsfontosságú lesz az AI-infrastruktúra jövőbeli versenyében.
A félvezetőgyártók, szerverberendezéseket gyártó cégek és az ipari ellátási láncot gyártó cégek számára a HBF ökoszisztéma fejlesztése folyamatos figyelmet érdemel. A szabványok fokozatos javulásával és az iparági szövetségek folyamatos bővülésével a következő -generációs mesterséges intelligencia tárolási piaca új növekedési lehetőségeket nyithat meg.
