Az idei, reménytelenül telt házas OCP Global Summit San Joséban sem cáfolta meg azt a trendet, amelyről az idén szinte minden nagy kiállításon és rendezvényen szó esett. Az elkülönített szerverek – legalábbis a HPC és az AI területén – megszűnnek létezni, és a piac a „megafactory”-k építése és az adatközpont teljes infrastruktúrájának gyökeres átalakítása felé tolódik. Kiválasztottuk Önnek a rendezvény 4 legnagyobb technológiai érdekességét, amelyek a további fejlődés szempontjából meghatározóak lehetnek.
🔶 Az NVIDIA felfedi a lapjait
Az NVIDIA nagyon nagy és meglehetősen váratlan lépést tett a nyílt szabványok felé: átadta az OCP közösségnek jövőbeli AI szuperszámítógépeinek kulcsfontosságú specifikációit, hogy lehetővé tegye az AI gyárak gigawattos szintű skálázását.
- Változásokat látunk a szoftver területén is. Napvilágot lát az NVIDIA DSX platform nyílt szoftverrétege a hatalmas clusterek telemetriájához, orchestrációjához és kezeléséhez.
- Nyílt NVL72 platformspecifikáció folyadékhűtéses MGX rackekhez, amelyek egyetlen egységbe integrálnak 72 Rubin GPU-t és 36 Vera processzort.
- Az NVIDIA megszabadul a „váz-monopóliumától” is: az MGX architektúra mechanikai és elektromos specifikációinak közzétételével harmadik feles gyártók is teljes mértékben kompatibilis komponenseket gyárthatnak. Ez alapvetően felgyorsíthatja a szállításokat és magát az infrastruktúra-kiépítést is.
🔶 Egy kis falu energiafogyasztása egyetlen rackben és az átállás 800 VDC-re
Ha egyetlen AI rack fogyasztása 300–600 kW, a hagyományos elektromos elosztás a kábelekben és csatlakozókon keletkező óriási hőveszteségek miatt értelmét veszti – és ekkor lép be a képbe a 800V DC (más jelöléssel: 800 VDC). A piac vezető szereplői (Vertiv, Eaton, Schneider Electric) áttérnek a rack busbarodon keresztül közvetlenül elosztott 800V egyenáramra. Az eredmény: lényegesen vékonyabb rézkábelek, minimális veszteségek és nagyobb forráshatékonyság. Terjed az intelligens szünetmentes táplálás (BBU) is. Közvetlenül a rackekbe új, szabványosított Redfish API-t használó akkumulátoros tartalék modulokat integrálnak. Az operátorok így valós időben látják minden egyes akkumulátorcella állapotát.
🔶 Ismét bebizonyosodik: a légkondicionálás az AI számára halott
Az OCP-n folyó diskurzus azonban nem annyira arról szólt, amit mindenki már rég tud, hanem inkább arról a váltásról, amely a „folyadékhűtés kell-e vagy sem” kérdéstől a „hogyan skálázzuk ezt tömegesen egyetlen szivárgás nélkül” felé tolódott. Váratlan helyről érkezett nagy segítség: az autóipar tapasztalataiból. A francia óriás, a Valeo alumínium hőcserélőket és vékonyfilm-hűtőlapokat hozott az adatközpontokba – olyan megoldásokat, amelyeket évtizedek óta csiszol elektromos autók akkumulátoraihoz. Könnyebbek, lényegesen olcsóbbak, és rendkívül megbízhatóak a folyadékszivárgással szemben. A közösség szigorúbb szabványokat is elfogadott a cseppmentes gyorscsatlakozókra (Quick Connectors). A különböző gyártóktól származó hűtőrendszerek így mostantól teljesen modulárisak és egymással kompatibilisek lesznek.
🔶 Az optika is halad előre: USFP
A Cisco és az NVIDIA bevezeti az USFP (Ultra-Dense Small Form Factor Pluggable) szabványt és optikai modulokat. A szabvány 4-szeres sávszélesség-sűrűséget
hoz, és lehetővé teszi, hogy lényegesen több optikai útvonalat szereljenek fel 400 Gb/s és 800 Gb/s hálózatokhoz. Emellett 30%-kal jobb wattonkénti hatékonyságot deklarálnak – ez az optimalizálás egyébként általánosan is óriási téma volt.
Lehet, hogy ma még nincs szüksége 600 kW-os rackre, de az OCP Summit trendjei mindig nagyon gyorsan megjelennek a hagyományos vállalati szegmensben is – az AI térhódításával pedig még inkább. Vajon emlékszik, mi volt újdonság az OCP Summiton tavaly?
Akár az első folyadékhűtéses szervert oldja meg, akár a hálózati és szerver-architektúra teljes frissítését tervezi a következő évre, szerveres szakembereink készen állnak, hogy segítsenek olyan megoldást tervezni, amely nem avul el.