Samsung je predstavio inovativni SOCAMM2 LPDDR5X memorijski modul namenjen AI data centrima. Ovaj modul donosi ključne prednosti LPDDR5X memorije u servere, uključujući nižu potrošnju energije i dvostruko veći propusni opseg u poređenju sa standardnim DDR5 RDIMM modulima, a sve to bez problema spajkane memorije koja otežava održavanje.
Zašto LPDDR ulazi u data centre?
LPDDR memorija je dugo bila rezervisana za pametne telefone zbog svoje niske potrošnje i efikasnog upravljanja energijom. U serverima je bila problematična jer se obično spajka direktno na ploču, što komplizuje nadogradnje i popravke. SOCAMM2 rešava to tako što pakuje LPDDR5X čipove u skidivi modul sa kompresijskim priključkom, kompatibilan sa JEDEC JESD328 standardom pod CAMM2 kišobranom.
Samsung već sarađuje sa Nvidia na infrastrukturnim rešenjima zasnovanim na ovom modulu. To je odgovor na rastuće troškove energije za memoriju, ograničenja gustine i potrebe za lakšim servisiranjem u velikim AI sistemima.
Poređenje sa RDIMM i HBM
- Propusni opseg: Dvostruko veći od DDR5 RDIMM.
- Potrošnja: Niža zahvaljujući LPDDR5X naponom i bržinama.
- Veličina: Kompaktniji oblik olakšava postavljanje na ploču i hlađenje.
- Servis: Modulan dizajn dozvoljava zamenu bez menjanja cele ploče.
U AI hijerarhiji memorije, HBM je za GPU trening sa ogromnim bandwidthom, ali ograničenom kapacitetom. DDR5 DIMM su za CPU sa velikom kapacitetom, ali većom potrošnjom. SOCAMM2 popunjava jaz, idealan za inferenciju gde je efikasnost ključna.
Treba napomenuti da LPDDR5X ima veću latenciju od DDR5, ali u bandwidth-zavisnim AI zadacima to nije problem – važniji su propusni opseg i ušteda energije.
Budućnost i izazovi
SOCAMM2 podržava JEDEC standard, što osigurava podršku više proizvođača poput Microna (do 192 GB po modulu). Ovo je korak ka vendor-agnostičnim serverima. Ipak, ostaju pitanja: termalno ponašanje u gustim konfiguracijama, integritet signala na visokim brzinama i cena – LPDDR nije jeftiniji, ali ukupna ekonomija (manje hlađenja, bolja iskorišćenost) može opravdati ulaganje.
Za nas u Srbiji, gde AI data centri još uvek nisu tako rasprostranjeni, ovo je uzbudljivo – nadam se da će takve tehnologije uskoro stići i kod nas, omogućavajući efikasnije računarske centre i niže troškove za krajnje korisnike.
