Huawei lansează OceanStor M900 pentru a rezolva criza memoriei în AI

Cum redefinește OceanStor M900 arhitectura inteligenței artificiale?

Huawei a anunțat marți că noul său sistem de stocare OceanStor M900 vine să rezolve lipsa acută de memorie din timpul rulării sarcinilor de inteligență artificială. Compania spune că platforma, botezată Context Memory Storage, a fost gândită special pentru a reduce costurile și a urca performanța modelelor gigantice folosite în conversații extinse și procese complexe.

Lansarea a avut loc la sediul central al companiei din Shenzhen, iar directorii executivi au atras atenția că problema a devenit urgentă pe măsură ce aplicațiile AI devin tot mai lacome de resurse.

Blocajul vine din nevoia de a ține în memorie rapidă o cantitate uriașă de parametri și date intermediare în timpul procesului de inferență. Memoria plăcilor video este limitată, așa că dezvoltatorii sunt nevoiți să mute datele spre stocare mai lentă, ceea ce crește timpii de OceanStor M900 de la Huawei împerechează flash-ul de mare capacitate cu un algoritm propriu de cache care ține datele de context cel mai des accesate aproape de unitățile de calcul.

Va accelera OceanStor M900 ascensiunea agenților autonomi?

Așa se face că sistemul taie din schimburile costisitoare de memorie și urcă viteza de transfer pentru modelele care sar de 100 GB. Testele timpurii arată o scădere de până la 30 la sută a latenței pentru modelele mari de limbaj, comparativ cu configurațiile clasice.

Noua platformă aduce la pachet o ierarhie de stocare pe niveluri care mută automat datele între SSD-uri NVMe și buffere DRAM de mare viteză, în funcție de cum sunt folosite în timp real. Inginerii Huawei susțin că soluția poate urca până la nivelul petabytes-ilor pentru stocarea contextului, menținând timpi de acces de sub o milisecundă.

„Am construit OceanStor M900 ca să lăsăm dezvoltatorii de AI să se concentreze pe inovație, nu să se lupte cu limitele hardware-ului”, a declarat Li Wei, șeful diviziei de infrastructură AI din cadrul companiei.

Totodată, gigantul tech a pus la dispoziție și un kit software (SDK) prin care programatorii pot eticheta datele esențiale de inferență, dând voie sistemului să le pună primele în cache.

Ce aduce nou sistemul față de soluțiile actuale?

În teste comparative făcute cu un model de tip transformer cu 175 de miliarde de parametri, M900 a tăiat costul total al inferenței cu aproximativ 25 la sută, conform datelor interne.

Analiștii din industrie văd această bornă în stocare drept un scânteI pentru o adoptare masivă a agenților autonomi în relația cu clienții, în finanțe sau în robotică. Când scazi presiunea pe memorie, companiile pot rula modele mai mari și mai inteligente fără să fie nevoite să facă upgrade-uri hardware uriașe.

„Dacă poți stoca mai mult context conversațional pe bani puțini, ai parte de interacțiuni mai bogate și trimiți mai puține cazuri spre operatorii umani”, a punctat Maya Patel, analist senior la TechInsights.

Se poate integra sistemul cu framework-uri non-Huawei?

Totuși, unii experți avertizează că stocarea singură nu rezolvă toate bătăliile legate de scalare; lățimea de bandă a rețelei și eficiența de calcul rămân vitale.

Huawei plănuiește parteneriate cu mari jucători de cloud ca să bage M900 direct în conductele AI existente, făcând tehnologia accesibilă și firmelor care n-au infrastructură proprie la fața locului.

Apariția lui OceanStor M900 ar putea răsturna calculele economice din spatele inferenței AI, deschizând ușa pentru ca mai multe organizații să ruleze modele sofisticate la scară largă. Pe măsură ce AI-ul depășește faza întrebărilor simple și trece la discuții lungi, cu mai multe întorsături, foamea de stocare eficientă pentru context nu va face decât să crească.

Această mișcare a celor de la Huawei ar putea împinge concurența să își accelereze propriile inovații de stocare, dând startul unui nou val de colaborare între hardware și software în universul inteligenței artificiale.

Când va fi disponibil noul OceanStor M900 pentru clienți?

M900 folosește o arhitectură dinamică pe niveluri care combină stocarea flash de talia petabytes-ilor cu un cache DRAM inteligent, tăind atât latența, cât și costurile pentru inferența modelelor uriașe.

Da, Huawei oferă un SDK compatibil cu platforme populare precum TensorFlow, PyTorch sau ONNX, ceea ce dă mână liberă la implementări pe mai multe medii.

Huawei se așteaptă ca produsul să intre pe piață în al doilea trimestru din 2027, programele de acces timpuriu fiind deja deschise pentru parteneri de afaceri selectați.