網(wǎng)易科技8月25日報道近日,浪潮信息正式發(fā)布大模型智算軟件棧 OGAI。OGAI (Open GenAI Infra)“元腦生智”,是為大模型業(yè)務(wù)提供AI算力系統環(huán)境部署、算力調度保障及模型開(kāi)發(fā)管理能力的全棧全流程的智算軟件棧。
據介紹,OGAI由5層架構組成,從L0到L4分別對應基礎設施層的智算中心OS、系統環(huán)境層的PODsys、調度平臺層的AIStation、模型工具層的YLink和多模納管層的MModel。
記者獲悉,L0層智算中心OS為面向大模型算力服務(wù)的智能算力運管平臺,滿(mǎn)足多租戶(hù)以裸金屬為主的彈性AI算力運管需求;L1層PODsys則為開(kāi)源、兼容、易用的智算集群系統環(huán)境部署方案;L2層AIStation是面向大模型開(kāi)發(fā)的商業(yè)化人工智能算力調度平臺;L3層YLink是面向大模型數據治理、預訓練、微調的工具鏈;L4層MModel是提供多模型接入、服務(wù)、評測等功能的納管平臺。(江淼)