創(chuàng )新服務(wù)器系統設計 浪潮信息發(fā)布融合架構3.0

日前,在第五屆OCP China Day 2023(開(kāi)放計算中國技術(shù)峰會(huì ))上,浪潮信息正式推出融合架構3.0原型系統,以開(kāi)創(chuàng )性的系統架構設計實(shí)現了計算資源、存儲資源、內存資源、異構加速資源等核心IT資源徹底解耦與池化,支持池化資源異步升級、支持細粒度多主機共享高并發(fā)存儲、亞微秒級遠端內存共享訪(fǎng)問(wèn)等特性,可通過(guò)軟件定義實(shí)現“一套系統,N類(lèi)應用”,有效緩解當前數據中心“內存墻”、“I/O墻”、“功耗墻”等瓶頸。

融合架構3.0原型系統的發(fā)布,將有望發(fā)展出一種全解耦、全池化、高可擴展、易部署、易管理的新型硬件基礎架構,實(shí)現軟硬高度協(xié)同,加速數據中心釋放數字生產(chǎn)力,促進(jìn)數字經(jīng)濟發(fā)展以及與實(shí)體經(jīng)濟的深度融合。

智算時(shí)代,計算體系架構亟待突破

當前,數字化、智能化轉型已成為企業(yè)發(fā)展、科研創(chuàng )新和社會(huì )治理的剛性需求,也催生了云計算、大數據、人工智能等數字技術(shù)的蓬勃發(fā)展。然而,越來(lái)越多樣化的應用對底層硬件資源的需求存在差異,導致使用傳統架構的云、數、智、邊、端等各類(lèi)技術(shù)平臺彼此獨立,硬件資源難以共享復用,造成資源浪費的同時(shí)也使得運維管理難度激增。

比如,以大模型為代表的AIGC技術(shù)需要基于海量數據集,在擁有成百上千AI加速卡的集群上對千億級參數的AI大模型進(jìn)行分布式訓練,對異構算力的需求更高;科學(xué)計算要求更高的計算精度,對通用算力的需求更高;內存計算則希望讓更多應用程序的數據駐留在內存之中,使得數據和算力更接近,以提高處理速率,對內存容量要求更高。但傳統架構下,IT資源的擴展是以整機形態(tài)來(lái)完成的,即便用戶(hù)亟需的是某種特定資源,但仍然需要為整機附帶的額外資源付費,這勢必增加了IT支出并造成資源閑置浪費。

與此同時(shí),在算力供給側摩爾定律逐漸放緩和登納德縮放定律走向終結,現有的計算體系架構先天性不足被成倍放大,數據中心計算體系架構的創(chuàng )新已迫在眉睫。

浪潮信息服務(wù)器產(chǎn)品線(xiàn)總經(jīng)理趙帥表示:“當前數據中心遇到的‘內存墻’、‘I/O墻’、‘功耗墻’等現象,并不是孤立存在,它們是現有計算體系架構不足放大后的體現。只有通過(guò)計算體系架構的整體創(chuàng )新,才能徹底解決各種瓶頸帶來(lái)的挑戰。”

融合架構3.0:以數據為中心的新架構

在此背景下,浪潮信息推出融合架構3.0原型系統,打破了以往“以CPU為中心”的設計理念,而是從整體出發(fā),通過(guò)系統架構創(chuàng )新解耦重構服務(wù)器系統,突破性實(shí)現了計算資源、存儲資源、內存資源、異構加速資源等核心IT資源徹底解耦與池化,可支持多種通用處理器平臺與GPU、FPGA、DPU等多種異構加速單元的協(xié)同計算,并可通過(guò)軟件定義實(shí)現資源協(xié)同動(dòng)態(tài)調度。

這種基于硬件重構技術(shù)而開(kāi)發(fā)的新一代基礎架構,將實(shí)現更加自由的資源隨需定義,為上層軟件定義系統提供更出色的靈活性,使其能夠根據應用特點(diǎn),以高度自動(dòng)化的方式分配與重新配置硬件資源,不再受到非動(dòng)態(tài)設置的硬件基礎設施的限制,讓數據中心內部的人工智能、科學(xué)計算、云計算、大數據等各類(lèi)應用統一運行于同一架構之上,實(shí)現多技術(shù)平臺融合,加速業(yè)務(wù)創(chuàng )新及數字化轉型。

與傳統的CPU為中心的計算架構不同,融合架構3.0原型系統以數據為中心,實(shí)現計算節點(diǎn)內部各種算力芯片共享內存數據、統一編址和協(xié)同工作;在跨節點(diǎn)之間則通過(guò)智能數據處理單元和高速網(wǎng)絡(luò )形成分布式互連交換,實(shí)現CPU、GPU、FPGA等各種加速芯片的算力協(xié)同以及內存池化、新型存儲資源池化,具有節點(diǎn)間的數據訪(fǎng)問(wèn)延遲極低,支持高效彈性擴展等優(yōu)勢。此外,融合架構系統可以實(shí)現更為靈活的資源重構,為人工智能、大數據等多種應用場(chǎng)景提供強大的算力支撐。

內存解耦與池化一直是業(yè)界的熱點(diǎn)與難點(diǎn),隨著(zhù)以CXL為代表的串行緩存一致性總線(xiàn)的出現,給主機和遠端共享內存之間提供了低延時(shí)的訪(fǎng)問(wèn)路徑以及緩存一致性保證,為大規模內存擴展與內存資源池化提供了可能。融合架構3.0原型系統突破內存解耦池化關(guān)鍵技術(shù),研制新型應用串行緩存一致性總線(xiàn)及其交換技術(shù)的內存模組和內存池化系統,保障主機系統對大容量、高帶寬內存的應用需求。

趙帥介紹,融合架構3.0原型系統首創(chuàng )JBOM獨立內存資源池設計,創(chuàng )新實(shí)現高密度內存擴展方案,主機系統遠端內存擴展技術(shù)領(lǐng)先業(yè)界。通過(guò)軟件定義系統設計及CXL高性能交換技術(shù),率先實(shí)現內存資源池化與細粒度多主機共享。

系統互連設計方面,解耦與池化帶來(lái)了新的互連挑戰,整系統通過(guò)設計供電控制、復位、時(shí)鐘鎖定等協(xié)同工作方式實(shí)現解耦單元整體運行。此外,隨著(zhù)數據速率的不斷攀升和系統鏈路變得更加復雜,解耦池化系統互連鏈路互連延展已經(jīng)接近極限,系統針對復雜鏈路高速互連進(jìn)行高精度的擬合仿真研究,準確分析系統互連鏈路多樣化拓撲和傳輸速率的極限。

此外,融合架構3.0原型系統開(kāi)發(fā)軟件定義管理系統,實(shí)現拓撲切換、端口動(dòng)態(tài)管理、多主機資源共享與資源動(dòng)態(tài)分區等高級功能;開(kāi)發(fā)資源管理軟件,實(shí)現設備利用率監控、設備分配情況配置與管理、I/O吞吐量監控和鏈路健康診斷,保障主機系統硬件資源的動(dòng)態(tài)部署與高效管理。

趙帥表示:“融合架構3.0原型系統效率可比上一代軟件虛擬化系統提升一到兩個(gè)數量級,可擴展性提高2~4倍,系統延時(shí)降低90%,PUE低于1.1。隨著(zhù)數字經(jīng)濟、人工智能持續發(fā)展,企業(yè)的各項業(yè)務(wù)越來(lái)越依賴(lài)數據及其價(jià)值,算力技術(shù)也需要不斷演進(jìn),融合架構3.0原型系統的發(fā)布,有助于企業(yè)提升數據管理效率,最大化釋放數據價(jià)值。”