上周,在中國信通院的引領(lǐng)下,ODCC春季全員大會在風光秀麗的揚州舉行。大會內(nèi)容豐富,涵蓋了服務(wù)器、設(shè)施、網(wǎng)絡(luò)、邊緣計算、新技術(shù)與測試、智能運營等多個工作組的技術(shù)研討,共計舉辦近十場,近百位行業(yè)專家進行了精彩的主題分享。作為AI網(wǎng)絡(luò)特別組及網(wǎng)絡(luò)工作組的成員,奇異摩爾積極參與大會,與業(yè)界同仁共同探討AI網(wǎng)絡(luò)互聯(lián)應(yīng)用的發(fā)展趨勢。
當前,國內(nèi)外GPU卡間互聯(lián)技術(shù)正呈現(xiàn)出多樣化的繁榮景象,不同標準、協(xié)議及產(chǎn)業(yè)鏈生態(tài)迅速發(fā)展,形成了“百家爭鳴”的格局。在本次大會上,中國移動OISA、騰訊ETH-X以及UALink生態(tài)標準分別展示了各自生態(tài)的最新進展,這一交流將有力推動國內(nèi)開放標準的快速發(fā)展,加速產(chǎn)業(yè)鏈上下游的協(xié)同創(chuàng)新。
超節(jié)點GPU互聯(lián)賦予推理大模型“滿血”性能
在DeepSeek通過算法優(yōu)化和創(chuàng)新技術(shù)顯著提高GPU利用率的大背景下,Scale-UP各生態(tài)標準組在ODCC大會期間深入探討了對推理集群中卡間互聯(lián)的HBD域需求及其重要性。與會專家詳細分析了,采用64卡H800互聯(lián)部署的DeepSeek大模型,相較于僅使用8卡GPU互聯(lián)的配置,推理效率提升了超過15%。
同時,相關(guān)專家指出,盡管國內(nèi)市場對DeepSeek一體機的需求火爆,但即便是配置了671B參數(shù)的算力,其實際在推理應(yīng)用能力上的性能發(fā)揮仍有潛力可挖。構(gòu)建由更多服務(wù)器組成的推理集群,才能真正釋放DeepSeek的完整潛能。在這一背景下,Scale-Up高效互聯(lián)技術(shù)構(gòu)建的超節(jié)點GPU互聯(lián)服務(wù)器,在提升大型推理模型的性能效率方面展現(xiàn)出顯著優(yōu)勢。
奇異摩爾積極推動OISA Chiplet生態(tài)適配
去年6月由中國移動創(chuàng)新提出的全向智感互聯(lián)架構(gòu)(OISA)旨在構(gòu)建一個高效、智能、靈活且開放的GPU卡間互聯(lián)系統(tǒng),特別針對大模型訓練、推理及高性能計算等數(shù)據(jù)密集型AI應(yīng)用進行優(yōu)化。其全向連接設(shè)計確保了大規(guī)模GPU之間能夠進行對等通信,而智能感知功能則通過定義流量感知標簽,在提升數(shù)據(jù)傳輸效率的同時,增強了鏈路的遙測和可視化能力。同時,OISA從帶寬、時延及無損三個層次所對應(yīng)的事物層、數(shù)據(jù)層以及物理層進行全面架構(gòu)的更新,更高效地支持張量并行和專家并行,對Dense模型及MoE專家稀疏化模型均有較大幫助。

(來源:OISA)
奇異摩爾作為OISA的重要聯(lián)盟成員正在全力推進OISA Chiplet技術(shù)的協(xié)同與適配。在OISA GPU技術(shù)標準化的過程中,生態(tài)在協(xié)議層預留可擴展接口與現(xiàn)有生態(tài)兼容。GPU內(nèi)部GPU Die通過與奇異摩爾的NDSA-G2G (又稱GPU I/O Die)集成共封,GPU Die與I/O Die接口通過與UCIe標準兼容,允許通過先進封裝技術(shù)實現(xiàn)OISA體系的互聯(lián)集成,最終實現(xiàn)生態(tài)內(nèi)不同GPU 通過I/O Die完成卡間互聯(lián)。

(圖:Kiwi NDSA-G2G)
2024年,中國移動算力計劃資本開支475億元,同比增長21.5%;2025年算力領(lǐng)域投資預計達373億元,占資本開支的25%,重點投向智算資源(FP16算力超34EFLOPS)和推理資源(根據(jù)市場需求不設(shè)上限)。
奇異摩爾的NDSA-G2G以Chiplet形態(tài)為OISA生態(tài)賦能,構(gòu)建更大規(guī)模的超級節(jié)點Domain,助力中國移動智算中心在國內(nèi)形成完整的算力閉環(huán)。
展望未來,預計OISA將在年中發(fā)布相關(guān)協(xié)議的白皮書。屆時,奇異摩爾將作為白皮書中的關(guān)鍵Chiplet技術(shù)貢獻者,為整個生態(tài)貢獻其專業(yè)知識和力量。
隨著大模型MoE架構(gòu)和萬億參數(shù)模型過渡為常態(tài),超節(jié)點互聯(lián)正從"可選方案"進化為"必選項"。奇異摩爾正積極攜手與國內(nèi)國外主流Scale Up生態(tài)(ETH-X, OISA, UAlink)共同打造更開放、兼容的下一代互聯(lián)標準。當前,AI基礎(chǔ)設(shè)施已進入“規(guī)模算力”與“高效互聯(lián)”雙輪驅(qū)動的新階段。奇異摩爾將持續(xù)攜手產(chǎn)業(yè)伙伴,以開放生態(tài)加速超節(jié)點互聯(lián)技術(shù)的商業(yè)化進程,助力全球AI產(chǎn)業(yè)突破算力瓶頸,邁向更智能的未來。
關(guān)于我們
AI網(wǎng)絡(luò)全棧式互聯(lián)架構(gòu)產(chǎn)品及解決方案提供商
奇異摩爾,成立于2021年初,是一家行業(yè)領(lǐng)先的AI網(wǎng)絡(luò)全棧式互聯(lián)產(chǎn)品及解決方案提供商。公司依托于先進的高性能RDMA 和Chiplet技術(shù),創(chuàng)新性地構(gòu)建了統(tǒng)一互聯(lián)架構(gòu)——Kiwi Fabric,專為超大規(guī)模AI計算平臺量身打造,以滿足其對高性能互聯(lián)的嚴苛需求。
我們的產(chǎn)品線豐富而全面,涵蓋了面向不同層次互聯(lián)需求的關(guān)鍵產(chǎn)品,如面向北向Scale out網(wǎng)絡(luò)的AI原生智能網(wǎng)卡、面向南向Scale up網(wǎng)絡(luò)的GPU片間互聯(lián)芯粒、以及面向芯片內(nèi)算力擴展的2.5D/3D IO Die和UCIe Die2Die IP等。這些產(chǎn)品共同構(gòu)成了全鏈路互聯(lián)解決方案,為AI計算提供了堅實的支撐。
奇異摩爾的核心團隊匯聚了來自全球半導體行業(yè)巨頭如NXP、Intel、Broadcom等公司的精英,他們憑借豐富的AI互聯(lián)產(chǎn)品研發(fā)和管理經(jīng)驗,致力于推動技術(shù)創(chuàng)新和業(yè)務(wù)發(fā)展。團隊擁有超過50個高性能網(wǎng)絡(luò)及Chiplet量產(chǎn)項目的經(jīng)驗,為公司的產(chǎn)品和服務(wù)提供了強有力的技術(shù)保障。我們的使命是支持一個更具創(chuàng)造力的芯世界,愿景是讓計算變得簡單。奇異摩爾以創(chuàng)新為驅(qū)動力,技術(shù)探索新場景,生態(tài)構(gòu)建新的半導體格局,為高性能AI計算奠定穩(wěn)固的基石。
-
gpu
+關(guān)注
關(guān)注
28文章
5053瀏覽量
134036 -
chiplet
+關(guān)注
關(guān)注
6文章
475瀏覽量
13421 -
奇異摩爾
+關(guān)注
關(guān)注
0文章
69瀏覽量
3928
原文標題:生態(tài)共建 | 奇異摩爾以互聯(lián)之長推進OISA GPU卡間互聯(lián)生態(tài)適配
文章出處:【微信號:奇異摩爾,微信公眾號:奇異摩爾】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
奇異摩爾助力中國移動GSE 2.5版本協(xié)議標準發(fā)布
云天勵飛正式加入OISA生態(tài)
奇異摩爾Networking for AI生態(tài)沙龍成功舉辦
奇異摩爾助力OISA全向智感互聯(lián)IO芯粒技術(shù)白皮書發(fā)布
奇異摩爾攜手中國移動發(fā)布OISA 2.0協(xié)議
奇異摩爾田陌晨榮獲中國半導體行業(yè)領(lǐng)軍人物獎
AS32S601 芯片在衛(wèi)星互聯(lián)網(wǎng)推進系統(tǒng)中的技術(shù)適配性研究
認識 Thread 協(xié)議的互聯(lián)能力
Intel-Altera FPGA:通信行業(yè)的加速引擎,開啟高速互聯(lián)新時代
奇異摩爾受邀出席第三屆HiPi Chiplet論壇
衢州市領(lǐng)導蒞臨奇異摩爾考察調(diào)研
摩爾線程完成DeepSeek開源庫FlashMLA和DeepGEMM適配
奇異摩爾分享計算芯片Scale Up片間互聯(lián)新途徑
回顧:奇異摩爾@ ISCAS 2024 :聚焦互聯(lián)技術(shù)與創(chuàng)新實踐

奇異摩爾以互聯(lián)之長推進OISA GPU卡間互聯(lián)生態(tài)適配
評論