精品国产成人免费观看_久久精品国产亚洲av日韩一_午夜免费啪视频在线男女网站_免费看亚洲高清毛片_涩涩成人免费视频_草莓视频app在线下载丝瓜_国产成AV人在线观看天堂无码_丁香五月天婷婷基地_欧美V成 人在线观看_天堂色妞丁香久久久

24小時(shí)故障咨詢電話 點(diǎn)擊右邊熱線,在線解答故障撥打:400-186-5909
新澳門與香港2025正版資料免費(fèi)大全資料,新澳2025最精準(zhǔn)正最精準(zhǔn)_模型推理推動(dòng)算力需求百倍增長(zhǎng),國(guó)產(chǎn)廠商如何進(jìn)行AI基建?|界面新聞 · 科技

新澳門與香港2025正版資料免費(fèi)大全資料,新澳2025最精準(zhǔn)正最精準(zhǔn)

全國(guó)報(bào)修熱線:400-186-5909

更新時(shí)間:

新澳門與香港2025正版資料免費(fèi)大全資料,2025新澳今晚最新資料







新澳門與香港2025正版資料免費(fèi)大全資料,新澳2025最精準(zhǔn)正最精準(zhǔn):(1)400-186-5909(點(diǎn)擊咨詢)(2)400-186-5909(點(diǎn)擊咨詢)









新澳門與香港2025正版資料免費(fèi)大全資料,科技賦能未來(lái)生活新體驗(yàn)(1)400-186-5909(點(diǎn)擊咨詢)(2)400-186-5909(點(diǎn)擊咨詢)





新澳門與香港2025正版資料免費(fèi)大全資料,今晚澳門必開(kāi)一肖一特

新澳門與香港2025正版資料免費(fèi)大全資料,智能家居全年無(wú)憂節(jié)能方案推薦









維修配件庫(kù)存預(yù)警機(jī)制:我們建立了配件庫(kù)存預(yù)警機(jī)制,確保常用配件庫(kù)存充足,避免維修延誤。




新澳門與香港2025正版資料免費(fèi)大全資料,全球科技創(chuàng)新峰會(huì)聚焦未來(lái)產(chǎn)業(yè)趨勢(shì)









新澳門與香港2025正版資料免費(fèi)大全資料,新澳門管家婆精準(zhǔn)大全

 衡陽(yáng)市衡南縣、渭南市韓城市、嘉峪關(guān)市新城鎮(zhèn)、梅州市大埔縣、廣西桂林市象山區(qū)、雙鴨山市尖山區(qū)、德州市陵城區(qū)、東莞市望牛墩鎮(zhèn)





直轄縣潛江市、朝陽(yáng)市建平縣、臨滄市鳳慶縣、遵義市綏陽(yáng)縣、廣元市青川縣、廣西崇左市江州區(qū)、揚(yáng)州市江都區(qū)、陽(yáng)泉市盂縣、鎮(zhèn)江市京口區(qū)









襄陽(yáng)市谷城縣、佳木斯市富錦市、哈爾濱市通河縣、邵陽(yáng)市隆回縣、駐馬店市新蔡縣、鐵嶺市清河區(qū)、哈爾濱市尚志市、濟(jì)南市濟(jì)陽(yáng)區(qū)









白沙黎族自治縣金波鄉(xiāng)、陽(yáng)泉市礦區(qū)、昆明市嵩明縣、阜新市細(xì)河區(qū)、廣西南寧市青秀區(qū)、內(nèi)蒙古鄂爾多斯市鄂托克旗









榆林市子洲縣、東莞市鳳崗鎮(zhèn)、寶雞市金臺(tái)區(qū)、嘉興市海寧市、玉樹(shù)雜多縣









內(nèi)江市東興區(qū)、岳陽(yáng)市平江縣、白沙黎族自治縣細(xì)水鄉(xiāng)、漯河市召陵區(qū)、成都市郫都區(qū)、晉城市陽(yáng)城縣









商洛市商南縣、廣西南寧市馬山縣、開(kāi)封市祥符區(qū)、德陽(yáng)市旌陽(yáng)區(qū)、九江市都昌縣、大興安嶺地區(qū)塔河縣、佳木斯市東風(fēng)區(qū)、河源市紫金縣、清遠(yuǎn)市英德市、廣西玉林市興業(yè)縣









廣西北海市鐵山港區(qū)、南京市建鄴區(qū)、南充市嘉陵區(qū)、大興安嶺地區(qū)加格達(dá)奇區(qū)、黔南甕安縣、黃山市黃山區(qū)









陵水黎族自治縣英州鎮(zhèn)、運(yùn)城市芮城縣、昌江黎族自治縣石碌鎮(zhèn)、廣西百色市那坡縣、阜陽(yáng)市潁泉區(qū)、莆田市城廂區(qū)、蕪湖市弋江區(qū)、東莞市大嶺山鎮(zhèn)、內(nèi)蒙古包頭市石拐區(qū)









寧波市象山縣、曲靖市陸良縣、直轄縣仙桃市、白城市大安市、鄭州市新密市、黃岡市羅田縣









黔南甕安縣、內(nèi)蒙古呼倫貝爾市海拉爾區(qū)、麗江市永勝縣、營(yíng)口市站前區(qū)、內(nèi)蒙古赤峰市巴林右旗、廣西南寧市青秀區(qū)、廣西崇左市天等縣、廣安市華鎣市









菏澤市鄄城縣、東方市感城鎮(zhèn)、廣西貴港市桂平市、濟(jì)寧市曲阜市、孝感市大悟縣、蘇州市姑蘇區(qū)、溫州市樂(lè)清市、廣西來(lái)賓市金秀瑤族自治縣、白城市鎮(zhèn)賚縣









萍鄉(xiāng)市蘆溪縣、通化市通化縣、黔東南丹寨縣、平?jīng)鍪徐`臺(tái)縣、上海市長(zhǎng)寧區(qū)、上饒市鄱陽(yáng)縣、北京市昌平區(qū)、甘南碌曲縣









內(nèi)蒙古烏蘭察布市化德縣、遵義市鳳岡縣、天水市麥積區(qū)、泰安市泰山區(qū)、安康市旬陽(yáng)市、廣元市利州區(qū)、陵水黎族自治縣隆廣鎮(zhèn)、漢中市佛坪縣、信陽(yáng)市平橋區(qū)、咸陽(yáng)市三原縣









巴中市平昌縣、重慶市榮昌區(qū)、龍巖市長(zhǎng)汀縣、雞西市滴道區(qū)、麗水市景寧畬族自治縣、臨高縣臨城鎮(zhèn)









廣西百色市田陽(yáng)區(qū)、遼陽(yáng)市遼陽(yáng)縣、平頂山市寶豐縣、哈爾濱市木蘭縣、常德市桃源縣









忻州市偏關(guān)縣、洛陽(yáng)市洛寧縣、內(nèi)蒙古赤峰市紅山區(qū)、咸寧市赤壁市、雞西市恒山區(qū)、隴南市武都區(qū)、深圳市羅湖區(qū)、開(kāi)封市鼓樓區(qū)

模型推理推動(dòng)算力需求百倍增長(zhǎng),國(guó)產(chǎn)廠商如何進(jìn)行AI基建?|界面新聞 · 科技

界面新聞?dòng)浾?| 李彪

界面新聞編輯 | 文姝琪

2025年是AI行業(yè)公認(rèn)的“推理之年”。

在今年英偉達(dá)的GTC開(kāi)發(fā)者大會(huì)上,黃仁勛演講提到,隨著OpenAI o1、DeepSeek R1等推理模型的推廣應(yīng)用,市場(chǎng)將需要更多AI芯片作算力支撐。AI推理已代替模型訓(xùn)練成為了推動(dòng)了算力需求增長(zhǎng)的主力,規(guī)模增長(zhǎng)能“輕松超過(guò)去年估計(jì)的100倍”。

而受限于美國(guó)對(duì)華的芯片禁令限制及國(guó)產(chǎn)GPU單卡性能不足的差距,國(guó)內(nèi)廠商在算力供給上長(zhǎng)期走集群化路線,即將多個(gè)芯片通過(guò)特定技術(shù)連接整合在成單個(gè)的“超節(jié)點(diǎn)”。在數(shù)據(jù)中心內(nèi)部,多個(gè)超節(jié)點(diǎn)形成一個(gè)集群系統(tǒng),以滿足對(duì)大規(guī)模算力需求較高的任務(wù)。

模型推理推動(dòng)算力需求百倍增長(zhǎng),國(guó)產(chǎn)廠商如何進(jìn)行AI基建?|界面新聞 · 科技

在近日華為舉辦的鯤鵬昇騰開(kāi)發(fā)者大會(huì)上,公司對(duì)外宣布,其搭建的“昇騰384超節(jié)點(diǎn)”已是業(yè)內(nèi)最大規(guī)模的算力集群超節(jié)點(diǎn)。該超節(jié)點(diǎn)利用華為的高速互聯(lián)總線技術(shù),將384張昇騰AI GPU芯片連接起來(lái),并在內(nèi)存帶寬、存儲(chǔ)容量、高速互聯(lián)網(wǎng)絡(luò)等技術(shù)上進(jìn)行了大幅調(diào)優(yōu)。

華為云則在超節(jié)點(diǎn)基礎(chǔ)上進(jìn)一步推出CloudMatrix 384。官方信息顯示,CloudMatrix 384 單集群算力已經(jīng)達(dá)到300 PFlops,總規(guī)模已與英偉達(dá)NVL72大致相當(dāng)(以業(yè)內(nèi)常用的半精度浮點(diǎn)數(shù)F16標(biāo)準(zhǔn)衡量,NVL72是將72張B200GPU連在一起)。

據(jù)華為昇騰計(jì)算業(yè)務(wù)總裁張迪煊介紹,相比于上一代Atlas A2,基于昇騰384超節(jié)點(diǎn)的Atlas A3模型訓(xùn)練性能提升已達(dá)3倍。同時(shí),由于采用了新的總線高速互聯(lián)技術(shù)后,超節(jié)點(diǎn)通信帶寬提升了15倍、通信時(shí)延降低了10倍。

而相比于訓(xùn)練,隨著推理在算力需求所占的比重越來(lái)越大,算力集群針對(duì)推理的優(yōu)化也變得越來(lái)越重要。

隨著基于強(qiáng)化學(xué)習(xí)的“長(zhǎng)思考”(Deep Thinking)功能與智能體應(yīng)用(AI Agent)的集中落地,AI模型需要處理的任務(wù)更復(fù)雜,“思考”過(guò)程更長(zhǎng),需要更長(zhǎng)時(shí)間和復(fù)雜計(jì)算過(guò)程來(lái)得出推理結(jié)果。

模型推理推動(dòng)算力需求百倍增長(zhǎng),國(guó)產(chǎn)廠商如何進(jìn)行AI基建?|界面新聞 · 科技

國(guó)內(nèi)廠商為滿足這部分的算力需求,同時(shí)實(shí)現(xiàn)“更大吞吐量”(AI模型一次能同時(shí)處理更多任務(wù))和“更低延遲”(一次任務(wù)所需時(shí)間更短),是行業(yè)待解決的關(guān)鍵問(wèn)題。

張迪煊稱,DeepSeek在業(yè)內(nèi)帶火的MOE(混合專家)架構(gòu)目前已經(jīng)是業(yè)內(nèi)模型主流架構(gòu),而MOE包含上百個(gè)專家網(wǎng)絡(luò)的調(diào)度,實(shí)現(xiàn)大規(guī)模專家并行是行業(yè)解決AI模型吞吐量和延遲問(wèn)題的核心。

而昇騰384節(jié)點(diǎn)針對(duì)MOE所做的優(yōu)化設(shè)計(jì),在業(yè)內(nèi)率先實(shí)現(xiàn)了“一卡一專家”,最終做到了15ms的低時(shí)延,單卡吞吐量是業(yè)界集群的4倍以上。

在全球范圍內(nèi),今年的算力基建擴(kuò)張有增無(wú)減。近期,在美國(guó)總統(tǒng)特朗普訪問(wèn)沙特阿拉伯期間,英偉達(dá)、AMD均宣布與當(dāng)?shù)毓具_(dá)成百億美元大單,將在當(dāng)?shù)匚磥?lái)五年內(nèi)建設(shè)人工智能數(shù)據(jù)中心工廠,涉及“數(shù)十萬(wàn)張GPU卡”規(guī)模的算力集群建設(shè)。Meta、特斯拉、微軟與谷歌也在建設(shè)新的十萬(wàn)卡規(guī)模數(shù)據(jù)中心。

國(guó)產(chǎn)廠商也在加快建設(shè)步伐。張迪煊在大會(huì)上表示,華為目前將多個(gè)昇騰384超節(jié)點(diǎn)組合在一起,已經(jīng)可以支持10萬(wàn)卡集群的算力需求。

相關(guān)推薦: