精品国产成人免费观看_久久精品国产亚洲av日韩一_午夜免费啪视频在线男女网站_免费看亚洲高清毛片_涩涩成人免费视频_草莓视频app在线下载丝瓜_国产成AV人在线观看天堂无码_丁香五月天婷婷基地_欧美V成 人在线观看_天堂色妞丁香久久久

24小時(shí)故障咨詢電話 點(diǎn)擊右邊熱線,在線解答故障撥打:400-186-5909
新2025澳門天天開好彩,7777888888精準(zhǔn)免費(fèi)四肖_模型推理推動(dòng)算力需求百倍增長(zhǎng),國(guó)產(chǎn)廠商如何進(jìn)行AI基建?|界面新聞 · 科技

新2025澳門天天開好彩,7777888888精準(zhǔn)免費(fèi)四肖

全國(guó)報(bào)修熱線:400-186-5909

更新時(shí)間:

新2025澳門天天開好彩,新能源企業(yè)推出創(chuàng)新環(huán)保材料解決方案







新2025澳門天天開好彩,7777888888精準(zhǔn)免費(fèi)四肖:(1)400-186-5909(點(diǎn)擊咨詢)(2)400-186-5909(點(diǎn)擊咨詢)









新2025澳門天天開好彩,新澳2025最精準(zhǔn)正最精準(zhǔn)(1)400-186-5909(點(diǎn)擊咨詢)(2)400-186-5909(點(diǎn)擊咨詢)





新2025澳門天天開好彩,探索未知領(lǐng)域獲取獨(dú)家信息指南

新2025澳門天天開好彩,科技賦能未來生活新篇章









維修日志記錄,便于追溯與改進(jìn):我們?yōu)槊颗_(tái)維修的家電建立詳細(xì)的維修日志,記錄維修過程、更換配件等信息,便于后續(xù)追溯和服務(wù)質(zhì)量改進(jìn)。




新2025澳門天天開好彩,新門內(nèi)部資料免費(fèi)提供









新2025澳門天天開好彩,探索未知領(lǐng)域的精彩發(fā)現(xiàn)之旅

 武威市涼州區(qū)、直轄縣仙桃市、宜賓市敘州區(qū)、蕪湖市弋江區(qū)、武漢市漢南區(qū)、福州市閩清縣、煙臺(tái)市萊州市、榆林市子洲縣、贛州市信豐縣、煙臺(tái)市牟平區(qū)





晉城市陵川縣、保山市龍陵縣、太原市杏花嶺區(qū)、廣西來賓市金秀瑤族自治縣、內(nèi)蒙古呼倫貝爾市海拉爾區(qū)









昭通市鹽津縣、甘南碌曲縣、南通市啟東市、吉林市昌邑區(qū)、本溪市溪湖區(qū)、南京市浦口區(qū)









九江市濂溪區(qū)、撫州市樂安縣、濰坊市臨朐縣、臺(tái)州市溫嶺市、普洱市景東彝族自治縣、甘孜石渠縣









昭通市大關(guān)縣、伊春市大箐山縣、杭州市下城區(qū)、昆明市嵩明縣、黃岡市蘄春縣









宜昌市伍家崗區(qū)、濱州市沾化區(qū)、溫州市龍港市、宜昌市宜都市、海東市樂都區(qū)、懷化市辰溪縣、廣西南寧市興寧區(qū)、五指山市毛陽、新鄉(xiāng)市衛(wèi)輝市、周口市川匯區(qū)









德陽市旌陽區(qū)、佳木斯市同江市、邵陽市邵東市、臨汾市永和縣、甘南瑪曲縣









晉中市榆社縣、三明市大田縣、濰坊市諸城市、佳木斯市前進(jìn)區(qū)、內(nèi)蒙古烏蘭察布市涼城縣









江門市開平市、杭州市建德市、邵陽市隆回縣、西安市周至縣、延邊延吉市









上海市松江區(qū)、運(yùn)城市河津市、大連市沙河口區(qū)、銅陵市銅官區(qū)、嘉興市桐鄉(xiāng)市、寶雞市渭濱區(qū)、洛陽市偃師區(qū)、內(nèi)蒙古呼倫貝爾市扎蘭屯市









嘉興市嘉善縣、內(nèi)江市資中縣、漳州市龍文區(qū)、涼山雷波縣、銅仁市萬山區(qū)、大連市莊河市、濟(jì)南市商河縣









六盤水市六枝特區(qū)、淄博市周村區(qū)、楚雄雙柏縣、開封市杞縣、隴南市兩當(dāng)縣、安陽市殷都區(qū)、西安市閻良區(qū)、內(nèi)蒙古呼和浩特市賽罕區(qū)、咸陽市渭城區(qū)









鶴壁市??h、安陽市北關(guān)區(qū)、濮陽市南樂縣、屯昌縣屯城鎮(zhèn)、杭州市淳安縣、遵義市仁懷市、南昌市南昌縣、內(nèi)蒙古通遼市庫倫旗









大連市金州區(qū)、周口市扶溝縣、本溪市桓仁滿族自治縣、南陽市新野縣、淄博市桓臺(tái)縣、深圳市羅湖區(qū)、安慶市潛山市、朝陽市北票市、昌江黎族自治縣石碌鎮(zhèn)









威海市榮成市、恩施州恩施市、溫州市洞頭區(qū)、蘭州市安寧區(qū)、德州市陵城區(qū)、黔東南黃平縣、三亞市崖州區(qū)、常德市桃源縣、漢中市寧強(qiáng)縣









巴中市平昌縣、重慶市榮昌區(qū)、龍巖市長(zhǎng)汀縣、雞西市滴道區(qū)、麗水市景寧畬族自治縣、臨高縣臨城鎮(zhèn)









阿壩藏族羌族自治州松潘縣、潮州市潮安區(qū)、茂名市信宜市、遵義市赤水市、蚌埠市龍子湖區(qū)

模型推理推動(dòng)算力需求百倍增長(zhǎng),國(guó)產(chǎn)廠商如何進(jìn)行AI基建?|界面新聞 · 科技

界面新聞?dòng)浾?| 李彪

界面新聞編輯 | 文姝琪

2025年是AI行業(yè)公認(rèn)的“推理之年”。

在今年英偉達(dá)的GTC開發(fā)者大會(huì)上,黃仁勛演講提到,隨著OpenAI o1、DeepSeek R1等推理模型的推廣應(yīng)用,市場(chǎng)將需要更多AI芯片作算力支撐。AI推理已代替模型訓(xùn)練成為了推動(dòng)了算力需求增長(zhǎng)的主力,規(guī)模增長(zhǎng)能“輕松超過去年估計(jì)的100倍”。

而受限于美國(guó)對(duì)華的芯片禁令限制及國(guó)產(chǎn)GPU單卡性能不足的差距,國(guó)內(nèi)廠商在算力供給上長(zhǎng)期走集群化路線,即將多個(gè)芯片通過特定技術(shù)連接整合在成單個(gè)的“超節(jié)點(diǎn)”。在數(shù)據(jù)中心內(nèi)部,多個(gè)超節(jié)點(diǎn)形成一個(gè)集群系統(tǒng),以滿足對(duì)大規(guī)模算力需求較高的任務(wù)。

模型推理推動(dòng)算力需求百倍增長(zhǎng),國(guó)產(chǎn)廠商如何進(jìn)行AI基建?|界面新聞 · 科技

在近日華為舉辦的鯤鵬昇騰開發(fā)者大會(huì)上,公司對(duì)外宣布,其搭建的“昇騰384超節(jié)點(diǎn)”已是業(yè)內(nèi)最大規(guī)模的算力集群超節(jié)點(diǎn)。該超節(jié)點(diǎn)利用華為的高速互聯(lián)總線技術(shù),將384張昇騰AI GPU芯片連接起來,并在內(nèi)存帶寬、存儲(chǔ)容量、高速互聯(lián)網(wǎng)絡(luò)等技術(shù)上進(jìn)行了大幅調(diào)優(yōu)。

華為云則在超節(jié)點(diǎn)基礎(chǔ)上進(jìn)一步推出CloudMatrix 384。官方信息顯示,CloudMatrix 384 單集群算力已經(jīng)達(dá)到300 PFlops,總規(guī)模已與英偉達(dá)NVL72大致相當(dāng)(以業(yè)內(nèi)常用的半精度浮點(diǎn)數(shù)F16標(biāo)準(zhǔn)衡量,NVL72是將72張B200GPU連在一起)。

據(jù)華為昇騰計(jì)算業(yè)務(wù)總裁張迪煊介紹,相比于上一代Atlas A2,基于昇騰384超節(jié)點(diǎn)的Atlas A3模型訓(xùn)練性能提升已達(dá)3倍。同時(shí),由于采用了新的總線高速互聯(lián)技術(shù)后,超節(jié)點(diǎn)通信帶寬提升了15倍、通信時(shí)延降低了10倍。

而相比于訓(xùn)練,隨著推理在算力需求所占的比重越來越大,算力集群針對(duì)推理的優(yōu)化也變得越來越重要。

隨著基于強(qiáng)化學(xué)習(xí)的“長(zhǎng)思考”(Deep Thinking)功能與智能體應(yīng)用(AI Agent)的集中落地,AI模型需要處理的任務(wù)更復(fù)雜,“思考”過程更長(zhǎng),需要更長(zhǎng)時(shí)間和復(fù)雜計(jì)算過程來得出推理結(jié)果。

模型推理推動(dòng)算力需求百倍增長(zhǎng),國(guó)產(chǎn)廠商如何進(jìn)行AI基建?|界面新聞 · 科技

國(guó)內(nèi)廠商為滿足這部分的算力需求,同時(shí)實(shí)現(xiàn)“更大吞吐量”(AI模型一次能同時(shí)處理更多任務(wù))和“更低延遲”(一次任務(wù)所需時(shí)間更短),是行業(yè)待解決的關(guān)鍵問題。

張迪煊稱,DeepSeek在業(yè)內(nèi)帶火的MOE(混合專家)架構(gòu)目前已經(jīng)是業(yè)內(nèi)模型主流架構(gòu),而MOE包含上百個(gè)專家網(wǎng)絡(luò)的調(diào)度,實(shí)現(xiàn)大規(guī)模專家并行是行業(yè)解決AI模型吞吐量和延遲問題的核心。

而昇騰384節(jié)點(diǎn)針對(duì)MOE所做的優(yōu)化設(shè)計(jì),在業(yè)內(nèi)率先實(shí)現(xiàn)了“一卡一專家”,最終做到了15ms的低時(shí)延,單卡吞吐量是業(yè)界集群的4倍以上。

在全球范圍內(nèi),今年的算力基建擴(kuò)張有增無減。近期,在美國(guó)總統(tǒng)特朗普訪問沙特阿拉伯期間,英偉達(dá)、AMD均宣布與當(dāng)?shù)毓具_(dá)成百億美元大單,將在當(dāng)?shù)匚磥砦迥陜?nèi)建設(shè)人工智能數(shù)據(jù)中心工廠,涉及“數(shù)十萬張GPU卡”規(guī)模的算力集群建設(shè)。Meta、特斯拉、微軟與谷歌也在建設(shè)新的十萬卡規(guī)模數(shù)據(jù)中心。

國(guó)產(chǎn)廠商也在加快建設(shè)步伐。張迪煊在大會(huì)上表示,華為目前將多個(gè)昇騰384超節(jié)點(diǎn)組合在一起,已經(jīng)可以支持10萬卡集群的算力需求。

相關(guān)推薦: