大模型興起導(dǎo)致算力緊張?專(zhuān)家呼吁:國(guó)產(chǎn)AI芯片系統(tǒng)應(yīng)練好“內(nèi)功”
大模型興起導(dǎo)致算力緊張?專(zhuān)家呼吁——
國(guó)產(chǎn)AI芯片系統(tǒng)應(yīng)練好“內(nèi)功”
本報(bào)記者 張佳星
“大模型訓(xùn)練需要大量數(shù)據(jù),因此對(duì)算力的要求很高。”在日前召開(kāi)的首屆“AI Tech Day(人工智能科技日)”峰會(huì)上,中國(guó)工程院院士、清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系教授鄭緯民介紹,自去年12月份以來(lái),大模型需要的AI芯片漲價(jià)一倍,國(guó)外芯片“一卡難求”。盡管?chē)?guó)內(nèi)數(shù)十家公司在AI芯片研制和生產(chǎn)方面取得了很大進(jìn)步,但國(guó)產(chǎn)芯片尚未受到市場(chǎng)的廣泛青睞。
對(duì)此,與會(huì)專(zhuān)家呼吁,解決算力難題,應(yīng)重塑大模型算力生態(tài),助力國(guó)產(chǎn)AI芯片系統(tǒng)練好“內(nèi)功”。
加強(qiáng)底層研發(fā),提升國(guó)產(chǎn)AI芯片“包容力”
“如果基于國(guó)外芯片編寫(xiě)的軟件能夠很容易移植到我們的國(guó)產(chǎn)芯片系統(tǒng)上來(lái),用戶就會(huì)感覺(jué)到國(guó)產(chǎn)芯片好用?!编嵕暶裾J(rèn)為,但由于生態(tài)建設(shè)不完備,目前國(guó)產(chǎn)芯片在大模型訓(xùn)練相關(guān)軟件移植方面表現(xiàn)不太順暢,因此需要進(jìn)一步加強(qiáng)底層研發(fā),做好包括編程框架、并行加速、通信庫(kù)在內(nèi)的軟件研發(fā)工作。
“為了發(fā)展AI芯片的生態(tài)體系,一些國(guó)際大企業(yè)甚至可以放棄一些高利潤(rùn)的項(xiàng)目和方案?!庇⒉?shù)科CEO周韡韡介紹,營(yíng)造生態(tài)需要發(fā)動(dòng)整個(gè)行業(yè)的創(chuàng)新力量,例如國(guó)際企業(yè)曾通過(guò)主動(dòng)開(kāi)源部分軟件的底層代碼、讓利給基于芯片的軟件開(kāi)發(fā)者,形成以AI芯片為核心的算力體系。
相較于芯片本身的硬件性能提升,鄭緯民認(rèn)為,通過(guò)營(yíng)造生態(tài),提升國(guó)產(chǎn)AI芯片的“包容力”更加急迫?!叭绻懔ι鷳B(tài)做得非常好,即使國(guó)產(chǎn)芯片的硬件性能只有國(guó)外性能的60%及以上,大家也會(huì)喜歡用?!编嵕暶裾f(shuō),但如果算力生態(tài)沒(méi)做好,新型軟件跑不起來(lái)、軟件移植不順暢,即便硬件性能達(dá)到國(guó)外的120%,照樣難以轉(zhuǎn)變?yōu)橛行懔Α?/p>
為凝聚行業(yè)力量、改變當(dāng)前的大模型算力生態(tài),英博數(shù)科聯(lián)合百川智能、中國(guó)計(jì)算機(jī)學(xué)會(huì)、清華大學(xué)等單位共同成立北京AI創(chuàng)新賦能中心技術(shù)委員會(huì)。作為該技術(shù)委員會(huì)的顧問(wèn),清華大學(xué)電子工程系教授汪玉表示:“在大模型領(lǐng)域,我們將同時(shí)從軟件側(cè)和硬件側(cè)方面開(kāi)展聯(lián)合優(yōu)化。在打造通用型人工智能服務(wù)平臺(tái)的同時(shí),推動(dòng)高性能計(jì)算領(lǐng)域智能芯片和高模態(tài)電路關(guān)鍵技術(shù)的研發(fā)?!?/p>
共建基礎(chǔ)生態(tài),推動(dòng)現(xiàn)有算力融合創(chuàng)新
“大模型興起之前建設(shè)的算力,相對(duì)而言利用率較低,跟不上現(xiàn)階段大模型對(duì)算力指數(shù)級(jí)發(fā)展的需求。”艾瑞咨詢產(chǎn)業(yè)數(shù)字化研究院負(fù)責(zé)人徐樊磊介紹,為提升整體算力效率和滿足差異化需求,應(yīng)建立支撐大模型萬(wàn)億量級(jí)參數(shù)計(jì)算的“智算中心”?!爸撬阒行摹笨衫矛F(xiàn)有高質(zhì)量數(shù)據(jù)中心,通過(guò)提升組網(wǎng)能力、協(xié)同能力、軟硬件適配能力等實(shí)現(xiàn)部署。當(dāng)前,“萬(wàn)卡”級(jí)別的智算中心正在主要節(jié)點(diǎn)城市發(fā)展起來(lái)。
與會(huì)專(zhuān)家認(rèn)為,推動(dòng)現(xiàn)有算力融合創(chuàng)新將進(jìn)一步提升當(dāng)前算力使用效率?!?萬(wàn)塊卡(AI芯片)應(yīng)該怎么連?是不是每塊卡和其他9999塊直連?如果這樣,中間的連接將需要1萬(wàn)乘以9999個(gè)連接卡,成本將非常高?!编嵕暶裾f(shuō),通過(guò)最有效的連接支持模型并行、數(shù)據(jù)并行等不同的要求,是融合創(chuàng)新的關(guān)鍵。
大模型背后運(yùn)行的是更加復(fù)雜的網(wǎng)絡(luò)架構(gòu)和智能算法。如何在降本增效的同時(shí),促進(jìn)大模型算力使用門(mén)檻的降低?“‘云’模式是打通供需不對(duì)稱(chēng)、達(dá)成算力普惠的有效路徑?!敝茼|韡表示,通過(guò)共享、共融集結(jié)現(xiàn)有算力,萬(wàn)卡平臺(tái)及配備高效網(wǎng)絡(luò)交互機(jī)制的大模型訓(xùn)練與推理平臺(tái),可以開(kāi)放給大企業(yè)、小微企業(yè)共用。通過(guò)搭載數(shù)據(jù)遷徙、訓(xùn)練數(shù)據(jù)庫(kù)等工具,云平臺(tái)等基礎(chǔ)生態(tài)的搭建有望讓算力像水和電一樣隨取隨用。(科技日?qǐng)?bào))
版權(quán)聲明:凡注明“來(lái)源:中國(guó)西藏網(wǎng)”或“中國(guó)西藏網(wǎng)文”的所有作品,版權(quán)歸高原(北京)文化傳播有限公司。任何媒體轉(zhuǎn)載、摘編、引用,須注明來(lái)源中國(guó)西藏網(wǎng)和署著作者名,否則將追究相關(guān)法律責(zé)任。
- “兩節(jié)”期間糧油肉蛋菜市場(chǎng)供給充裕 為群眾歡度節(jié)日營(yíng)造良好環(huán)境
- 我國(guó)交通運(yùn)輸經(jīng)濟(jì)持續(xù)穩(wěn)定恢復(fù) “人享其行、物暢其流”的美好愿景正加快成為現(xiàn)實(shí)
- 新能源汽車(chē)11月產(chǎn)銷(xiāo)量首次雙超百萬(wàn)輛
- 焦點(diǎn)訪談:八方馳援 共渡難關(guān)
- 前11月我國(guó)多項(xiàng)經(jīng)濟(jì)運(yùn)行指標(biāo)回升向好
- 積石山縣農(nóng)村集中供水工程全部恢復(fù)供水 抽檢水樣合格
- 甘肅積石山縣第一批活動(dòng)板房正在搭建 救援物資全力支援
- 受降雪、低溫雨雪冰凍影響 我國(guó)7?。▍^(qū))境內(nèi)24個(gè)路段封閉
- 甘肅積石山第一批活動(dòng)板房搭建 救援物資全力支援
- 商務(wù)部:11月份消費(fèi)市場(chǎng)呈現(xiàn)加快回升態(tài)勢(shì)