國產(chǎn)GPU,誰能突破算力封鎖,推動中國AI高速發(fā)展?
近日,英偉達在美國加州總部舉辦了面向軟件開發(fā)者的年度技術(shù)峰會GTC。在會上,英偉達創(chuàng)始人黃仁勛披露了最新人工智能相關(guān)的軟硬件技術(shù),并在演說中將“AI的iPhone時刻”這句話重復(fù)強調(diào)了三遍。
事實上,英偉達與AI可謂是緣分不淺,截至目前,英偉達的GPU芯片正在為全球絕大多數(shù)的人工智能系統(tǒng)提供最基礎(chǔ)的算力支持,而ChatGPT母公司OpenAI,便是憑借著10000片英偉達的GPU芯片,成功訓(xùn)練出了GPT-3大語言模型,震驚了全世界。
那么,提供了全球高端人工智能大半算力的英偉達CEO黃仁勛,為何在此次大會中將ChatGPT帶來的變化稱為“人工智能的iPhone時刻”?在“人工智能的iPhone時刻”背后,又是哪些基礎(chǔ)硬件設(shè)施與相關(guān)的企業(yè)支撐著AI行業(yè)不斷前行呢?
本文將以英偉達發(fā)布會為切入點,介紹國內(nèi)GPU行業(yè)相關(guān)企業(yè)的發(fā)展現(xiàn)狀,進而講述為何算力缺乏的原因,以期為讀者展現(xiàn)GPU行業(yè)的現(xiàn)狀與未來發(fā)展。
1
大秀肌肉的英偉達與
火種初現(xiàn)的中國廠商
作為全球算力硬件當(dāng)之無愧的龍頭公司,英偉達每年的GTC大會都吸引著眾多尖端科技工作者的目光,尤其是在2023這個ChatGPT的出圈元年,作為人工智能硬件的主要提供商,英偉達GTC的曝光量更是得到了顯著的增加。
而在此次大會中,英偉達展示了其針對訓(xùn)練、推理、云服務(wù)等多維度的ChatGPT領(lǐng)域布局。
在AI訓(xùn)練領(lǐng)域,英偉達助力算力持續(xù)提升,賦能大模型突破。
基于GPU并行計算的特性以及英偉達在AI領(lǐng)域的前瞻布局,英偉達在AI訓(xùn)練領(lǐng)域擁有絕對優(yōu)勢,同時十分重視人工智能賽道,不斷提升其人工智能硬件的計算能力。
并且,隨著GPT大模型對于算力需求的提升,全球科技巨頭均已開始或即將搭載英偉達的H100產(chǎn)品:Meta已在內(nèi)部為團隊部署了基于H100的Grand Teton AI超級計算機;OpenAI將在其Azure超級計算機上使用H100來為其持續(xù)的AI研究提供動力。
圖源:英偉達公司官網(wǎng)
而在此次GTC 2023上,基于Hopper架構(gòu)及其內(nèi)置Transformer Engine,英偉達H100針對生成式AI、大型語言模型(LLM)和推薦系統(tǒng)的開發(fā)、訓(xùn)練和部署都進行了優(yōu)化,利用FP8精度在LLM上提供較上一代A100更快的訓(xùn)練及推理速度,助力簡化AI開發(fā)。
圖源:英偉達公司官網(wǎng),中金公司研究部
而在AI推理領(lǐng)域,AI視頻、圖像生成、大型語言模型部署及推薦系統(tǒng)也在加速部署。
在今年的GTC 2023中,英偉達推出了全新的GPU推理平臺:基于加速AI視頻、圖像生成、大型語言模型部署和推薦系統(tǒng),形成了4種配置、1個體系架構(gòu)和1個軟件棧的產(chǎn)品體系。
圖源:英偉達公司官網(wǎng),中金公司研究部
其中H100 NVL GPU受到了市場較為廣泛的關(guān)注:英偉達在GTC 2023公開表示,該產(chǎn)品將配備雙GPU NVLink,或?qū)崿F(xiàn)比現(xiàn)用A100快10倍的速度,可處理擁有1750億參數(shù)的GPT-3大模型,并支持商用PCIe服務(wù)器擴展,適用于訓(xùn)練大型語言模型。
黃仁勛稱,相較于目前唯一可以實時處理ChatGPT的HGX A100,一臺搭載四對H100和雙NVLink的標(biāo)準(zhǔn)服務(wù)器能將速度提升10倍,并且還可以將大語言模型的處理成本降低一個數(shù)量級。黃仁勛也將NVIDIA DGX H100稱作全球客戶構(gòu)建AI基礎(chǔ)設(shè)施的藍圖。
黃仁勛也表示,ChatGPT僅僅是人工智能第一個出圈的應(yīng)用,也只是一個起點。在人工智能浪潮來臨之時,全球范圍內(nèi)必將出現(xiàn)一批進軍人工智能大模型硬件的企業(yè)。但英偉達在短期內(nèi)擁有絕對的技術(shù)優(yōu)勢,未來也將持續(xù)發(fā)力。
毫無疑問,英偉達發(fā)布的最新硬件對于人工智能企業(yè)來說,是解決算力問題的最大福音,但對于中國企業(yè)來說,這卻并非是一則喜訊。
2022年8月,美國監(jiān)管機構(gòu)以國家安全為由,對NVIDIA A100、H100兩款GPU實施禁令,不得銷售給中國企業(yè),意在通過“卡脖子”的方法來降低國內(nèi)AI模型的傳輸速度,拖延中國人工智能發(fā)展。
從長遠來看,未來大模型的研發(fā)和部署是必然趨勢,而每個大模型訓(xùn)練和部署的背后,都有幾萬個 GPU 芯片在支持。因此,未來隨著這方面的研發(fā)和應(yīng)用的普及,通用 GPU 市場需求將會迎來爆發(fā)式增長。
而中國能獲得的最佳替代品,則是英偉達專供中國的A800芯片,也是A100的“閹割版”,其傳輸速度只有A100的70%,而在H100大規(guī)模供貨后,中美AI公司的差距則將進一步拉大。
高性能的GPU,已經(jīng)成為了限制中國AI行業(yè)發(fā)展的最直接因素之一。
但也正是在算力需求激增、硬件供給被切斷、難以真正“市場化”的背景下,國內(nèi)才涌現(xiàn)了一批GPU的“火種”企業(yè)。
這些新興的企業(yè)中,核心團隊基本都是業(yè)內(nèi)頂尖專家,許多技術(shù)專家來自英偉達、AMD 等國際龍頭企業(yè)。初創(chuàng)企業(yè)們接連完成新融資,并陸續(xù)推出新品加速商業(yè)化。
首先,是借軍工信息化之風(fēng)邁向全面國產(chǎn)替代的GPU企業(yè)——景嘉微。
景嘉微的技術(shù)核心團隊來自于國防科技大學(xué),公司業(yè)務(wù)也是依靠軍工業(yè)務(wù)圖形顯控模塊芯片起家,持續(xù)投入研發(fā)布局全自主研發(fā)GPU芯片的圖形顯控傳統(tǒng)業(yè)務(wù)。
在后續(xù)的發(fā)展中,伴隨著國家專項基金的支持與企業(yè)芯片研發(fā)的推進,公司的GPU芯片業(yè)務(wù)逐漸“開枝散葉”,滲透入了民用市場,在“8+N”個行業(yè)中進行著快速的發(fā)展。
截止目前,公司是國內(nèi)首家成功研制國產(chǎn)GPU芯片并實現(xiàn)大規(guī)模工程應(yīng)用的企業(yè),也是國內(nèi)唯一具備完全自主研發(fā)GPU能力并產(chǎn)業(yè)化的上市公司,目前已擁有267項專利,在圖形顯控領(lǐng)域走在行業(yè)前列。
而公司的產(chǎn)品,也正在從“能用”邁向“好用”的階段。
根據(jù)景嘉微2021年公告,公司研發(fā)的JM9系列圖形處理芯片將支持OpenGL 4.0、HDMI 2.0等接口,以及H.265/4K 60-fps 視頻解碼。其核心頻率至少為1.5GHz,配備8GB顯存,浮點性能約 1.5 TFlops,與英偉達GeForce GTX 1050 相近。
資料來源:中關(guān)村在線,芯參數(shù),Nvidia 官網(wǎng),公司公告,太平洋證券研究院
而在與公司的交流中,相關(guān)人員表示,之前的7系列分為多個版本,根據(jù)客戶的需求、價格和價位承受能力來配合出貨,所以取得了較大的成功。而9系目前還在談價的過程中,也相信9系列會促使全球顯卡價格的下行。
并且對方還表示,公司對標(biāo)的是海外競爭對手幾年前的產(chǎn)品,而當(dāng)利潤低于一定程度后,海外的公司會主動放棄市場。公司也會從相對的低端做起,隨著技術(shù)的進步,逐漸追趕英特爾、AMD的步伐。
盡管目前景嘉微的產(chǎn)品與國際尖端GPU存在著極大的差距,但作為一顆由中國企業(yè)完全獨立研發(fā)、采用正向設(shè)計、具有自主知識產(chǎn)權(quán)的GPU,已經(jīng)邁出了國產(chǎn)自主道路上的一大步,成為中國算力的“希望之火”。
接著,是依靠CPU、DCU雙輪驅(qū)動,深度受益國產(chǎn)化替代的企業(yè)——海光信息。
海光信息成立于2014年,主營業(yè)務(wù)為研發(fā)、設(shè)計和銷售應(yīng)用于服務(wù)器、工作站等計算、存儲設(shè)備中的高端處理器,目前擁有海光通用處理器(CPU)和海光協(xié)處理器(DCU)兩條產(chǎn)品線。
而其中,DCU作為專注通用計算、單純提供人工智能算力的產(chǎn)品,成為了企業(yè)新的業(yè)績增長極。
海光信息于2018年切入DCU領(lǐng)域,堅持自主研發(fā),目前已經(jīng)成功掌握高端協(xié)處理器微結(jié)構(gòu)設(shè)計等核心技術(shù),并以此為基礎(chǔ)推出了性能優(yōu)異的DCU產(chǎn)品,具備強大的計算能力和高速并行數(shù)據(jù)處理能力,性能基本能與國際同類型主流產(chǎn)品同臺競技。
選取公司深算一號產(chǎn)品和國際領(lǐng)先的GPU廠商英偉達的高端GPU產(chǎn)品(A100)及AMD高端GPU產(chǎn)品(MI100)進行對比,在典型應(yīng)用場景下,海光信息深算一號單顆芯片的指標(biāo)基本達到國際上同類型高端產(chǎn)品的水平。
對標(biāo)目前國際主流人工智能企業(yè)都在使用的NVIDIA A100產(chǎn)品,海光DCU單芯片產(chǎn)品基本能達到其70%的性能水平,同時,公司DCU產(chǎn)品的片間互聯(lián)性能還有較大的提升空間。
資料來源:公司招股說明書、平安證券研究所
而在硬件之外,海光信息也為打破CUDA生態(tài)專門制作了軟件配置:海光 DCU 協(xié)處理器全面兼容 ROCm GPU計算生態(tài),由于ROCm與CUDA的高度相似性,CUDA用戶可以以較低代價快速遷移至 ROCm平臺,因此,海光DCU協(xié)處理器能夠較好地適配、適應(yīng)國際主流商業(yè)計算軟件和人工智能軟件,軟硬件生態(tài)豐富。
此外,海光還積極參與開源軟件項目,加快了DCU產(chǎn)品的推廣速度,并成功實現(xiàn)了與GPGPU主流開發(fā)平臺的兼容。
近些年來,在國內(nèi)諸多創(chuàng)企的努力下,GPU硬件的突破捷報頻傳,但目前我國CPU廠商距離英偉達等國際頭部廠商的距離仍然還有很遠。
所以對于中國GPU企業(yè)來說,做好國產(chǎn)的Plan B,再謀求發(fā)展,或許才是正確的方向。
但可以確定的是,隨著科技的進步,中國GPU算力行業(yè)一定要、也一定會擺脫被“卡脖子”的問題,讓中國的AI企業(yè)用上中國的GPU,打贏這場算力之戰(zhàn)。
2
算力,為何如此緊缺?
上文談到了英偉達的算力“肌肉”展示與國產(chǎn)CPU的奮起直追,那么,當(dāng)前人工智能企業(yè)的算力需求究竟幾何?為何“AI芯片”第一股英偉達,能在短短不到四個月的時間內(nèi),股價暴漲83%?
從算力需求端來看,人工智能模型的參數(shù)量隨換代呈現(xiàn)著指數(shù)型增長的態(tài)勢。
以GPT-3.5為例,作為一種大型語言模型,有著海量的參數(shù)。即使OpenAI目前沒有公布ChatGPT所使用的 GPT-3.5 的相關(guān)數(shù)據(jù),但由圖可得,隨著新模型的推出,參數(shù)量需求呈現(xiàn)翻倍式增長。
資料來源:OpenAI 官網(wǎng),安信證券研究中心
而在參數(shù)量的增加之外,ChatGPT的下一代GPT-4還可以通過多模態(tài)來拓展應(yīng)用場景。
GPT-4作為一個多模態(tài)大模型(接受圖像和文本輸入,生成文本),相比GPT-3.5可以更準(zhǔn)確地解決難題,具有更廣泛的常識和解決問題的能力,文本處理能力更是達到了ChatGPT上限的8倍。
數(shù)據(jù)來源:OpenAI《GPT-4 Technical Report》,廣發(fā)證券發(fā)展研究中心
不過,伴隨著人工智能的成熟而增長的,自然是其背后的算力需求:OpenAI預(yù)計,人工智能科學(xué)研究要想取得突破,所需要消耗的計算資源每3~4個月就要翻一倍,所以出現(xiàn)了算力需求爆炸式增加的情況。
而在人工智能企業(yè)需求大幅增長的情況下,算力的供給卻逐步放慢了腳步。
在半導(dǎo)體行業(yè)中,一直有著這樣一種說法:“當(dāng)價格不變時,集成電路上可容納的元器件的數(shù)目,約每隔18-24個月便會增加一倍,性能也將提升一倍。換言之,每一美元所能買到的電腦性能,將每隔18-24個月翻一倍以上。這一定律揭示了信息技術(shù)進步的速度。”
這就是我們所熟知的摩爾定律,實際上,大家身邊最直觀的感受便是每大概兩年左右,你的電腦或手機就要面臨淘汰的境地了,尤其是當(dāng)今的智能手機,基本主流配置的手機,2年就得準(zhǔn)備換新了。
但是,伴隨著半導(dǎo)體制程的持續(xù)演進,短溝道效應(yīng)以及量子隧穿效應(yīng)帶來的漏電、發(fā)熱等問題愈發(fā)嚴(yán)重,追求經(jīng)濟效能的摩爾定律已經(jīng)日趨放緩,甚至接近失效。
也就是說,哪怕在需求不變的情況下,算力基礎(chǔ)設(shè)施就已經(jīng)該走上增加數(shù)量的賽道了,更何況算力需求正在以指數(shù)爆炸的速度增長。
因此, AI 模型訓(xùn)練算力需求增長與摩爾定律出現(xiàn)了極不匹配的現(xiàn)象,這勢必推動對算力基礎(chǔ)設(shè)施需求的快速增長,而這,也是英偉達等眾多GPU硬件企業(yè)被資金追捧的根本原因——他們手中握著開啟AI時代的金鑰匙。
3
寫在最后
或許正如黃仁勛所說,“人工智能的iPhone時刻”已經(jīng)來臨,走向下一個時代的路,早就擺在了世人面前。
但是眾多最尖端的人工智能企業(yè),還在為AI時代的“入場券”而發(fā)愁犯難,高昂的算力價格、永遠缺貨的高端GPU,成為了企業(yè)最大的軟肋。
由此可見,對于未來的數(shù)字經(jīng)濟而言,算力等基礎(chǔ)設(shè)施的舞臺將會成為AI企業(yè)們甚至國家之間的第一個角力場。正如全球著名投資機構(gòu)a16z評價ChatGPT時所說,“基礎(chǔ)設(shè)施服務(wù)商可能才是最大贏家,獲得最多的財富。”
包括AI在內(nèi)的新技術(shù)在取得突破后,要想走入“尋常百姓家”,實現(xiàn)大規(guī)模的部署和應(yīng)用,算力的安全、高速、高可靠、高性能等能力缺一不可。甚至可以說,算力的增強真正驅(qū)動了數(shù)字經(jīng)濟的增長。
而對于中國企業(yè)來說,短期的封鎖或許是困境,但從另外一個角度來想也未必不是機遇,以景嘉微、海光信息為代表的的中國高算企業(yè),也必將在層層封鎖中殺出,以卓越的產(chǎn)品,推動中國滾滾的數(shù)字化大潮!
原文標(biāo)題 : 國產(chǎn)GPU,誰能突破算力封鎖,推動中國AI高速發(fā)展?
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-12.26立即報名>>> 【在線會議】村田用于AR/VR設(shè)計開發(fā)解決方案
-
1月8日火熱報名中>> Allegro助力汽車電氣化和底盤解決方案優(yōu)化在線研討會
-
即日-1.14火熱報名中>> OFweek2025中國智造CIO在線峰會
-
即日-1.24立即參與>>> 【限時免費】安森美:Treo 平臺帶來出色的精密模擬
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍皮書》
-
精彩回顧立即查看>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
推薦專題
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容