最近，AI芯片的熱點(diǎn)新聞接二連三，先是一批AI芯片初創(chuàng)公司密集宣布IPO，再是“盤古”大模型內(nèi)部人員爆料“打假”，后有黃仁勛來(lái)華并宣布H20芯片恢復(fù)銷售，然后網(wǎng)絡(luò)消息傳出HW或?qū)⒎艞壣罡嗄甑臅N騰ASIC路線，轉(zhuǎn)向GPU路線。

眾所周知，網(wǎng)絡(luò)上的瓜往往是空穴來(lái)風(fēng)。對(duì)于當(dāng)下如火如荼的AI行業(yè)而言也許影響深遠(yuǎn)。

ASIC和GPU路線的差異

從CPU到GPU，再到DSP、AISC，芯片的通用性依次降低，但芯片在特定應(yīng)用的性能依次升高。

CPU就屬于什么都能做，但各項(xiàng)任務(wù)都不精。

GPU的通用性比CPU差，但在科學(xué)運(yùn)算、渲染等方面性能明顯強(qiáng)于CPU。

DSP的專用性則比GPU強(qiáng)，通用性則更差。

AISC則是追求特定場(chǎng)景專用性能犧牲通用性的典型。

打個(gè)比方，CPU就是瑞士刀，多功能，但在專業(yè)領(lǐng)域表現(xiàn)一般，上陣殺敵不如陌刀，救死扶傷不如手術(shù)刀。

AISC則像是專業(yè)刀具，廠家根據(jù)特定的應(yīng)用場(chǎng)景，開發(fā)出手術(shù)刀、陌刀、軍刺等專業(yè)工具，但這些專用刀具基本不具備通用性。簡(jiǎn)單來(lái)說(shuō)，就是客戶不能買了陌刀拿去干手術(shù)刀的活，買了手術(shù)刀也沒(méi)法安裝在步槍上拼刺刀。

由于大陸集成電路產(chǎn)業(yè)在設(shè)計(jì)和制造與西方有差距，本土廠商往往選擇犧牲通用性，換取特定場(chǎng)景的高性能。

以昇騰而言，就不支持雙精度浮點(diǎn)運(yùn)算，而雙精度浮點(diǎn)運(yùn)算對(duì)科學(xué)運(yùn)算至關(guān)重要。支持雙精度浮點(diǎn)運(yùn)算會(huì)提高芯片的設(shè)計(jì)復(fù)雜度和功耗，在制造工藝落后于人的情況下，一旦支持雙精度浮點(diǎn)運(yùn)算，必然影響整體性能和能效比。

相比之下，英偉達(dá)的計(jì)算卡就支持雙精度浮點(diǎn)運(yùn)算。

在PPT上，國(guó)產(chǎn)AI芯片也習(xí)慣于拿特定場(chǎng)景的性能指標(biāo)去對(duì)標(biāo)英偉達(dá)。

其實(shí)，這里國(guó)產(chǎn)AI芯片廠商玩了文字游戲，那就是英偉達(dá)的參數(shù)指標(biāo)高是建立在其具有較強(qiáng)通用性上的，而國(guó)產(chǎn)AI芯片在某個(gè)指標(biāo)上追平英偉達(dá)。

簡(jiǎn)言之，英偉達(dá)的計(jì)算卡是六邊形戰(zhàn)士，國(guó)產(chǎn)AI計(jì)算卡只是偏科生，在特定應(yīng)用表現(xiàn)良好，無(wú)法適應(yīng)多樣化的應(yīng)用場(chǎng)景。

H20熱銷的根源在于生態(tài)

從參數(shù)上看，H20是H100的閹割版本，算力只有H100的三分之一，不少國(guó)產(chǎn)AI計(jì)算卡在PPT上的算力都遠(yuǎn)遠(yuǎn)比H20強(qiáng)。即便如此，本土互聯(lián)網(wǎng)公司依舊對(duì)H20產(chǎn)生了巨大的采購(gòu)需求。

之所以如此，一方面是之前講的，英偉達(dá)的GPU是六邊形戰(zhàn)士之外，另外一個(gè)原因就是CUDA。

英偉達(dá)圍繞CUDA建立了一套相對(duì)豐富的軟件生態(tài)，用戶買了計(jì)算卡可以直接用，能夠節(jié)約海量時(shí)間成本和軟件開發(fā)成本。

在不久前的大模型套殼事件中，HW員工爆料即便是有自家AISC計(jì)算卡的情況下，也用英偉達(dá)的計(jì)算卡訓(xùn)練。出現(xiàn)這種情況的根源就在于英偉達(dá)的GPU軟件生態(tài)好。

ASIC的硬件指令架構(gòu)相對(duì)簡(jiǎn)單，對(duì)高帶寬的敏感度不如GPU，這就大幅降低了硬件門檻。

不過(guò)，技術(shù)復(fù)雜度只會(huì)轉(zhuǎn)移，不會(huì)消失。

從實(shí)踐上看，AISC對(duì)軟件的要求難度大于硬件。

給AISC寫軟件的難度遠(yuǎn)遠(yuǎn)高于給GPU寫算子做優(yōu)化。即便是一些頭部互聯(lián)網(wǎng)大廠，專門配備團(tuán)隊(duì)寫軟件，依舊苦不堪言，因而正在測(cè)試兼容CUDA的國(guó)產(chǎn)GPU，尋找更合適的AI芯片供應(yīng)商。

誠(chéng)然，在特定應(yīng)用AISC確實(shí)有優(yōu)勢(shì)，但這僅僅是在特定細(xì)分市場(chǎng)有優(yōu)勢(shì)，谷歌的TPU也只是自己用，而不是面向公開市場(chǎng)，在易用性方面，GPU優(yōu)勢(shì)明顯。

事實(shí)上，商業(yè)競(jìng)爭(zhēng)終究還是看易用性和全周期使用成本。

pytorch和TensorFlow之爭(zhēng)，盡管tensorflow局部特性可以使得性能能更好一些，但pytorch易用性的優(yōu)勢(shì)足以讓其脫穎而出。GPU買來(lái)就用的易用性是ASIC不具備的。

GPU在全周期使用成本上相對(duì)于ASIC優(yōu)勢(shì)明顯。購(gòu)買GPU直接可用CUDA，節(jié)約了大量成本。而用AISC則需要開發(fā)深度學(xué)習(xí)引擎框架，還要專門做適配調(diào)優(yōu)，資金成本和時(shí)間成本高，特別是在當(dāng)下大廠技術(shù)競(jìng)賽的背景下，時(shí)間和精力非常寶貴，除非買不到英偉達(dá)的GPU，否則互聯(lián)網(wǎng)巨頭不會(huì)買ASIC。

實(shí)踐證明GPU路線是主流

實(shí)事求是的說(shuō)，AISC在特定應(yīng)用是有優(yōu)勢(shì)的，比如推理，但用來(lái)訓(xùn)練就力所不逮了。

這幾年的實(shí)踐證明，AISC專用性強(qiáng)，適合細(xì)分市場(chǎng)，GPU通用性好，適合主流市場(chǎng)。特別是這幾年AI發(fā)展迅速，通用性好的硬件更適合新場(chǎng)景、新業(yè)態(tài)。

這也是HW擬改換技術(shù)路線，擬放棄ASIC，轉(zhuǎn)向GPU的根源。

事實(shí)上，這幾年很多地方政府受到“高層路線關(guān)系”的裹挾，用高于市場(chǎng)的價(jià)格購(gòu)買了昇騰全棧產(chǎn)品，建設(shè)了大量智算中心，但業(yè)內(nèi)人都知道，受限于技術(shù)體系封閉，軟件生態(tài)貧乏，智算中心的算力閑置較高，這是巨大的浪費(fèi)。地方政府有苦難言，又不敢說(shuō)出去顯得打臉。

在中央要求過(guò)緊日子的當(dāng)下，應(yīng)當(dāng)把好鋼用在刀刃上，選擇更加通用、可實(shí)際跑起來(lái)的產(chǎn)品，提升財(cái)政資金的使用效率。特別是在HW 自己都打算放棄AISC投奔GPGPU的當(dāng)下，再去花高價(jià)買昇騰就是1911年揮刀自宮當(dāng)太監(jiān)了。

從產(chǎn)業(yè)發(fā)展的角度來(lái)看，GPU必然成為主流，既有硬件上六邊形戰(zhàn)士的優(yōu)勢(shì)，也有CUDA軟件生態(tài)上的優(yōu)勢(shì)。

必須指出的是，GPU因其通用性，可以在游戲顯卡、超算、AI等行業(yè)大展拳腳，而AISC只能限定于特定應(yīng)用場(chǎng)景，通用性差就限制了AISC的推廣，很難脫離政策建立商業(yè)上的正循環(huán)。

相比之下，GPU可以用龐大的游戲顯卡個(gè)人用戶來(lái)平攤成本，這是ASIC所不具備的。

更加龐大的用戶數(shù)量就意味著能夠更快回籠研發(fā)資金，意味著更快的技術(shù)迭代速度，意味著更快的軟件生態(tài)成熟速度，這種現(xiàn)象在IT發(fā)展史上已經(jīng)反復(fù)出現(xiàn)，比如服務(wù)器淘汰小型機(jī)，PC淘汰傳統(tǒng)工作站。

未來(lái)，必然是GPU為主，ASIC為補(bǔ)充的行業(yè)格局。