国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

黃仁勛來訪背后:英偉達H20芯片憑啥卡脖子?國產(chǎn)GPU超車要幾年?

0
分享至


黃仁勛來訪,走到哪里都說好話。

7月16日熱搜 #黃仁勛稱華為AI芯片將取代英偉達#,#黃仁勛稱輕視華為的人極其天真#,#黃仁勛稱想買一輛小米汽車#,#黃仁勛穿唐裝亮相#。7月17日熱搜 #黃仁勛稱早就知道雷軍會成功#,#黃仁勛盛贊中國多家新能源車企#,#黃仁勛稱DeepSeek開辟新領(lǐng)域#。

1年前卻是另一番光景,2024年6月7日熱搜 #黃仁勛稱臺灣為國家#。2024年6月12日熱搜 #國臺辦說希望黃仁勛好好補補課#。2024年12月7日熱搜 #黃仁勛被曝避稅80億美元#。

待遇逆轉(zhuǎn),原因是英偉達H20芯片解禁了。7月16日,美國已批準(zhǔn)H20芯片銷往中國。


英偉達的GPU芯片,長相跟電腦機箱里的顯卡差不多,像一塊板磚,有幾斤重。拆掉外殼和散熱片之后,就看到了一個電路板。分成6小塊1大塊的黑色方塊就是GPU,放大圖片能看到NVIDIA字樣。


H20芯片的性能已經(jīng)相當(dāng)落后。

評價AI芯片的性能,看3個關(guān)鍵指標(biāo):顯存容量、BF16算力、GPU互連帶寬。顯存容量決定了能裝載多大的模型,模型越大,能力越強。BF16算力決定模型的訓(xùn)練速度和推理速度。Deepseek r1這樣的滿血模型,參數(shù)量很大,訓(xùn)練的時候需要幾百塊甚至幾萬塊GPU一起訓(xùn)練,GPU之間的互連帶寬是一個瓶頸。


H20 GPU是H100的閹割版,BF16算力降低到7%(144/1979),而H100是3年前,2022年3月發(fā)貨的產(chǎn)品。與最新型號B300相比,H20的三個關(guān)鍵指標(biāo)的相對值分別為33%(96/288)、2.8%(144/5000),50%(900/1800)。H20在中國以外的地方賣不掉,如果中國不賣,只能當(dāng)垃圾扔掉,虧損55億美元。

性能落后的H20仍然在中國大賣,沒有被國產(chǎn)GPU替代,是因為英偉達有卡脖子技術(shù):BF16算力、nvlink、CUDA生態(tài)。

接下來這一段的技術(shù)名詞較多,看不懂的段落可以跳過,不影響看懂結(jié)論。

BF16和FP16都是用16位存儲一個數(shù),形式是科學(xué)計數(shù)法,例如0.3141×10^1。差別在于BF16格式用8位存儲指數(shù)部分,用7位存儲小數(shù)部分。FP16格式用5位存儲指數(shù)部分,用10位存儲小數(shù)部分。BF16的表示范圍較大,[9.2×10^(-41),3.38953139×10^38],但精度較低。FP16的表示范圍較小,[5.96×10^(-8),65504],但精度較高。


BF16格式更適合大模型,訓(xùn)練時更容易收斂,訓(xùn)練花費時間短。如果用FP16格式,訓(xùn)練模型時容易梯度爆炸,不收斂,得微調(diào)參數(shù),重新訓(xùn)練,訓(xùn)練花費時間長。英偉達GPU從2020年的Ampere 架構(gòu)開始支持BF16。

有人會問,BF16不就是調(diào)整一下位數(shù)嗎?看起來很簡單,到底難在哪里?

僅僅增加BF16存儲小數(shù)的功能不難,難的是后續(xù)有一大堆芯片單要設(shè)計,例如BF16的加法器、乘法器、矩陣乘。BF16的數(shù)據(jù)寬度得與GPU的寄存器、緩存、內(nèi)存接口等存儲系統(tǒng)匹配。還得跟FP16、FP32、INT8等格式轉(zhuǎn)換。軟件上,編譯器和所有的函數(shù)庫都要適配BF16。還得跟英偉達的FP16兼容,否則,在英偉達芯片上跑到好好的,換成你的芯片就出錯,用戶肯定要罵你。

最先進的國產(chǎn)GPU,華為昇騰(Ascend)910C還不支持BF16, 預(yù)計2026年910D會支持,落后英偉達6年。

英偉達的NVlink用來在兩個GPU之間高速通信,B200 GPU的帶寬是1.8TB/s。華為昇騰(Ascend)910C的互連帶寬為392GB/s[2],是nvlink的22%。


FP16算力和NVlink超車雖然很難,但只要能追上,立刻就會有被很多人接受。CUDA生態(tài)不一樣,即使做得比CUDA好,仍然很難讓程序員接受。

CUDA是英偉達芯片上的編程語言,學(xué)習(xí)難度很大。對程序員來說,學(xué)習(xí)一門新的編程語言,只需要花費一兩天就能掌握個大概,能寫出一個及格的程序。對CUDA語言,一兩周也難寫出及格的程序。熟練掌握性能優(yōu)化技巧,得用練習(xí)半年。

黃仁勛說,中國有150萬會CUDA編程的人。全世界的CUDA開發(fā)者人數(shù)沒有準(zhǔn)確數(shù)字,不妨假設(shè)500萬人。這些人學(xué)習(xí)CUDA費了很大的勁,CUDA是他們的飯碗,肯定不愿意輕易丟掉CUDA,再去學(xué)習(xí)一門替代CUDA的編程語言,去使用一種新的芯片,去跟剛畢業(yè)的學(xué)生回到同一起跑線。

有人可能會問,國產(chǎn)GPU能不能兼容CUDA編程呢?這樣就沒有學(xué)習(xí)成本了。

好問題,黃仁勛在2006年11月發(fā)明CUDA語言的時候,就防著這招了。老黃堅持CUDA不開源,閉源,不讓競爭對手兼容。

國產(chǎn)GPU只能設(shè)計自己的編程語言,然后想辦法讓全世界的開發(fā)者去用,具體來說就是深度學(xué)習(xí)框架pytorch的開發(fā)者,大模型開發(fā)者社區(qū)“抱臉huggingface”社區(qū)的開發(fā)者,大模型部署軟件vllm的開發(fā)者,OpenAI、谷歌、臉書、馬斯克的xAI這些大公司,斯坦福大學(xué)等高校的教授。

這些人是AI技術(shù)的源頭,他們發(fā)明各種AI新技術(shù),寫成論文公開發(fā)表,將訓(xùn)練好的代碼和權(quán)重開源。第二梯隊的科技公司、高??焖俑M,在美國的人基礎(chǔ)上做一些微調(diào),加入一些本地化的應(yīng)用。

從前面的分析知道,國產(chǎn)GPU想要在中國替代英偉達,得先賣到美國去,讓AI技術(shù)的發(fā)明人主動用起來。根據(jù)英偉達GPU的發(fā)家經(jīng)驗,國產(chǎn)GPU的性能指標(biāo)必須超過英偉達10倍,開發(fā)者才愿意換掉熟悉的硬件。

跟在英偉達的屁股后面,老是對標(biāo)英偉達2年前、3年前的產(chǎn)品,百分之一萬地替代不了英偉達。

國產(chǎn)GPU廠商有這么幾家。景嘉微,國內(nèi)最早布局GPU的企業(yè),專注于軍用和信創(chuàng)領(lǐng)域。摩爾線程,成立于2020年的摩爾線程,同時布局消費級顯卡和 AI 計算芯片。沐曦集成電路,聚焦AI計算領(lǐng)域,產(chǎn)品有曦思N100(推理)和曦云C500(訓(xùn)推一體)系列芯片,2023年量產(chǎn)以來累計銷量突破2.5萬顆。壁仞科技,專注高性能通用GPU,其BR104芯片采用自研架構(gòu),浮點運算效能達國際旗艦產(chǎn)品90%。

華為,最先進的芯片是昇騰(Ascend)910D。媒體報道中沒有找到910D的性能參數(shù),一個AI自媒體[3]在2025年6月23日爆料,Ascend 910D的FP16算力預(yù)計800-1000Tflops,達到英偉達B200的BF16算力的16%至20%。

國產(chǎn)GPU想超車,只有直道硬拼,沒有彎道。硬件、軟件目標(biāo)各有一個,芯片算力指標(biāo)超過英偉達最新產(chǎn)品10倍,設(shè)計出一種好學(xué)好用的編程語言。很多網(wǎng)友覺得只是芯片制造環(huán)節(jié)被卡脖子,沒有光刻機,芯片設(shè)計環(huán)節(jié)很強很牛逼。實際上,芯片設(shè)計能力有至少6年差距,BF16功能就是一個例子。

國產(chǎn)GPU廠商設(shè)計一種新的編程語言是一個很大的挑戰(zhàn)。世界流行的編程語言前50名[4],沒有一種是中國人或者中國企業(yè)發(fā)明的。

2020年1月15日,中國科學(xué)院計算技術(shù)研究所正式對外發(fā)布由該所計算機體系結(jié)構(gòu)國家重點實驗室編譯技術(shù)團隊自主研發(fā)、面向新一代人工智能和物聯(lián)網(wǎng)應(yīng)用的“木蘭”編程語言體系,并推出“木蘭”開源軟件包。發(fā)布時宣稱該編程語言由編譯組完全自主設(shè)計、開發(fā)和實現(xiàn),與之配套的編譯器與集成開發(fā)工具也完全由團隊自主實現(xiàn)。

有開發(fā)者立刻發(fā)現(xiàn),木蘭語言只是套殼Python語言,涉嫌造假。隨后,木蘭語言研發(fā)團隊負(fù)責(zé)人劉雷承認(rèn)在接受記者采訪中故意夸大為完全自主開發(fā)。2020年1月19 日,中科院計算所官方表示,木蘭語言存在欺瞞和虛假陳述,已對當(dāng)事人劉雷停職檢查。2020 年1月23日,中科院計算所官網(wǎng)發(fā)布調(diào)查與處理意見,決定取消劉雷五年內(nèi)專業(yè)技術(shù)崗位晉升的申請資格等多項處罰。

吹牛忽悠不了程序員,因為程序員的信條是“Talk is cheap, show me the code.”屁話少說,放碼過來。新聞稿夸成花,PPT寫得再漂亮,不行就不行,編譯器不會因為你自研就不報錯。

在這樣的條件下,國產(chǎn)GPU廠商想設(shè)計出一種優(yōu)秀的編程語言,難度很大。

英偉達在2006年至2010年推廣GPU的時候,往各個大學(xué)猛送GPU。在中國,英偉達選中了中科院過程所。當(dāng)時過程所的老師、學(xué)生,后來都成了技術(shù)大牛、大老板。

國產(chǎn)GPU廠商在硬件、軟件超車之后,還要舍得砸錢贈送。三大關(guān)口,超車不知道要花幾年。

拭目以待!

全文完,感謝閱讀,歡迎點下關(guān)注,參加原始股東計劃。

如何成為原始股東?只需1步:關(guān)注公眾號“小小河”,限額前1萬人。如何參與抽獎分紅?給文章留言、點贊、點心?,每種互動的中獎權(quán)重均為1。如果3種互動都參加了,那么中獎權(quán)重為3。抽3人平分文章流量收入的一半,直接給現(xiàn)金紅包。茍富貴,無相忘。

[1] https://juejin.cn/post/7359893210796376075

[2] https://www.toutiao.com/article/7517439974522765862

[3] https://weibo.com/1402400261/PxPvm0t9q

[4] https://www.tiobe.com/tiobe-index/

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
楊虎城的后人今何在:長子省委書記,倆女兒廳級,孫子移民加拿大

楊虎城的后人今何在:長子省委書記,倆女兒廳級,孫子移民加拿大

抽象派大師
2025-12-14 03:12:02
前法國國腳西塞:我討厭阿根廷隊,他們現(xiàn)在是我們最大的敵人

前法國國腳西塞:我討厭阿根廷隊,他們現(xiàn)在是我們最大的敵人

林子說事
2025-12-25 08:28:07
5500公里大奔襲,美軍無處可躲,殲20掛4油箱升空,關(guān)島淪為前線

5500公里大奔襲,美軍無處可躲,殲20掛4油箱升空,關(guān)島淪為前線

諦聽骨語本尊
2025-12-25 13:29:20
俄羅斯和朝鮮因20億美元援俄士兵勞務(wù)款項正式鬧掰

俄羅斯和朝鮮因20億美元援俄士兵勞務(wù)款項正式鬧掰

律法刑道
2025-12-23 22:50:36
曝37歲福原愛將誕下3胎!老公身份公開,簡直把前夫臉面放地上踩

曝37歲福原愛將誕下3胎!老公身份公開,簡直把前夫臉面放地上踩

法老不說教
2025-12-22 19:20:00
王中遠(yuǎn):我親手掩埋了林彪父子

王中遠(yuǎn):我親手掩埋了林彪父子

霹靂炮
2025-12-24 12:47:20
【西街觀察】人民幣升值,別期待“一口吃成胖子”

【西街觀察】人民幣升值,別期待“一口吃成胖子”

北京商報
2025-12-24 22:30:05
內(nèi)蒙古滿洲里市政協(xié)主席凌云任烏蘭察布市委常委、組織部部長

內(nèi)蒙古滿洲里市政協(xié)主席凌云任烏蘭察布市委常委、組織部部長

澎湃新聞
2025-12-25 09:38:26
王勵勤人事調(diào)整展現(xiàn)高超手腕!秦志戩由乒協(xié)回國乒,有望任總教練

王勵勤人事調(diào)整展現(xiàn)高超手腕!秦志戩由乒協(xié)回國乒,有望任總教練

觀察鑒娛
2025-12-25 09:00:46
8人死亡,接送幼兒車輛墜入池塘

8人死亡,接送幼兒車輛墜入池塘

中國新聞周刊
2025-12-24 18:14:25
鐘麗緹亮相芭莎之夜,胸大腚圓胖到不敢認(rèn),一大把年紀(jì)還玩性感

鐘麗緹亮相芭莎之夜,胸大腚圓胖到不敢認(rèn),一大把年紀(jì)還玩性感

黃小仙的搞笑視頻
2025-12-24 11:46:44
四川華西醫(yī)院有多牛?網(wǎng)友:醫(yī)術(shù)和醫(yī)德不能畫等號

四川華西醫(yī)院有多牛?網(wǎng)友:醫(yī)術(shù)和醫(yī)德不能畫等號

帶你感受人間冷暖
2025-12-25 00:15:06
南博風(fēng)波后續(xù):全網(wǎng)追查“借畫不還”的神秘老同志,揭開歷史迷霧

南博風(fēng)波后續(xù):全網(wǎng)追查“借畫不還”的神秘老同志,揭開歷史迷霧

公子麥少
2025-12-21 14:54:43
每年1000萬以上的大學(xué)畢業(yè)生將會持續(xù)將近20年,就業(yè)會越來越難

每年1000萬以上的大學(xué)畢業(yè)生將會持續(xù)將近20年,就業(yè)會越來越難

爆角追蹤
2025-12-24 11:53:34
新F4演唱會上,周渝民就快讓人認(rèn)不出來了,這濃濃的“人夫感”啊

新F4演唱會上,周渝民就快讓人認(rèn)不出來了,這濃濃的“人夫感”啊

安寧007
2025-12-22 23:55:02
36歲好萊塢童星落魄街頭!拒絕食物索要違禁品,自知“我完了”

36歲好萊塢童星落魄街頭!拒絕食物索要違禁品,自知“我完了”

譯言
2025-12-24 08:58:48
沒有水貨!NBA公布新秀榜TOP10:馬刺榜眼重返前5 不愧是選秀大年

沒有水貨!NBA公布新秀榜TOP10:馬刺榜眼重返前5 不愧是選秀大年

鍋子籃球
2025-12-25 11:00:24
鄧成波去世4年后,留下800億資產(chǎn)快被兒子敗光,如今已經(jīng)瀕臨破產(chǎn)

鄧成波去世4年后,留下800億資產(chǎn)快被兒子敗光,如今已經(jīng)瀕臨破產(chǎn)

歸史
2025-12-24 11:32:03
又一大佬想跑路?他花1元買下8.6億股權(quán)后,在機場被勸返

又一大佬想跑路?他花1元買下8.6億股權(quán)后,在機場被勸返

毒sir財經(jīng)
2025-12-22 21:09:27
一夜之間,房價的玩笑這次開大了

一夜之間,房價的玩笑這次開大了

重遠(yuǎn)投資觀
2025-12-24 12:14:19
2025-12-25 14:07:00
小小河
小小河
站打工人立場,用邏輯理性,探事實真相。投訴者為好人擋災(zāi)。
49文章數(shù) 159關(guān)注度
往期回顧 全部

科技要聞

屠龍少年被"招安"!英偉達平安夜豪擲200億

頭條要聞

女子入室殺害好友三名未成年子女 隨后在樓內(nèi)上吊自殺

頭條要聞

女子入室殺害好友三名未成年子女 隨后在樓內(nèi)上吊自殺

體育要聞

單賽季11冠,羽壇“安洗瑩時代”真的來了

娛樂要聞

金莎小19歲男友求婚成功!兩人雪地?fù)砦?/h3>

財經(jīng)要聞

美國未來18個月不對中國芯片加額外關(guān)稅

汽車要聞

預(yù)售31.3萬元起 全新奧迪Q5L將于1月內(nèi)上市

態(tài)度原創(chuàng)

家居
健康
旅游
本地
手機

家居要聞

經(jīng)典彌新 品味浪漫居所

這些新療法,讓化療不再那么痛苦

旅游要聞

元旦迎新跑,火熱報名中→

本地新聞

云游安徽|亳州晨暮皆成史,街巷縱橫印春秋

手機要聞

三星Wide Fold與蘋果iPhone Fold渲染圖曝光,折疊屏對決將至

無障礙瀏覽 進入關(guān)懷版