清華大學(xué)交叉信息研究院長聘副教授馬愷聲

出品｜搜狐科技

作者｜張雅婷

編輯｜楊 錦

• 高端AI芯片是必爭之地，但走別人的路很難超過別人，所以要發(fā)展Chiplet、 3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成等先進(jìn)技術(shù)路線。

• 從技術(shù)角度來說，芯片可以被實(shí)時(shí)位置驗(yàn)證、遠(yuǎn)程關(guān)閉，所以用海外廠商的芯片的安全風(fēng)險(xiǎn)是存在的。

• 寒武紀(jì)股價(jià)超過茅臺，肯定是件好事兒，因?yàn)樽鲂酒軣X。

• 北極雄芯在車載場景，我們算“第一個(gè)吃螃蟹的人”，拓展性、迭代性都比傳統(tǒng)方案有巨大優(yōu)勢。

“國產(chǎn)芯片是必爭之地，如今我們在工藝導(dǎo)致的算力上和國外差了幾個(gè)generation（代際）?！?/p>

近日，清華大學(xué)交叉信息研究院長聘副教授馬愷聲在和搜狐科技交流時(shí)表示，大模型會改變?nèi)祟惖纳罘绞?，而國?nèi)不缺數(shù)據(jù)、算法能看齊國外，AI芯片是必須要建設(shè)好的基礎(chǔ)設(shè)施。

馬愷聲2018年畢業(yè)于美國賓夕法尼亞州立大學(xué)，同年經(jīng)姚期智院士招募回國并任職于清華大學(xué)。他的研究方向是后摩爾時(shí)代的先進(jìn)芯片架構(gòu)，曾獲得EDAA 2018年杰出博士論文、HPCA最佳論文等獎(jiǎng)項(xiàng)。

AI芯片，尤其是GPU長期被英偉達(dá)“統(tǒng)治”，占據(jù)超八成的市場份額。不過今年以來，國產(chǎn)AI芯片發(fā)展勢頭迅猛。在資本市場上，摩爾線程、沐曦股份、壁仞科技等頭部GPU廠商正集體沖刺IPO。

發(fā)展國產(chǎn)AI芯片，也有出于安全的考慮。7月底，國家網(wǎng)信辦就H20算力芯片漏洞后門安全風(fēng)險(xiǎn)約談英偉達(dá)公司。此前有美國人工智能領(lǐng)域?qū)＜彝嘎?，英偉達(dá)算力芯片“追蹤定位”“遠(yuǎn)程關(guān)閉”技術(shù)已成熟。

馬愷聲表示，單純從技術(shù)上來說，確實(shí)是有風(fēng)險(xiǎn)的，之前英偉達(dá)還鎖過卡，因?yàn)楫?dāng)時(shí)英偉達(dá)不希望有人拿它來“挖礦”。

整體來看，馬愷聲認(rèn)為，國產(chǎn)AI芯片現(xiàn)在處于“以前沒有、現(xiàn)在能用”的狀態(tài)，要想在芯片領(lǐng)域超過別人需要“另辟蹊徑”，而不是走別人走過的路。比如，用Chiplet （3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成）等技術(shù)做芯片。

2021年，馬愷聲創(chuàng)立北極雄芯公司，基于Chiplet（芯粒）這種先進(jìn)技術(shù)，面向AI、汽車、機(jī)器人三大領(lǐng)域布局芯片業(yè)務(wù)，希望推動在芯片這種“卡脖子”關(guān)鍵技術(shù)領(lǐng)域，用不同的技術(shù)路線做出來的芯片能夠得到應(yīng)用。

Chiplet的概念最早源于1970 年代誕生的多芯片模組，通俗來說，也就是從原來設(shè)計(jì)在同一個(gè)SoC中的芯片，被分拆成許多不同的小芯片分開制造再加以封裝或組裝。近年來，摩爾定律逐漸失效，如果進(jìn)一步堆積算力成為主要的挑戰(zhàn)。也就衍生出超越光罩尺寸芯片集成的需求，甚至多卡、多機(jī)、多數(shù)據(jù)中心Scale up、Scale out、Scale cross的需求。

馬愷聲向搜狐科技表示，Chiplet技術(shù)可以把大芯片做小，在國內(nèi)也有很現(xiàn)實(shí)的意義，在國產(chǎn)芯片工藝和良率還在爬坡的情況下，如何利用良率還在爬坡的工藝做出有競爭力的產(chǎn)品，以及如何用國內(nèi)還比較有競爭力的封裝工藝進(jìn)行集成，具有巨大的戰(zhàn)略意義。

以下為對話實(shí)錄：

搜狐科技：前段時(shí)間，網(wǎng)信辦約談英偉達(dá)，要求其就對華銷售的H20算力芯片漏洞“后門”安全風(fēng)險(xiǎn)問題進(jìn)行說明。從技術(shù)角度來說，芯片能做到實(shí)時(shí)位置驗(yàn)證、遠(yuǎn)程關(guān)閉嗎？

馬愷聲：確實(shí)有這樣的可能性，比如拋開這個(gè)事情來看，很早之前英偉達(dá)是鎖過卡的，因?yàn)楫?dāng)時(shí)英偉達(dá)不希望有人拿它來“挖礦”。大部分服務(wù)器都是聯(lián)網(wǎng)的，理論上都可以遠(yuǎn)程關(guān)閉、實(shí)時(shí)位置驗(yàn)證。但從公司的角度來看，是否有必要花這么大的精力去這樣做，其實(shí)是不得而知的。

搜狐科技：為什么即使英偉達(dá)芯片存在一定風(fēng)險(xiǎn)，商業(yè)公司還是會優(yōu)先考慮英偉達(dá)？

馬愷聲：訓(xùn)練方面，萬卡、十萬卡的互聯(lián)，國產(chǎn)芯片確實(shí)還有差距，英偉達(dá)穩(wěn)定性更好，互聯(lián)技術(shù)、軟件方面有壁壘。推理方面，英偉達(dá)的產(chǎn)品性價(jià)比更高，比如消費(fèi)級顯卡4090、5090，只有50%的毛利，還都用的3nm、4nm先進(jìn)制程工藝。而大陸由于眾所周知的原因還有明顯差距，并且產(chǎn)能有限。在受到制裁的情況下，晶圓價(jià)格和NRE（非重復(fù)性工程費(fèi)用）價(jià)格都偏高。

搜狐科技：國產(chǎn)AI芯片，現(xiàn)在發(fā)展到了什么樣的程度？

馬愷聲：現(xiàn)在其實(shí)缺乏一套比較fair的測評標(biāo)準(zhǔn)，很多公司都說自己做得很好，但實(shí)際測出來又不一樣了。整體來說，（國產(chǎn)）AI芯片現(xiàn)在處于一個(gè)以前沒有、現(xiàn)在能用的狀態(tài)。

搜狐科技：發(fā)展國產(chǎn)芯片的緊迫性強(qiáng)嗎？

馬愷聲：這是必爭之地，這一代大模型確實(shí)會改變?nèi)祟惖纳罘绞?，那么我們?shù)據(jù)不缺，算法至少能看齊，而算力差了幾個(gè)generation。芯片是基礎(chǔ)設(shè)施，如果這個(gè)事情搞不定，其他的更難。

搜狐科技：為什么您會選擇用Chiplet的技術(shù)做芯片？

馬愷聲：走別人的路，想超過別人是很難的，所以要“另辟蹊徑”。比如，用Chiplet、 3D DRAM堆疊、3D Flash堆疊、Wafer-Scale集成也算一種解決方式。通過Chiplet的方式，有望把單片的算力用國產(chǎn)工藝?yán)鰩资兜男詢r(jià)比，解決國產(chǎn)工藝下，單片性能受限以及良率較低的問題。

搜狐科技：您回國做芯片的初衷是什么？

馬愷聲：2018年4月，姚期智院士把我從美國招回來，目標(biāo)就是做算力。姚先生很有戰(zhàn)略眼光，當(dāng)時(shí)我們覺得國際形勢已經(jīng)有些分立的苗頭，需要儲備相關(guān)技術(shù)。

搜狐科技：您創(chuàng)立的北極雄芯，主要針對的場景是什么？比如車載？

馬愷聲：從創(chuàng)始人的角度來看，一個(gè)沒有體量的公司是沒有意義的，車載芯片的體量不錯(cuò)，中國市場每年2000-3000萬輛車，這個(gè)市場的量可以把上下游供應(yīng)鏈催熟，使得供應(yīng)鏈能夠大批量出貨，從而降低批量成本。

我們跟吉利、長安等主流車企推進(jìn)的速度比較快，現(xiàn)在在POC（概念驗(yàn)證）的階段，樂觀一點(diǎn)的話，明年大概出貨量估計(jì)會有二三十萬片。在車載場景，我們算“第一個(gè)吃螃蟹的人”，并且這個(gè)這個(gè)技術(shù)路線由于本身良率的提高，比現(xiàn)行的方案能便宜10%到20%。

另外，車載的芯片當(dāng)然還可以應(yīng)用于機(jī)器人芯片，我們也在積極推進(jìn)。北極雄芯主要提供擁有自主知識產(chǎn)權(quán)的全國產(chǎn)智能芯片；明年我們推出的新一代產(chǎn)品，帶寬可以達(dá)到10TB，7B模型可以運(yùn)行到800token/S起。

搜狐科技：大模型場景，你們的進(jìn)展如何？

馬愷聲：我們不僅僅是面向端側(cè)AI場景，我們也在發(fā)力云端推理方案。公司基于多年基礎(chǔ)研發(fā)所積累的NPU及工具鏈能力、模型部署優(yōu)化能力、Chip-to-Chip互聯(lián)能力等，積極推動面向云端推理PD分離策略的專用加速方案研發(fā)，通過Chiplet+PIM/PNM等前沿技術(shù)，充分利用全國產(chǎn)化供應(yīng)鏈資源，有效解決大模型推理應(yīng)用落地所面臨的成本痛點(diǎn)，較目前主流部署方案進(jìn)一步提升5-10倍性能，10-100倍性價(jià)比。大概明年年終大批量開始出貨，我們已經(jīng)有了國內(nèi)大模型公司的訂單意向，幾千臺服務(wù)器是看得到的。

搜狐科技：國產(chǎn)AI芯片概念火熱，甚至寒武紀(jì)股價(jià)一度超過茅臺成為A股新股王，您如何看待這樣的現(xiàn)象？

馬愷聲：這肯定是件好事兒，因?yàn)樽鲂酒菬X的，股票市場的融資成本其實(shí)非常低，能夠提供足夠的資金儲備。這對于整個(gè)行業(yè)都是非常積極的消息。

搜狐科技：北極雄芯最近完成了新一輪過億元融資，您從自己做企業(yè)的感受來看的話，今年市場水溫如何？

馬愷聲：現(xiàn)在比幾年前是好了非常多。有幾個(gè)趨勢：從以前美元主導(dǎo)到現(xiàn)在的國資主導(dǎo)；從短視和激進(jìn)逐利資本到耐心資本的變化；另外就是整個(gè)資本行業(yè)的精神非常好，大家都非?？春梦磥淼男蝿?，看好國家的向上發(fā)展。

運(yùn)營編輯 |孟莎莎