公眾號(hào)記得加星標(biāo)??，第一時(shí)間看推送不會(huì)錯(cuò)過。

近日，Mythic 公司實(shí)現(xiàn)了戲劇性的轉(zhuǎn)變，在由 DCVC 領(lǐng)投的超額認(rèn)購(gòu)融資輪中籌集了 1.25 億美元，旨在解決人工智能在數(shù)據(jù)中心和邊緣面臨的最大問題——其永無止境、破壞性的能源消耗。該公司的架構(gòu)比當(dāng)今頂級(jí) GPU 和所有競(jìng)爭(zhēng)對(duì)手的 AI ASIC 的能效高出 100 倍。

Mythic 憑借其模擬處理單元 (APU) 開啟了加速計(jì)算的新時(shí)代——這是一種與傳統(tǒng) AI 推理截然不同的方法，它將計(jì)算和內(nèi)存融合于同一平面。通過克服傳統(tǒng)數(shù)字架構(gòu)的能耗瓶頸，Mythic 在邊緣設(shè)備、自主系統(tǒng)和數(shù)據(jù)中心領(lǐng)域?qū)崿F(xiàn)了無與倫比的每瓦性能

Mythic擁有唯一一款能效接近人腦的半導(dǎo)體架構(gòu)，并且能夠服務(wù)于人工智能市場(chǎng)的各個(gè)領(lǐng)域。其模擬人工智能芯片支持機(jī)器人、汽車和國(guó)防行業(yè)的AI模型，以及數(shù)據(jù)中心中參數(shù)超過1T的大型語言模型（LLM）。

除了大幅節(jié)能之外，Mythic的芯片還能顯著降低成本和延遲，同時(shí)大幅提升吞吐量。Mythic擁有全球首款量產(chǎn)的模擬計(jì)算芯片，并已獲得美國(guó)國(guó)防部、主要汽車OEM廠商和主要國(guó)防合作伙伴的驗(yàn)證，這使美國(guó)在全球人工智能領(lǐng)導(dǎo)地位的競(jìng)爭(zhēng)中占據(jù)了巨大優(yōu)勢(shì)，因?yàn)樽罱K的勝利不再取決于哪個(gè)國(guó)家能夠以災(zāi)難性的經(jīng)濟(jì)和環(huán)境代價(jià)，最快地生產(chǎn)出最多的電力。

在Mythic經(jīng)歷了一段密集的轉(zhuǎn)型期后，該公司獲得了新的融資。在新領(lǐng)導(dǎo)層的帶領(lǐng)下，Mythic徹底重建了其架構(gòu)、路線圖、軟件和戰(zhàn)略。這一進(jìn)展說服了由深度科技風(fēng)險(xiǎn)投資公司DCVC（自2016年以來一直支持Mythic）牽頭的投資財(cái)團(tuán)，該財(cái)團(tuán)成員包括NEA、Atreides、Future Ventures、軟銀韓國(guó)（SBVA）、S3 Ventures、Linse Capital、One Madison Group、Catapult、UDC等眾多機(jī)構(gòu)。除了這些頂尖的風(fēng)險(xiǎn)投資基金外，本田汽車和洛克希德·馬丁公司也加入了投資行列，這兩家公司分別位列各自行業(yè)（汽車和國(guó)防）的世界前十，它們的加入將助力Mythic在人工智能正在變革的兩個(gè)至關(guān)重要的萬億美元市場(chǎng)中迅速發(fā)展。

Mythic APU將增強(qiáng)GPU性能，解決AI能源危機(jī)

對(duì)于人工智能領(lǐng)域的GPU而言，巨大的能耗已成為一個(gè)生死攸關(guān)的問題：預(yù)計(jì)到本十年末，美國(guó)電網(wǎng)十分之一的電力將用于運(yùn)行由GPU驅(qū)動(dòng)的人工智能工作負(fù)載的數(shù)據(jù)中心。盡管GPU推動(dòng)了生成式人工智能的興起，但它們?nèi)缃駞s面臨著“能耗墻”的困境，因?yàn)樗鼈兪?945年左右的芯片設(shè)計(jì)架構(gòu)——馮·諾依曼架構(gòu)的遺物。在馮·諾依曼架構(gòu)中，內(nèi)存和計(jì)算在物理上是分離的，從設(shè)計(jì)到構(gòu)建都彼此獨(dú)立。這種分離迫使現(xiàn)代芯片在內(nèi)存和處理器之間來回傳輸數(shù)據(jù)，消耗的能量比實(shí)際需要多出三個(gè)數(shù)量級(jí)，導(dǎo)致人工智能領(lǐng)域90%的能源都被浪費(fèi)掉了。現(xiàn)有的基于GPU的人工智能加速器試圖通過高帶寬內(nèi)存（HBM）來彌補(bǔ)這一缺陷，但這種昂貴且效果甚微的改進(jìn)無法阻止當(dāng)前人工智能系統(tǒng)最終因“能耗墻”而崩潰。

Mythic 的計(jì)算機(jī)架構(gòu)不區(qū)分處理器和內(nèi)存，而是將它們視為一體，就像人腦一樣。更重要的是，Mythic 的 APU 以模擬方式執(zhí)行 AI 工作負(fù)載中最繁重的部分，即矩陣乘法——這與人腦的運(yùn)作方式非常相似。其結(jié)果是 AI 領(lǐng)域前所未有的能效水平——Mythic 目前的 APU 架構(gòu)每瓦特每秒可執(zhí)行 120 萬億次運(yùn)算 (TOPS)，比當(dāng)今頂級(jí) GPU（包括內(nèi)存?zhèn)鬏敚┑男阅芨叱?100 倍，同時(shí)精度也高于運(yùn)行在更高精度下的馮·諾依曼架構(gòu)。

Mythic公司基本上找到了一種能夠模擬人腦規(guī)模的方法。該公司開發(fā)的AI不僅擁有卓越的推理能力，而且能耗極低，令人印象深刻。Mythic的APU在能耗方面是硅芯片中最接近人腦的，一次乘加運(yùn)算（MAC）——也就是大型矩陣乘法——僅消耗17飛焦耳的能量，而這種運(yùn)算占當(dāng)今AI數(shù)學(xué)工作負(fù)載的95%。這比在現(xiàn)有GPU上執(zhí)行相同運(yùn)算的能效高出1000倍。

Mythic 由前 NVIDIA 高管 Taner Ozcelik 領(lǐng)導(dǎo)，他創(chuàng)立了 NVIDIA 的汽車業(yè)務(wù)，并在十多年間持續(xù)發(fā)展壯大。Mythic 計(jì)劃進(jìn)軍四個(gè)萬億美元產(chǎn)業(yè)：數(shù)據(jù)中心、汽車、機(jī)器人和國(guó)防，其獨(dú)特的戰(zhàn)略是成為 AI 領(lǐng)域每瓦性能的絕對(duì)領(lǐng)導(dǎo)者，并實(shí)現(xiàn) 100% 的研發(fā)杠桿，就像 NVIDIA 在其 GPU 領(lǐng)域所做的那樣。

奧茲切利克博士表示：“Mythic公司將憑借這一根本洞察贏得市場(chǎng)：能效將決定人工智能計(jì)算的未來。正如GPU憑借其每瓦性能優(yōu)勢(shì)成為除CPU之外的首選加速計(jì)算機(jī)一樣，我們超高能效的APU也將成為除GPU之外的首選加速計(jì)算機(jī)�！�

Mythic 的新一代 APU 使 AI 的擴(kuò)展性遠(yuǎn)勝于 GPU，因?yàn)橄嚓P(guān)網(wǎng)絡(luò)越復(fù)雜，APU 在能效方面的優(yōu)勢(shì)就越明顯。APU 可以輕松擴(kuò)展到 1T 參數(shù)模型，無論是 2D 還是 3D，而且無需像 GPU 那樣通過 NVLINK 建立高速 APU 間連接。內(nèi)部基準(zhǔn)測(cè)試表明，在運(yùn)行 1T 參數(shù) LLM 時(shí)，Mythic APU 的每瓦每秒令牌數(shù) (Tokens/s/W) 比 NVIDIA 的高端 GPU 高出 750 倍。

NEA合伙人Aaron Jacobson表示：“NEA很高興能與Mythic富有遠(yuǎn)見的領(lǐng)導(dǎo)團(tuán)隊(duì)合作，共同致力于利用深度科技創(chuàng)新顛覆萬億美元市場(chǎng)。他們的APU平臺(tái)是對(duì)人工智能基礎(chǔ)設(shè)施的全新革新，突破了當(dāng)前能源和成本的限制。這筆重要的新融資將為Taner和Mythic提供充足的資金，使其能夠快速、大規(guī)模地執(zhí)行項(xiàng)目，并徹底淘汰過時(shí)的芯片架構(gòu)�！�

此外，Mythic APU 的“神經(jīng)元”由高度成熟的硅存儲(chǔ)單元（迄今為止已出貨 1500 億個(gè)）構(gòu)成，這些單元采用標(biāo)準(zhǔn)半導(dǎo)體材料制造。而且，Mythic 的芯片在美國(guó)及其盟友國(guó)家生產(chǎn)。這種制造策略和布局使 Mythic 相對(duì)于使用 GPU 的現(xiàn)有競(jìng)爭(zhēng)對(duì)手以及新興的模擬計(jì)算競(jìng)爭(zhēng)對(duì)手而言，都擁有巨大的優(yōu)勢(shì)。下一代 Mythic APU 展現(xiàn)出巨大的成本優(yōu)勢(shì)，內(nèi)部基準(zhǔn)測(cè)試表明，與最新的 GPU 相比，其每百萬代幣成本最多可降低 80 倍，在 1000 億 LLM 模型中每百萬代幣的成本低至 0.5 美分，在 1T 參數(shù)模型中每百萬代幣的成本低至 4 美分。

Future Ventures創(chuàng)始人兼董事總經(jīng)理Steve Jurvetson是Mythic的首批投資人之一，最近重新加入董事會(huì)。他表示：“Mythic采用了一種全新的方法來構(gòu)建低功耗、低成本的神經(jīng)網(wǎng)絡(luò)，這可以使任何產(chǎn)品更加智能。Mythic可以在單個(gè)晶體管中完成8位乘法和加法運(yùn)算（人工智能計(jì)算的核心要素）！沒有任何數(shù)字設(shè)計(jì)能夠達(dá)到如此高的效率。計(jì)算和存儲(chǔ)在這里合二為一，就像大腦一樣。我們很高興看到Mythic在每美元計(jì)算量和每瓦計(jì)算量方面繼續(xù)超越所有數(shù)字芯片�！�

邊緣感知和卓越的軟件開發(fā)工具包

Mythic憑借其突破性的節(jié)能架構(gòu)，發(fā)明了一種名為Starlight的新型傳感設(shè)備。該設(shè)備功耗低于1瓦，并集成了Mythic APU，通過模擬AI從噪聲中提取信號(hào)，將圖像傳感器的性能提升了50倍。這帶來了顯著的性能提升，尤其是在對(duì)任務(wù)關(guān)鍵型應(yīng)用至關(guān)重要的領(lǐng)域，例如弱光性能，其效果與頂級(jí)圖像傳感器相比可謂“天壤之別”。這項(xiàng)技術(shù)的應(yīng)用前景無限廣闊，涵蓋國(guó)防、機(jī)器人、汽車等眾多領(lǐng)域。Mythic是唯一一家能夠?qū)?qiáng)大而超低功耗的AI引擎集成到傳感器中的公司，這項(xiàng)創(chuàng)新堪稱一項(xiàng)意義重大的救命技術(shù)。

自去年加入Mythic以來，Ozcelik博士更加專注于軟件開發(fā)和SDK成熟度，以有效對(duì)抗NVIDIA根深蒂固的CUDA平臺(tái)。Mythic的CAMP（內(nèi)存模擬計(jì)算處理）SDK目前已支持在其第一代APU上流暢運(yùn)行深度神經(jīng)網(wǎng)絡(luò)（DNN）應(yīng)用程序，并原生支持ONNX、PyTorch和TensorFlow，同時(shí)還可通過NVIDIA的TensorRT在包括NVIDIA Jetson在內(nèi)的多個(gè)CPU平臺(tái)上運(yùn)行。最近，一項(xiàng)德國(guó)研究報(bào)告顯示，CAMP在同類內(nèi)存計(jì)算處理器中成熟度最高。

憑借此輪新融資，Mythic 有望在所有關(guān)鍵任務(wù)型人工智能推理市場(chǎng)帶來巨大變革，為數(shù)據(jù)中心、機(jī)器人、汽車和國(guó)防領(lǐng)域的邏輯層模型 (LLM) 和深度神經(jīng)網(wǎng)絡(luò) (DNN) 帶來顯著的能效和成本優(yōu)勢(shì)。該公司已做好充分準(zhǔn)備，引領(lǐng)人工智能領(lǐng)域兩大重要浪潮：推理時(shí)間擴(kuò)展和物理人工智能。Mythic 的技術(shù)路線圖實(shí)力雄厚，其下一代技術(shù)有望使用戶無需網(wǎng)絡(luò)連接即可在口袋里使用 ChatGPT3+ 級(jí)別的邏輯層模型，而成本僅為現(xiàn)有解決方案的百分之一左右。

DCVC聯(lián)合創(chuàng)始人兼管理合伙人馬特·奧科表示：“Mythic現(xiàn)在完全有能力擴(kuò)展全球下一代偉大的計(jì)算架構(gòu)。該公司來之不易的突破將確保人工智能不會(huì)剝奪世界各地人們賴以生存的能源，并將賦予美國(guó)維護(hù)自由世界安全所需的人工智能優(yōu)勢(shì)。塔納和他的團(tuán)隊(duì)取得了一項(xiàng)文明的進(jìn)步�！�

（來源：半導(dǎo)體行業(yè)觀察綜合）

*免責(zé)聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個(gè)人觀點(diǎn)，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達(dá)一種不同的觀點(diǎn)，不代表半導(dǎo)體行業(yè)觀察對(duì)該觀點(diǎn)贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4260期內(nèi)容，歡迎關(guān)注。

加星標(biāo)??第一時(shí)間看推送，小號(hào)防走丟

求推薦