在AI算力成本居高不下、大模型部署門檻越來越高的今天，一家來自美國西雅圖的硬件初創(chuàng)公司，正用全新路線向英偉達發(fā)起正面挑戰(zhàn)。

近日，由前蘋果、Meta機器學(xué)習(xí)工程師聯(lián)合創(chuàng)立的AI硬件公司ElastixAI正式走出隱身模式，發(fā)布了基于FPGA的大語言模型推理平臺。

這家成立不久的初創(chuàng)公司，直接打出了一組極具沖擊力的數(shù)據(jù)：

相比英偉達GPU部署方案，其平臺可實現(xiàn)總體擁有成本最高降低50倍，功耗減少80%。

前蘋果Meta團隊出山，1800萬美元融資加持

ElastixAI的創(chuàng)始團隊來頭不小，核心成員均來自蘋果、Meta、Waymo等一線科技巨頭，在機器學(xué)習(xí)優(yōu)化、AI芯片、自動駕駛系統(tǒng)等領(lǐng)域擁有深厚積累。

2025年5月，公司已完成由Fuse VC領(lǐng)投的1800萬美元種子輪融資。

此次公開亮相，他們帶來了可直接替換現(xiàn)有GPU服務(wù)器的Elastix Rack整機方案，首批硬件計劃在2026年年中正式出貨。

在產(chǎn)品發(fā)布前的獨家專訪中，聯(lián)合創(chuàng)始人團隊詳細解釋了一個核心判斷：

GPU擅長訓(xùn)練，F(xiàn)PGA才是推理的未來。

GPU天生不適合LLM推理：一個根本性錯配

ElastixAI的核心論點非常清晰：

當(dāng)前行業(yè)的主流方案——英偉達GPU，從架構(gòu)上就不是為LLM推理設(shè)計的。

?大模型訓(xùn)練：強計算密集型，需要大量算力，GPU如魚得水。

?大模型推理：強內(nèi)存密集型，更吃帶寬與容量，GPU效率大幅下降。

創(chuàng)始人Mohammad Rastegari直言：

“訓(xùn)練高度依賴算力，推理高度依賴內(nèi)存。這種錯配，直接導(dǎo)致GPU在推理場景下利用率極低?！?/p>

更致命的是硬件僵化問題。

以4比特量化為例，理論上可以讓吞吐量翻倍，但在H100這類缺乏原生支持的硬件上，工程師只能通過軟件內(nèi)核“繞路實現(xiàn)”，最終算力利用率可能只有10%。

ElastixAI 的方法如何應(yīng)對關(guān)鍵的大型語言模型推理挑戰(zhàn)

ElastixAI的思路則完全不同：

不堆最貴的存儲，不做封閉的專用芯片，而是圍繞單位帶寬成本、單位容量成本這兩個真正決定TCO的指標(biāo)做優(yōu)化。

通過軟件?ML?硬件協(xié)同設(shè)計，在通用商用FPGA服務(wù)器上榨干性能，用更便宜的DDR、HBM實現(xiàn)大模型推理所需的帶寬，成本遠低于行業(yè)頂級存儲方案。

為什么選FPGA，而不是死磕專用芯片？

很多人會問：既然要顛覆GPU，為什么不直接做ASIC專用芯片？

ElastixAI的答案非?，F(xiàn)實：

AI迭代速度，已經(jīng)遠超芯片研發(fā)周期。

Rastegari舉了一個極具說服力的例子：混合專家模型MoE。

不少公司剛立項流片時，MoE還不是主流；等芯片設(shè)計完成、準(zhǔn)備量產(chǎn)，行業(yè)已經(jīng)全面轉(zhuǎn)向MoE，之前的芯片直接過時。

“定制芯片從設(shè)計到量產(chǎn)要三年以上，

但機器學(xué)習(xí)的格局，幾個月就可能天翻地覆?！?/p>

反觀FPGA，優(yōu)勢一目了然：

可快速重構(gòu)、隨需求迭代。

從早期20令牌/秒就能滿足交互，到如今需要200令牌/秒支持推理，硬件需求變化極快。

FPGA可以持續(xù)適配，而固定架構(gòu)芯片做不到。

團隊同時指出：

通用性和效率本身就是矛盾。

越追求通用，就要加越多冗余硅片，效率必然下降。

Transformer架構(gòu)如今已足夠穩(wěn)定，非常適合用FPGA實現(xiàn)；

而底層優(yōu)化仍在飛速迭代，鎖定專用芯片設(shè)計，風(fēng)險極高。

至于未來是否會自研專用芯片，公司態(tài)度非常謹慎：

“是否流片、何時流片，完全取決于機器學(xué)習(xí)技術(shù)的迭代速度。”

成本降50倍、功耗降80%，還能風(fēng)冷部署

在最關(guān)鍵的性能對比上，ElastixAI給出了明確數(shù)據(jù)：

?相比英偉達B200，成本優(yōu)勢最高可達50倍

?同等吞吐量下，單令牌功耗降低5倍

?整體功耗降低80%

這些數(shù)字覆蓋數(shù)據(jù)中心全場景的資本支出CapEx與運營支出OpEx，并已與FPGA廠商、數(shù)據(jù)中心運營商聯(lián)合驗證。

更讓現(xiàn)有機房心動的是部署條件：

?Elastix Rack：標(biāo)準(zhǔn)機柜，17–19 kW，風(fēng)冷即可

?英偉達GB200 NVL72：120–200 kW，需要專用液冷

絕大多數(shù)現(xiàn)有數(shù)據(jù)中心，無法直接上英偉達高端方案，

但可以無縫接入ElastixAI的FPGA機架。

即插即用：無痛替換英偉達GPU

為了降低遷移門檻，ElastixAI做了一個極其關(guān)鍵的設(shè)計：

通過vLLM插件，直接替換掉英偉達CUDA后端，

但前端OpenAI兼容接口完全不變。

這意味著：

從GPU遷移過來的用戶，不需要修改任何應(yīng)用代碼與業(yè)務(wù)棧，就能直接使用。

公司還計劃效仿英偉達早年構(gòu)建CUDA生態(tài)的思路：

未來向研究者開放模型轉(zhuǎn)換工具，免費提供軟件能力，

逐步圍繞自身平臺，形成持續(xù)滾動的開發(fā)者飛輪。

ElastixAI 的方法相較于標(biāo)準(zhǔn) GPU 機架實現(xiàn)在 AI 計算中具有多項關(guān)鍵優(yōu)勢

在英偉達憑借GPU占據(jù)AI算力絕對主導(dǎo)的今天，ElastixAI走出了一條差異化路線：

不做最貴的芯片，做最適合推理的方案。

用FPGA替代GPU、用通用硬件替代專用加速器、用風(fēng)冷替代液冷、用低成本替代高投入。

如果其宣稱的**成本降50倍、功耗降80%**能夠落地，

那么整個LLM部署、云服務(wù)商、數(shù)據(jù)中心的格局，都可能被重新改寫。

目前，ElastixAI已向部分企業(yè)客戶與數(shù)據(jù)中心開放試用，

硬件正式交付時間定在2026年年中。

GPU的推理霸權(quán)，真的要被FPGA動搖了嗎？

我們很快就會看到答案。

參考原文

https://www.allaboutcircuits.com/news/elastixai-emerges-from-stealth-with-fpga-approach-to-gen-ai-supercomputing

創(chuàng)芯大講堂 芯片課程 75折倒計時