北京
AIPress.com.cn報(bào)道
2月28日消息，據(jù)《華爾街日?qǐng)?bào)》披露，OpenAI將導(dǎo)入英偉達(dá)最新基于Groq技術(shù)的AI推理芯片。
英偉達(dá)計(jì)劃在下個(gè)月于圣何塞舉辦的 GTC 開(kāi)發(fā)者大會(huì)上，發(fā)布一款全新的處理器。這款產(chǎn)品的核心使命非常明確：全力加速 AI 推理過(guò)程。
據(jù)悉，新產(chǎn)品將集成 Groq 設(shè)計(jì)的芯片技術(shù)。這一舉措旨在幫助 OpenAI 等頭部客戶構(gòu)建運(yùn)行速度更快、能效比更高的 AI 系統(tǒng)，以應(yīng)對(duì)日益龐大的模型推理需求。
有消息稱，英偉達(dá)已與 Groq 簽署了一項(xiàng)價(jià)值約 200 億美元的技術(shù)授權(quán)協(xié)議。
AI 推理是指模型在訓(xùn)練完成后實(shí)際運(yùn)行和響應(yīng)用戶請(qǐng)求的過(guò)程。隨著大模型應(yīng)用場(chǎng)景不斷擴(kuò)大，推理環(huán)節(jié)的算力需求也在快速增長(zhǎng)。過(guò)去幾年，英偉達(dá)憑借 GPU 在模型訓(xùn)練領(lǐng)域占據(jù)主導(dǎo)地位，如今將推理單獨(dú)拎出來(lái)作為產(chǎn)品方向，顯示出行業(yè)重心正在發(fā)生變化。
Groq 此前以自研的 LPU 推理芯片受到關(guān)注，主打低延遲、高吞吐的推理性能。此次與英偉達(dá)合作，意味著其技術(shù)路線獲得了行業(yè)巨頭的認(rèn)可，同時(shí)也為英偉達(dá)在推理領(lǐng)域補(bǔ)充了新的能力。
目前，雙方尚未就此事公開(kāi)回應(yīng)。更多細(xì)節(jié)預(yù)計(jì)將在 GTC 大會(huì)期間披露。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
