科技媒體 livescience 11 月 24 日發(fā)布博文，報(bào)道稱來(lái)自芬蘭阿爾托大學(xué)的研究團(tuán)隊(duì)成功演示名為“并行光學(xué)矩陣-矩陣乘法器”（POMMM）的新一代光學(xué)計(jì)算基礎(chǔ)架構(gòu)，旨在解決人工智能（AI）模型訓(xùn)練和執(zhí)行中的核心瓶頸。

IT之家援引博文介紹，現(xiàn)代 AI 模型，尤其是大語(yǔ)言模型（LLM），其性能受限于處理“張量”（Tensor）數(shù)據(jù)的速度。

Tensor 是 AI 模型中用于組織數(shù)據(jù)的加權(quán)結(jié)構(gòu)，處理速度的上限直接決定了模型規(guī)模的上限。POMMM 架構(gòu)的出現(xiàn)，為突破這一限制提供了全新思路。

傳統(tǒng)光計(jì)算雖然在小規(guī)模下比電子計(jì)算更快、更節(jié)能，但存在一個(gè)致命缺陷：難以并行處理。與可以大規(guī)模串聯(lián)以指數(shù)級(jí)提升算力的圖形處理器（GPU）不同，大多數(shù)光學(xué)系統(tǒng)只能線性運(yùn)行。

因此，盡管光計(jì)算潛力巨大，但開(kāi)發(fā)者普遍傾向于選擇 GPU 的并行處理優(yōu)勢(shì)。像 OpenAI、Google 等公司開(kāi)發(fā)的頂級(jí) AI 模型，正是依賴數(shù)千塊 GPU 并行運(yùn)行才得以實(shí)現(xiàn)。

POMMM 技術(shù)能夠利用單次相干光的傳播過(guò)程，完成整個(gè)矩陣與矩陣的乘法運(yùn)算。其核心原理在于，通過(guò)空間光調(diào)制器將數(shù)字張量編碼為光的相位和振幅，光束穿過(guò)實(shí)現(xiàn)傅里葉變換的透鏡組后，運(yùn)算結(jié)果以干涉圖像的形式被高速探測(cè)器捕捉。整個(gè)算術(shù)過(guò)程在光的“飛行”中瞬間完成，無(wú)需電子環(huán)路或內(nèi)存讀取，實(shí)現(xiàn)了物理層面的“自然同步計(jì)算”。

研究團(tuán)隊(duì)基于現(xiàn)成的光學(xué)元件搭建了原型機(jī)，在標(biāo)準(zhǔn)光學(xué)平臺(tái)上耗時(shí)六個(gè)月完成組裝。測(cè)試結(jié)果顯示，對(duì)于最大 50x50 的矩陣，該原型的平均絕對(duì)誤差（MAE）低于 0.15，歸一化均方根誤差（RMSE）則保持在 0.1 以下。

這一精度已能滿足許多邊緣推理應(yīng)用的需求。盡管當(dāng)前原型機(jī)的能效僅為 2.62 GOP/J（每焦耳執(zhí)行 26.2 億次操作），遠(yuǎn)低于頂尖 GPU，但其潛力巨大。團(tuán)隊(duì)強(qiáng)調(diào)，這項(xiàng)技術(shù)的優(yōu)勢(shì)在于其擴(kuò)展性與速度，運(yùn)算延遲可達(dá)納秒級(jí)，遠(yuǎn)勝于電子計(jì)算的微秒級(jí)。

為了加速技術(shù)驗(yàn)證和社區(qū)發(fā)展，研究團(tuán)隊(duì)已在 GitHub 上開(kāi)放了所有代碼和數(shù)據(jù)。這種透明化的做法增強(qiáng)了外界對(duì)該技術(shù)突破的信心，并吸引了全球光子學(xué)實(shí)驗(yàn)室和 AI 加速器開(kāi)發(fā)者的關(guān)注。

研究人員指出，探測(cè)器的動(dòng)態(tài)范圍和校準(zhǔn)漂移是目前需要攻克的難題，但未來(lái)的技術(shù)路線圖非常清晰。通過(guò)將空間光調(diào)制器和探測(cè)器陣列等關(guān)鍵部件集成到低損耗的氮化硅光子芯片上，能效有望實(shí)現(xiàn)百倍提升。

根據(jù)團(tuán)隊(duì)預(yù)測(cè)，集成了專用光子芯片的原型機(jī)有望在三年內(nèi)問(wèn)世，預(yù)計(jì)能將能效提升至 300 GOP/J，遠(yuǎn)超電子 GPU 目前約 30 GOP/J 的能效瓶頸。不過(guò)，考慮到封裝、溫控和激光器集成等工程挑戰(zhàn)，距離實(shí)現(xiàn)大規(guī)模量產(chǎn)可能還需要五年以上的時(shí)間。

來(lái)源：IT之家

▼ 往期熱文推薦 ▼

【溫馨提示】文中部分圖片來(lái)源網(wǎng)絡(luò)，版權(quán)歸屬原作者，若有不妥，請(qǐng)聯(lián)系告知修改或刪除。