公眾號記得加星標(biāo)??，第一時間看推送不會錯過。

未來，光而非硅或許將定義人工智能存儲和調(diào)用知識的方式。約翰·卡馬克（John Carmack）——這位因參與《毀滅戰(zhàn)士》（Doom）和Meta虛擬現(xiàn)實項目而聞名的工程師——最近提出了這一想法，他建議使用光纖環(huán)路作為人工智能模型的高速數(shù)據(jù)緩存。他在X論壇上的簡短帖子引發(fā)了一場激烈的技術(shù)討論，研究人員和技術(shù)專家們對經(jīng)典計算機理論與現(xiàn)代光網(wǎng)絡(luò)技術(shù)的融合充滿興趣。

這個思想實驗始于一個數(shù)字。單模光纖現(xiàn)在可以以每秒 256 太比特的速度傳輸 200 公里的數(shù)據(jù)?；谶@一容量，卡馬克估計，在任何給定時刻，電纜中大約存儲著 32 GB 的信息。

卡馬克建議不要將此視為單純的數(shù)據(jù)管道，而是將循環(huán)本身用作存儲。這種“二級”緩存可以以光速持續(xù)循環(huán)存儲模型權(quán)重。其原理類似于內(nèi)存（RAM）在硬盤和處理器之間緩沖數(shù)據(jù)，但延遲幾乎為零，帶寬卻高得多。

這種方法背后的物理原理并不新鮮。評論者很快將卡馬克的推測與延遲線存儲器聯(lián)系起來，這是一種20世紀(jì)中期的技術(shù)，它將信息以脈沖的形式存儲在水銀管中。甚至艾倫·圖靈也曾開玩笑說要用杜松子酒作為介質(zhì)進行實驗。

盡管早期的系統(tǒng)由于穩(wěn)定性差和實際應(yīng)用受限而被棄用，但光纖技術(shù)以現(xiàn)代精度重新賦予了這一概念新的生命。與易失性DRAM相比，光具有可預(yù)測性、低功耗和巨大的帶寬潛力。

潛在的效率優(yōu)勢是該方案吸引人的原因之一。動態(tài)隨機存取存儲器（DRAM）需要不斷進行電信號刷新以保持比特狀態(tài)，這在大規(guī)模人工智能服務(wù)器中會消耗大量能源。相比之下，光纖只需極少的功率即可維持光信號。

正如卡馬克所觀察到的，光纖傳輸?shù)脑鲩L曲線可能比DRAM更有利，尤其是在元件小型化速度放緩的情況下。但他承認存在一個主要障礙——200公里長的高品質(zhì)光纖成本高昂，而且維持傳輸所需的放大器和數(shù)字信號處理器可能會抵消任何節(jié)能效果。

這場辯論甚至轉(zhuǎn)向了推測。埃隆·馬斯克設(shè)想了基于真空的光數(shù)據(jù)傳輸——本質(zhì)上是在自由空間中進行激光存儲——盡管這個想法目前更像是科幻小說，而非工程方案。

對卡馬克而言，更實際的下一步似乎更腳踏實地：通過直接接口將閃存芯片與人工智能加速器緊密耦合，使模型權(quán)重能夠在計算單元之間快速移動，而無需依賴DRAM。這種集成需要半導(dǎo)體制造商和加速器設(shè)計者之間的合作，但考慮到人工智能基礎(chǔ)設(shè)施領(lǐng)域的巨額投資，沒有人認為這是不可能實現(xiàn)的。

研究團隊已經(jīng)開始探索使用固態(tài)存儲的類似架構(gòu)。例如，2021 年的 Behemoth 和 FlashNeuron 項目，以及 FlashGNN 項目，都研究了使用 NAND 閃存作為神經(jīng)網(wǎng)絡(luò)的近內(nèi)存緩存。

最近，增強型內(nèi)存網(wǎng)格（Augmented Memory Grid）計劃提出了一個開源框架，旨在優(yōu)化大型模型的鍵值緩存效率。雖然這些系統(tǒng)仍處于實驗階段，但它們表明存儲和內(nèi)存之間的界限已經(jīng)開始模糊。

https://www.techspot.com/news/111298-john-carmack-proposes-fiber-optic-loops-high-speed.html

（來源：編譯自techspot）

*免責(zé)聲明：本文由作者原創(chuàng)。文章內(nèi)容系作者個人觀點，半導(dǎo)體行業(yè)觀察轉(zhuǎn)載僅為了傳達一種不同的觀點，不代表半導(dǎo)體行業(yè)觀察對該觀點贊同或支持，如果有任何異議，歡迎聯(lián)系半導(dǎo)體行業(yè)觀察。

今天是《半導(dǎo)體行業(yè)觀察》為您分享的第4317期內(nèi)容，歡迎關(guān)注。

加星標(biāo)??第一時間看推送

求推薦