近日，中國科學院自動化研究所李國齊、徐波團隊在《National Science Review》上發(fā)表了題為《Neuromorphic Spike-based Large Language Model》的論文。該團隊提出了一種神經形態(tài)脈沖大語言模型（NSLLM），通過借鑒神經科學原理，提升了大型語言模型（LLMs）的能效和可解釋性。此項研究不僅為高效AI的發(fā)展開辟了新方向，還為下一代神經形態(tài)芯片的設計提供了寶貴的見解。

本研究由多個國內外科研機構合作完成，包括中國科學院自動化研究所、天橋腦科學研究院尖峰智能實驗室、北京智源人工智能研究院、北京中關村學院、加利福尼亞大學、清華大學、北京大學、陸兮科技、悉尼大學、香港理工大學、超威半導體公司、中國科學院大學、寧波大學等。

論文題目： Neuromorphic spike-based large language model 論文鏈接： https://academic.oup.com/nsr/advance-article/doi/10.1093/nsr/nwaf551/8365570

LLMs已成為實現(xiàn)人工通用智能（AGI）的關鍵工具。然而，隨著用戶群體的規(guī)模擴大及使用頻率增加，這些模型的部署帶來了顯著的計算和內存成本，限制其作為人類社會基礎設施的潛力。此外，現(xiàn)有LLMs普遍缺乏可解釋性，決策和優(yōu)化過程的不透明使得其在醫(yī)療和金融等高風險領域的應用難以保證可靠性和公平性。

相比之下，人腦在執(zhí)行復雜任務時的功耗不足20瓦，且展現(xiàn)出驚人的透明度。這一對比凸顯了LLMs與人類認知之間的差距，帶來了雙重挑戰(zhàn)：一方面，亟需提升LLMs的計算效率，以提升能效并節(jié)約資源；另一方面，需提升模型的可解釋性，從而加深對大規(guī)模系統(tǒng)中各組件相互作用和功能的理解。

為突破上述跨學科交叉瓶頸，該研究提出了一種學科統(tǒng)一的框架，通過執(zhí)行整數(shù)脈沖計數(shù)-二值脈沖轉換和脈沖線性注意力機制，將傳統(tǒng)LLMs轉化為NSLLMs，從而鏈接神經科學與大語言模型，為將神經科學工具應用于LLMs提供了平臺。通過引入整數(shù)訓練二值推理，標準LLM的輸出被轉化為脈沖格式，這使得神經科學工具能夠分析信息處理過程。

NSLLM：從大語言模型到神經形態(tài)架構的高效處理框架 二、超低功耗軟硬協(xié)同定制MatMul-Free LLM

為驗證能效，該研究在FPGA平臺上定制了十億參數(shù)量級的無矩陣乘法（MatMul-Free）計算架構。具體地，該研究通過逐層量化策略和層級靈敏度度量，評估層級對模型量化損失的影響，從而配置最優(yōu)混合時間步脈沖模型，在低比特模型中實現(xiàn)了競爭力的性能；通過引入量化輔助稀疏策略，調整膜電位分布，將量化映射概率向較低整數(shù)值移動，從而顯著降低脈沖發(fā)放率，進一步提升模型效率。

在VCK190 FPGA上，該研究設計了MatMul-Free硬件核心，實現(xiàn)了在NSLLM中矩陣乘法操作的完全消除，將動態(tài)功耗降至13.849W，吞吐量提升至161.8 token/s。與A800 GPU相比，該方法的能效、內存和推理吞吐量分別提高了19.8×、21.3×和2.2×。

NSLLM在FPGA平臺上的硬件核心設計 三、脈沖神經群體增強可解釋性

通過NSLLM框架將LLMs的行為轉化為神經動力學模型（例如，脈沖列），可以分析其神經元的動態(tài)（如通過Kolmogorov-Sinai熵度量的隨機性）以及信息處理的過程（如Shannon熵和互信息）。這有助于解釋NSLLM的計算角色。

實驗結果表明，在處理無歧義文本時，模型能夠更有效地進行信息編碼，從而區(qū)分含歧義文本與無歧義文本。（例如，中間層在處理含歧義文本時呈現(xiàn)更高的歸一化互信息；AS 層表現(xiàn)出獨特的動態(tài)特征，顯示其在稀疏信息處理中的作用；FS 層的 Shannon 熵更高，表明其具備更強的信息傳遞能力。此外，互信息與 Shannon 熵的正相關也說明，高信息容量的層更擅長保留輸入的關鍵信息）。

因此，通過將神經動力學與信息度量相結合，該框架為LLM機制提供了生物學上可解釋的見解，同時有效減少了數(shù)據(jù)需求。

NSLLM的神經動力學分析

神經科學的研究表明，人腦通過稀疏和事件驅動計算優(yōu)化能耗，促進信息傳遞，并增強系統(tǒng)的可解釋性?；谶@一思路，該團隊構建了一個跨學科的統(tǒng)一框架，提出了能夠替代傳統(tǒng) LLMs 的神經形態(tài)方案，并在常識推理以及更復雜的大模型任務中（如閱讀理解、世界知識問答、數(shù)學等）保持了與主流同規(guī)模模型相當?shù)男阅鼙憩F(xiàn)。所提出的框架不僅推動了高效AI的前沿發(fā)展，為大語言模型的可解釋性提供了新視角，并為未來神經芯片的設計提供了寶貴的見解。

作者：李國齊、徐波 來源：公眾號【中國科學雜志社】

llustration From IconScout By IconScout Store

-The End-

本周上新！

掃碼觀看！

“AI技術流”原創(chuàng)投稿計劃

TechBeat是由將門創(chuàng)投建立的AI學習社區(qū)（www.techbeat.net）。社區(qū)上線700+期talk視頻，3000+篇技術干貨文章，方向覆蓋CV/NLP/ML/Robotis等；每月定期舉辦頂會及其他線上交流活動，不定期舉辦技術人線下聚會交流活動。我們正在努力成為AI人才喜愛的高質量、知識型交流平臺，希望為AI人才打造更專業(yè)的服務和體驗，加速并陪伴其成長。

投稿內容

// 最新技術解讀/系統(tǒng)性知識分享 //

// 前沿資訊解說/心得經歷講述 //

投稿須知

稿件需要為原創(chuàng)文章，并標明作者信息。

我們會選擇部分在深度技術解析及科研心得方向，對用戶啟發(fā)更大的文章，做原創(chuàng)性內容獎勵

投稿方式

發(fā)送郵件到

michellechang@thejiangmen.com

或添加工作人員微信（michelle333_）投稿，溝通投稿詳情

關于我“門”

將門是一家以專注于數(shù)智核心科技領域的新型創(chuàng)投機構，也是北京市標桿型孵化器。 公司致力于通過連接技術與商業(yè)，發(fā)掘和培育具有全球影響力的科技創(chuàng)新企業(yè)，推動企業(yè)創(chuàng)新發(fā)展與產業(yè)升級。

將門成立于2015年底，創(chuàng)始團隊由微軟創(chuàng)投在中國的創(chuàng)始團隊原班人馬構建而成，曾為微軟優(yōu)選和深度孵化了126家創(chuàng)新的技術型創(chuàng)業(yè)公司。

如果您是技術領域的初創(chuàng)企業(yè)，不僅想獲得投資，還希望獲得一系列持續(xù)性、有價值的投后服務，歡迎發(fā)送或者推薦項目給我“門”:

bp@thejiangmen.com

點擊右上角，把文章分享到朋友圈