AI的電力黑洞

這兩年，AI公司正在進入一個越來越“耗電”的時代。

為了訓練規(guī)模越來越大的模型，各大科技公司不斷擴建數(shù)據(jù)中心。成千上萬臺服務器晝夜運轉，電力消耗動輒以兆瓦計算。為了保證未來的電力供應，一些公司甚至開始直接投資電廠，或者與能源企業(yè)合作建設專用電力設施。

位于得克薩斯州西部的 GW Ranch 數(shù)據(jù)中心項目渲染圖，

圖中展示了現(xiàn)場安裝的天然氣發(fā)電設施和太陽能發(fā)電設施。

圖源：Pacifico Energy

算力越強，能源消耗也越大。

龐大的數(shù)據(jù)中心不僅消耗大量電力，還需要大量水資源進行冷卻，對環(huán)境和氣候都帶來壓力。

但有趣的是，人類其實早就擁有一臺遠比現(xiàn)有AI更高效的“計算機”。它不僅隨身攜帶，而且?guī)缀趺總€人都有——那就是我們的大腦。

只要20瓦的大腦

美國國家標準與技術研究院（National Institute of Standards and Technology）的研究科學家阿德瓦伊特·馬達范（Advait Madhavan）在2023年寫道：“人類大腦是一種令人驚嘆的高能效設備。從計算能力來看，它每秒可以完成相當于1 exaflop 的運算——也就是10的18次方次數(shù)學計算——而只需要20瓦的功率。”

如果從人體結構來看，大腦確實算得上一個“耗能器官”。按重量計算，它只占人體體重的大約2%，卻消耗了人體約20%的基礎代謝能量。

但從絕對數(shù)值來看，這其實并不算多。假設一個成年人每天攝入2700千卡熱量，其中大約340千卡用于維持大腦運轉。

換算成電能，大約是0.4千瓦時——只夠讓一只傳統(tǒng)的60瓦白熾燈亮不到7個小時。

甚至還不如吃三根香蕉獲得的能量。

換句話說，你每天只需要“三根香蕉級別”的能量，就能驅動這臺極其復雜的“生物計算機”。

要20兆瓦的超級計算機

如果把人腦和現(xiàn)代超級計算機進行對比，這種差距就更加明顯。

世界上最強大的超級計算機之一——Frontier supercomputer——最近也實現(xiàn)了exaflop級計算能力。但要完成同樣的運算，它需要大約20兆瓦的功率，比人腦高出整整一百萬倍。

圖源：wikipedia

如果換算成能源消耗，讓這臺超級計算機運行一天，大約需要燃燒207噸煤，同時產(chǎn)生約340噸二氧化碳。

如果不用煤，也可以燃燒約12萬升液態(tài)石油，排放量大約是前者的一半；或者燃燒8400萬升天然氣，產(chǎn)生約74噸二氧化碳。

顯然，這樣的能源消耗不可能無限制地持續(xù)下去。

但另一方面，計算機和人工智能——以及它們不斷增長的算力需求——在短時間內(nèi)也不會消失。

于是，一個問題開始變得越來越重要：既然大腦能用這么少的能量完成復雜計算，人類能不能從大腦身上學到一些東西？

大腦為什么這么高效？

有一個流傳很廣的說法認為，人類只使用了10%的大腦。

這個說法其實并不正確。

現(xiàn)實情況是，大多數(shù)時候我們都會使用大腦的大部分區(qū)域，而在某些情況下，幾乎整個大腦都會參與活動。

圖源：remapstudio

不過，這個說法確實暗示了一點：大腦并不會在同一時間動用所有神經(jīng)元。

2024年，Chang Xu（悉尼大學人工智能中心副教授）解釋說，大腦大約擁有1000億個神經(jīng)元，但它會根據(jù)任務不同，從不同腦區(qū)選擇性地調(diào)用這些神經(jīng)元。

只需要二十多瓦的功率，大腦就能驅動整個身體運作。

它可以在腦海中形成內(nèi)心獨白，也可以憑空想象畫面；當有人向你扔來一個球時，大腦能夠迅速識別球的形狀，計算運動軌跡，預測落點，并把你的手移動到正確位置完成接球——這一切都發(fā)生在幾毫秒之內(nèi)。

同時計算的力量

科學家一直試圖在人工系統(tǒng)中復制這種效率，但始終非常困難，其中一個原因在于計算方式的不同。

2018年，Think Tank: Forty Scientists Explore the Biological Roots of Human Experience一書中，Liqun Luo（斯坦福大學生物學教授）指出，計算機和大腦最重要的差別之一在于信息處理方式。

傳統(tǒng)計算機通常按順序一步一步執(zhí)行任務。工程師編寫程序時，會設計一條連續(xù)的指令流程。

在這種結構中，每一步都必須非常精確，因為一旦出現(xiàn)錯誤，就會在后續(xù)步驟中不斷累積并放大。

雖然大腦有時也會使用類似的順序步驟，但它還有另一種能力——大規(guī)模并行處理。

圖源：iflscience

以接球為例。

如果由計算機來完成，它需要先識別球，再測量運動，再計算軌跡，再計算落點，最后才能控制你的手移動到指定位置。

而人腦幾乎是在同一時間完成這些步驟。

來自視網(wǎng)膜的信號經(jīng)過兩三次突觸連接后，關于球的位置、方向和速度的信息就已經(jīng)被提取出來，并以并行方式傳送到大腦。

與此同時，大腦的運動皮層會同時向腿部、軀干、手臂和手腕發(fā)出指令，讓身體在同一時間調(diào)整到合適位置，從而接住飛來的球。

模仿大腦計算

正因為如此，越來越多計算機工程師開始嘗試讓計算機模仿大腦。

2024年，Suin Yi（德克薩斯農(nóng)工大學工程學院電氣與計算機工程助理教授）指出，傳統(tǒng)AI模型主要依賴一種叫做反向傳播的訓練方法，但這種方法在生物學上并不符合真實大腦的學習機制。

因此，如果想打造更接近人腦的計算機，就需要重新設計算法和網(wǎng)絡結構。

例如，薩里大學的研究人員正在研究一種名為Topographical Sparse Mapping的技術，讓神經(jīng)元只與附近節(jié)點連接，從而顯著降低能耗。

另一種改進方法Enhanced Topographical Sparse Mapping還能進一步刪除不必要的連接，就像人類大腦在學習過程中會逐漸精簡神經(jīng)連接一樣。

去年，莫森·卡梅利安·拉德（Mohsen Kamelian Rad）表示，當模仿大腦的拓撲結構時，AI系統(tǒng)可以學習得更快，同時消耗更少能量。

下一代計算機

與此同時，悉尼大學和布法羅大學的研究團隊也在開發(fā)類似的類腦神經(jīng)模型。

他們希望的不只是更節(jié)能的計算機，還包括更靈活的系統(tǒng)——能夠利用有限甚至模糊的數(shù)據(jù)進行推理，并以非線性的方式處理問題。

正如阿德瓦伊特·馬達范所說，下一代計算機可能會與今天的計算機完全不同。隨著人類收集的數(shù)據(jù)越來越多，計算系統(tǒng)的需求也在改變。

而答案，也許早就寫在我們自己的大腦里。

讓我們說：謝謝大腦！

大腦由數(shù)十億的神經(jīng)元構成，它控制著我們的思想、動作、行為和情緒，是我們意識的所在地，一直以來，科學家在不斷探索大腦是如何運作的。這本全面、通俗易懂且插圖豐富的書是對人體中最復雜器官的一次引人入勝的探索。

本書結合了最新的圖像技術，非常具有趣味性地探討了諸如我們?nèi)绾胃兄澜?，我們?nèi)绾萎a(chǎn)生記憶，我們的情緒由誰掌控等問題。通過本書，讀者可以了解自己，了解大腦。本書適合對大腦及生命科學感興趣的讀者。