人工智能面臨的一個(gè)重大問題是計(jì)算機(jī)內(nèi)存與處理能力之間的交互。當(dāng)算法運(yùn)行時(shí)，數(shù)據(jù)在這兩個(gè)組件之間快速流動(dòng)。然而，AI模型依賴大量數(shù)據(jù)，這會(huì)產(chǎn)生瓶頸。

普渡大學(xué)和佐治亞理工學(xué)院周一在《科學(xué)前沿》期刊發(fā)表的一項(xiàng)新研究，提出了一種使用腦啟發(fā)算法構(gòu)建AI模型計(jì)算機(jī)架構(gòu)的新方法。研究人員表示，以這種方式創(chuàng)建算法可以降低AI模型相關(guān)的能耗。

"語言處理模型在過去四年中規(guī)模增長(zhǎng)了5000倍，"普渡大學(xué)計(jì)算機(jī)工程教授、該研究的主要作者Kaushik Roy在聲明中說。"這種驚人的快速擴(kuò)張使得AI盡可能高效變得至關(guān)重要。這意味著從根本上重新思考計(jì)算機(jī)的設(shè)計(jì)方式。"

當(dāng)今大多數(shù)計(jì)算機(jī)都基于1945年的一個(gè)理念——馮·諾伊曼架構(gòu)，該架構(gòu)將處理和內(nèi)存分離。這就是速度放緩發(fā)生的地方。隨著全球越來越多的人使用數(shù)據(jù)密集型AI模型，計(jì)算機(jī)處理和內(nèi)存容量之間的區(qū)別可能會(huì)成為一個(gè)更嚴(yán)重的問題。

IBM的研究人員在今年早些時(shí)候的一篇文章中指出了這個(gè)問題。計(jì)算機(jī)工程師遇到的問題被稱為"內(nèi)存墻"。

突破內(nèi)存墻

內(nèi)存墻指的是內(nèi)存和處理能力之間的差距。本質(zhì)上，計(jì)算機(jī)內(nèi)存在跟上處理速度方面存在困難。這并不是一個(gè)新問題。弗吉尼亞大學(xué)的兩名研究人員早在1990年代就創(chuàng)造了這個(gè)術(shù)語。

但現(xiàn)在AI已經(jīng)普及，內(nèi)存墻問題正在消耗使AI模型工作的底層計(jì)算機(jī)的時(shí)間和能量。論文的研究人員認(rèn)為，我們可以嘗試一種整合內(nèi)存和處理的新計(jì)算機(jī)架構(gòu)。

受我們大腦功能啟發(fā)，論文中提到的AI算法被稱為脈沖神經(jīng)網(wǎng)絡(luò)。過去對(duì)這些算法的常見批評(píng)是它們可能緩慢且不準(zhǔn)確。然而，一些計(jì)算機(jī)科學(xué)家認(rèn)為，這些算法在過去幾年中已經(jīng)顯示出顯著改進(jìn)。

研究人員建議AI模型應(yīng)該利用與脈沖神經(jīng)網(wǎng)絡(luò)相關(guān)的一個(gè)概念，即內(nèi)存計(jì)算。這個(gè)概念在AI領(lǐng)域仍然相對(duì)較新。

"內(nèi)存計(jì)算通過將計(jì)算能力直接整合到內(nèi)存系統(tǒng)中，為內(nèi)存墻問題提供了一個(gè)有希望的解決方案，"作者在論文摘要中寫道。

醫(yī)療設(shè)備、交通和無人機(jī)是研究人員認(rèn)為如果計(jì)算機(jī)處理和內(nèi)存整合到單一系統(tǒng)中可以得到改進(jìn)的幾個(gè)領(lǐng)域。

"AI是21世紀(jì)最具變革性的技術(shù)之一。然而，要將其從數(shù)據(jù)中心轉(zhuǎn)移到現(xiàn)實(shí)世界，我們需要大幅降低其能源使用，"普渡大學(xué)合著者和研究員Tanvi Sharma在聲明中說。

"通過減少數(shù)據(jù)傳輸和更高效的處理，AI可以適配到小型、經(jīng)濟(jì)實(shí)惠且電池續(xù)航更長(zhǎng)的設(shè)備中，"Sharma說。

Q&A

Q1：什么是內(nèi)存墻問題？

A：內(nèi)存墻指的是內(nèi)存和處理能力之間的差距。本質(zhì)上，計(jì)算機(jī)內(nèi)存在跟上處理速度方面存在困難。這個(gè)概念由弗吉尼亞大學(xué)的研究人員在1990年代提出，現(xiàn)在隨著AI的普及，這個(gè)問題正在消耗使AI模型工作的底層計(jì)算機(jī)的時(shí)間和能量。

Q2：脈沖神經(jīng)網(wǎng)絡(luò)有什么特點(diǎn)？

A：脈沖神經(jīng)網(wǎng)絡(luò)是受大腦功能啟發(fā)的AI算法。過去這些算法的常見問題是可能緩慢且不準(zhǔn)確，但一些計(jì)算機(jī)科學(xué)家認(rèn)為，這些算法在過去幾年中已經(jīng)顯示出顯著改進(jìn)，可以作為解決內(nèi)存墻問題的有效途徑。

Q3：內(nèi)存計(jì)算如何幫助降低AI能耗？

A：內(nèi)存計(jì)算通過將計(jì)算能力直接整合到內(nèi)存系統(tǒng)中，減少了數(shù)據(jù)在處理和內(nèi)存之間的傳輸，從而提高效率。這種方法可以讓AI適配到小型、經(jīng)濟(jì)實(shí)惠且電池續(xù)航更長(zhǎng)的設(shè)備中，大幅降低AI模型的能源使用。