本文作者包括來(lái)自杜克大學(xué)的高智輝、陳廷鈞教授和 MIT 的 Dirk Englund 教授團(tuán)隊(duì)。高智輝，杜克大學(xué)電子與計(jì)算機(jī)工程系博士生。本科畢業(yè)于復(fù)旦大學(xué)電子工程系。研究興趣于下一代網(wǎng)絡(luò)系統(tǒng)，包括信息物理系統(tǒng)、機(jī)器學(xué)習(xí)加速等。

• 論文標(biāo)題：Disaggregated machine learning via in-physics computing at radio frequency
• 論文鏈接：https://www.science.org/doi/10.1126/sciadv.adz0817
• 開源代碼：https://github.com/functions-lab/WISE

模型-數(shù)據(jù)的分解式計(jì)算

機(jī)器學(xué)習(xí)部署在邊端設(shè)備的時(shí)候，模型總是存儲(chǔ)在云端服務(wù)器上（5G 基站），而模型輸入輸出總是在邊端設(shè)備上（例如用照相機(jī)拍攝照片然后識(shí)別其中的目標(biāo)）。在這種場(chǎng)景下，傳統(tǒng)有以下兩種方案完成機(jī)器學(xué)習(xí)的推理：

• 方案一：上傳模型輸入到云端。

這種方案需要每個(gè)用戶分別把自己的模型輸入上傳到云端，然后在云端完成推理，最后把模型輸出下載到各個(gè)用戶。

這種方案需要消耗大量的帶寬資源，尤其是在大用戶規(guī)模的情形下；其次，這種上傳用戶模型輸出的方案會(huì)涉及用戶隱私泄露的問(wèn)題。

• 方案二：廣播模型下載到邊端。

這種方案要求是云端服務(wù)器把模型廣播給所有的用戶，每個(gè)用戶各自存儲(chǔ)模型，并且在邊緣端進(jìn)行計(jì)算。

這種方案極大挑戰(zhàn)了邊緣用戶的算力，并且在模型存儲(chǔ)的過(guò)程中還有邊端存儲(chǔ)讀寫的開銷。

在我們的工作里，我們提出了第三種分離式計(jì)算（disaggregated computing）的方案：廣播模型并在射頻上完成計(jì)算。

在這種方案里，模型存儲(chǔ)在云端并且在射頻上廣播，用戶也把模型輸入調(diào)制到射頻上。所有的計(jì)算都在邊緣端的混頻器（frequency mixer）的模擬計(jì)算中完成，混頻器輸出直接就是模型的輸出。

這種方案成功解決了上述兩種方案的問(wèn)題：模型不需要存儲(chǔ)在邊緣端，所以沒(méi)有存儲(chǔ)讀寫的開銷；混頻器是所有帶網(wǎng)絡(luò)連接功能的邊緣設(shè)備的必備元件，并且是無(wú)源的，所以功耗極低。

利用混頻器進(jìn)行矩陣向量乘

混頻器的本質(zhì)是一個(gè)時(shí)域上乘法器。它把收到的射頻信號(hào)和本地震蕩器產(chǎn)生的信號(hào)相乘，輸出就是解調(diào)后的基帶信號(hào)。在我們的工作中，我們把射頻信號(hào)換成了廣播的模型，本地震蕩器的信號(hào)換成了模型輸入，于是混頻器的輸出就成了模型的輸出。

在數(shù)字信號(hào)處理中，時(shí)域上的乘法就是頻域上的卷積。當(dāng)我們把模型推理過(guò)程抽象成矩陣向量乘 y = Wx 的時(shí)候，我們就可以用卷積來(lái)完成這個(gè)矩陣向量乘。

另外，我們還需要提前在云端測(cè)量無(wú)線信道 H。在發(fā)送的時(shí)候就預(yù)調(diào)制一個(gè)無(wú)線信道的逆變成 V，這樣通過(guò)無(wú)線信道后在邊緣端接收到的信號(hào)就變成了我們希望得到的 W。

在測(cè)試平臺(tái)上的實(shí)驗(yàn)

我們實(shí)現(xiàn)了一臺(tái)云端服務(wù)器廣播給三個(gè)邊緣設(shè)備的機(jī)器學(xué)習(xí)推理。我們?cè)谲浖x測(cè)試平臺(tái)（software-defined radio testbed）上進(jìn)行實(shí)驗(yàn)驗(yàn)證，其中我們使用 USRP X310 作為主要的無(wú)線收發(fā)機(jī)，外接 ZEM-4300+ 作為主要的混頻器。

我們使用了 915 MHz 的頻率和 25 MHz 的帶寬來(lái)無(wú)線廣播模型。

我們先考慮了通用復(fù)數(shù)域的 4096 點(diǎn)的向量?jī)?nèi)積進(jìn)行計(jì)算精度的測(cè)試，實(shí)驗(yàn)上得到的最高計(jì)算精度能達(dá)到 5.5 bit，對(duì)于大部分機(jī)器學(xué)習(xí)推理已經(jīng)足夠。

計(jì)算能耗分析

考慮一個(gè)輸入維度是 N，輸出維度是 M 的矩陣向量乘，我們的模擬計(jì)算架構(gòu)能耗來(lái)源于三個(gè)部分：

• 數(shù)模轉(zhuǎn)換器（DAC）：用于產(chǎn)生模型輸入的信號(hào) x，復(fù)雜度是 O(kMN)。這里的 k 取決于整個(gè)系統(tǒng)的能量效率（例如混頻器的插入損失、接收器的噪聲系數(shù)等），且遠(yuǎn)小于 1。
• 模數(shù)轉(zhuǎn)換器（ADC）：用于采樣模型輸出的信號(hào) y，復(fù)雜度是 O(N)。
• 解碼器：使用 FFT 把輸出的信號(hào) y轉(zhuǎn)到頻域，并且提取出最終的模型輸出 y，復(fù)雜度是 O(N)。

綜上所述，整個(gè)系統(tǒng)的能量消耗是 O(M + kMN) 對(duì)整個(gè)矩陣向量乘；均攤到一個(gè)乘累加（MAC）上就是 O(1/N + k)。也就是說(shuō)，計(jì)算的矩陣向量乘規(guī)模越大，單個(gè)乘累加的能耗越低。

在我們的實(shí)驗(yàn)平臺(tái)上，我們實(shí)現(xiàn)了最高到 32768 點(diǎn)的向量?jī)?nèi)積，能耗可以達(dá)到飛焦級(jí)，比傳統(tǒng)的數(shù)字計(jì)算（皮焦級(jí)）低了 2~3 個(gè)數(shù)量級(jí)。

機(jī)器學(xué)習(xí)推理

在 MNIST 數(shù)據(jù)集上，我們訓(xùn)練了一個(gè)單全連接層的機(jī)器學(xué)習(xí)模型（等價(jià)于邏輯回歸），我們展示了一個(gè)視頻樣例。

此外，我們也考慮了三個(gè)全連接層的模型，傳統(tǒng)的數(shù)字計(jì)算可以達(dá)到 98.1% 的精確度。在用我們的框架時(shí)，精確度可以達(dá)到 95.7%，但是能耗僅需 6.03 fJ/MAC，也就是一次推理共計(jì)6.42 fJ。

我們也考慮了其他機(jī)器學(xué)習(xí)任務(wù)，例如 AudioMNIST 數(shù)據(jù)集上的語(yǔ)音識(shí)別，精確度達(dá)到了 97.2%，而能耗下降到了 2.8 fJ/MAC。

論文總結(jié)

我們的核心創(chuàng)新包括：

• 模型無(wú)線廣播，多終端同時(shí)推理

神經(jīng)網(wǎng)絡(luò)模型被編碼為無(wú)線射頻信號(hào)，由中心無(wú)線節(jié)點(diǎn)統(tǒng)一廣播，覆蓋范圍內(nèi)的任意數(shù)量邊緣設(shè)備都可同步完成推理，實(shí)現(xiàn)真正的「計(jì)算即廣播」的多終端 AI 推理范式。

• 無(wú)需改硬件，把「算力」直接搬進(jìn)無(wú)線射頻

利用邊緣設(shè)備中本就存在的射頻頻率混頻器，該方法無(wú)需任何專用 AI 芯片或電路改動(dòng)，就能在射頻信號(hào)域完成乘加運(yùn)算，實(shí)現(xiàn)真正「零額外能耗」的模擬計(jì)算。

• 單個(gè)射頻器件即可支持規(guī)模化維度的神經(jīng)網(wǎng)絡(luò)計(jì)算

通過(guò)頻域編碼，一個(gè)頻率混頻器即可完成高達(dá) 32,768 維的內(nèi)積運(yùn)算，突破了傳統(tǒng)模擬計(jì)算在規(guī)模上的限制，能夠支撐現(xiàn)代深度學(xué)習(xí)模型的推理需求。