如今，在關(guān)于 AI 的討論中，大模型仍然占據(jù)著最突出的位置。但在它之外，另一條更貼近現(xiàn)實世界的方向正在悄然加速：端側(cè) AI。

所謂端側(cè)AI，是指將算法和模型直接部署在機(jī)器人、智能汽車、消費(fèi)電子、智能制造等終端設(shè)備上，使設(shè)備能夠在本地完成數(shù)據(jù)采集、分析、推理和決策，而無需依賴云端服務(wù)器持續(xù)聯(lián)網(wǎng)傳輸數(shù)據(jù)的技術(shù)模式。

以具身機(jī)器人為例，如果其動作決策完全依賴云端計算，網(wǎng)絡(luò)波動可能導(dǎo)致抓取、避障或交互動作延遲，影響操作安全和自然性；而搭載端側(cè) AI，它就能在本地毫秒級完成手勢識別、物體抓取或行人避讓，不僅降低功耗，還能確保交互過程中敏感視頻或傳感數(shù)據(jù)不外傳，提升隱私與安全性。

從云端到端側(cè)，不僅是算力位置的遷移，更需要對整體架構(gòu)進(jìn)行重寫。傳統(tǒng)設(shè)備長期遵循“先采集、后傳輸、再計算”的串行邏輯，傳感器與處理器各自為政，數(shù)據(jù)搬運(yùn)會消耗大量時間與能量。而端側(cè) AI 則需要做到“感算一體”：讓感知與計算在物理層面深度融合，實現(xiàn)“感知即計算”。

在這方面，上海交通大學(xué)人工智能學(xué)院副教授程遠(yuǎn)的研究方向頗具代表性。從清華大學(xué)的前沿交叉，到上海交通大學(xué)的系統(tǒng)研究，再到橫跨學(xué)術(shù)界與產(chǎn)業(yè)界的多段經(jīng)歷，他始終聚焦一個問題：如何讓智能真正“落地”？

在采訪中，程遠(yuǎn)對于每一個問題的解答幾乎都是以“系統(tǒng)性工程”的角度去看待。無論是探索突破傳統(tǒng)存算瓶頸的光子計算，還是重構(gòu)端側(cè)硬件架構(gòu)，他認(rèn)為，AI 的規(guī)模化落地并非依賴算法單點(diǎn)突破，而是算力底座、物理器件與軟硬件協(xié)同設(shè)計的同步演進(jìn)。

這種思路，也體現(xiàn)在他的創(chuàng)業(yè)實踐中。2019 年，程遠(yuǎn)還在上交大讀博期間作為創(chuàng)始人成立了辛米爾科技，現(xiàn)擔(dān)任首席科學(xué)家。作為一家端側(cè) AI 公司，辛米爾試圖打破傳統(tǒng)馮·諾依曼架構(gòu)的邊界，將感知、計算與行動深度融合。在他們看來，AI 的下半場需要的不是更大的模型，而是更高效、更實時、能夠嵌入物理設(shè)備的硬件原生智能系統(tǒng)。

而這種硬件原生的端側(cè)能力，也是 Agentic AI 從“對話”走向“行動”的關(guān)鍵。當(dāng)設(shè)備具備本地實時感知與自主決策能力，AI 便能擺脫對云端調(diào)度的絕對依賴，在真實場景中形成感知-規(guī)劃-執(zhí)行的閉環(huán)，真正具備與環(huán)境持續(xù)交互的主體性。

在這次對話中，我們試圖沿著這一線索，理解一位同時身處學(xué)術(shù)前沿與產(chǎn)業(yè)一線的研究者，如何看待端側(cè) AI 的技術(shù)拐點(diǎn)、Agentic AI 從云端走向終端的系統(tǒng)演進(jìn)，以及光子計算等底層硬件創(chuàng)新將如何重塑下一代智能設(shè)備的形態(tài)與邊界。

以下是對話內(nèi)容：

DeepTech：2026 年被稱為 Agentic AI 元年，AI 正在從 chatbot 向可行動的 agent 轉(zhuǎn)變。你如何理解這波 Agentic AI 熱潮？它與此前的大模型熱有何本質(zhì)區(qū)別？

程遠(yuǎn)：這波熱潮最核心的變化，是 AI 從“只會說”真正走向“會去做”。前一波大模型熱潮更多聚焦在內(nèi)容生成和問題回答，本質(zhì)上是信息輸出。而 Agentic AI 往前邁進(jìn)了一步，它進(jìn)入了任務(wù)閉環(huán)，需要感知環(huán)境、做出判斷、調(diào)用工具，最終落實到具體的行動和動作。

最大的區(qū)別在于評判標(biāo)準(zhǔn)變了。以前大家關(guān)心模型聰不聰明，現(xiàn)在更關(guān)心它能否把交代的事情做完，而且要做得穩(wěn)定、低延時、魯棒可靠。這意味著問題已經(jīng)不只是模型層面的問題，而是系統(tǒng)性問題?？梢哉f，AI 的上半場解決的是"大模型能不能做出來"，下半場要回答的是"能不能真正用起來，并且規(guī)?；渴?。Agent 熱潮正代表了這個轉(zhuǎn)折點(diǎn)。

DeepTech：目前大多數(shù)人談到 Agentic AI 時，首先想到的是軟件層面的 agent，比如前段時間很火的 OpenClaw 等智能體，它們能訂機(jī)票、寫代碼、完成基礎(chǔ)工作。但你做的是硬件和端側(cè) AI，能否介紹一下端側(cè) agent 與云端 agent 之間的關(guān)系？你曾表示 agent 的未來不一定在云端，這個觀點(diǎn)基于什么考慮？

程遠(yuǎn)：我一直認(rèn)為云端和端側(cè)不是替代關(guān)系，而是分工關(guān)系。云端更像大腦，適合做復(fù)雜規(guī)劃、長鏈條邏輯推理和知識調(diào)用。端側(cè)則更像我們的反射神經(jīng)，負(fù)責(zé)本地高頻、實時性的閉環(huán)響應(yīng)。

一旦進(jìn)入物理世界，很多事情是等不起的。例如機(jī)器人的避障、數(shù)據(jù)抓取、安全防護(hù)，制造業(yè)的人機(jī)協(xié)作安全控制與效能提升, 以及消費(fèi)設(shè)備的實時交互和響應(yīng)，這些都要求在本地快速完成感知、計算和動作的閉環(huán)。不可能所有數(shù)據(jù)都傳到計算中心再返回。

所以未來真正成熟的 agent，一定不只活在云端, 而是云端與端側(cè)協(xié)同的系統(tǒng)。越貼近真實物理世界，這個趨勢就越明顯。因為在具身智能、先進(jìn)制造、消費(fèi)終端這些場景中，時延、功耗、帶寬、隱私和成本都是繞不過去的約束。

DeepTech：為了更好的實現(xiàn)云端和端側(cè)的協(xié)同，你重點(diǎn)研究的技術(shù)方向是"感算一體"。能否用通俗的語言解釋一下什么是“感算一體”，它有什么特點(diǎn)？

程遠(yuǎn)：通俗來講，感算一體就是不要把數(shù)據(jù)搬來搬去，而是在數(shù)據(jù)產(chǎn)生和收集的地方就把計算完成。傳統(tǒng)架構(gòu)里，感知、存儲和計算是分開的。處理一個數(shù)據(jù)需要：采集—傳輸—存儲—計算。這個過程消耗了大量通信開銷，產(chǎn)生很多功耗和延時。實際上，很多中間花費(fèi)都在數(shù)據(jù)搬運(yùn)上，這部分甚至?xí)嫉娇偺幚砹康?70% 以上。

感算一體的特點(diǎn)是把計算融合到感知側(cè)，讓系統(tǒng)更快、更高效、更節(jié)約成本地處理多模態(tài)數(shù)據(jù)，比如視頻流、音頻流、傳感信號等。它特別適合那種既要觀察周邊環(huán)境、又要馬上做出反應(yīng)的系統(tǒng), 比如機(jī)器人、智能制造設(shè)備、消費(fèi)電子終端。

DeepTech：但端側(cè) AI 客戶面臨“效率三角”的挑戰(zhàn)：既要毫秒級實時響應(yīng)、又要極低功耗和部署成本、還要處理視頻流和時序信號這樣的多模態(tài)數(shù)據(jù)。這三者在傳統(tǒng)架構(gòu)下似乎是互相矛盾的。感算一體是怎么同時解決這三個問題的？

程遠(yuǎn)：傳統(tǒng)架構(gòu)里，這三件事確實經(jīng)常互相沖突。想要更快，就得堆算力；一旦堆算力，功耗和成本就會上去；再疊加多模態(tài)連續(xù)數(shù)據(jù)，系統(tǒng)復(fù)雜度又更高。所以很多方案實驗室里能跑，到了現(xiàn)場就不經(jīng)濟(jì)了。

感算一體的關(guān)鍵，不是簡單把功能實現(xiàn)，而是把鏈路做短，把很多無效的數(shù)據(jù)處理和通訊舍棄，在源頭即完成計算、決策與行動。這樣一來，實時性、功耗和成本就不再完全對沖。

比如在人機(jī)協(xié)作場景里，機(jī)器人需要實時判斷人是不是進(jìn)入危險區(qū)域、人與設(shè)備的距離是不是越界、當(dāng)前動作是不是存在安全風(fēng)險。這里真正需要的不是“看得很懂”，而是“發(fā)現(xiàn)風(fēng)險就立刻響應(yīng)”。再比如在消費(fèi)終端，設(shè)備越來越強(qiáng)調(diào)本地實時交互，這時候系統(tǒng)既要低功耗常開，又要快速響應(yīng)用戶動作和環(huán)境變化。

DeepTech：傳統(tǒng)架構(gòu)的這個障礙一直存在。為什么過去十幾年它沒能大規(guī)模產(chǎn)業(yè)化？當(dāng)時遇到了什么困難？

程遠(yuǎn)：這不只是概念性問題，更多是工程化難題。原理大家早就知道了，但過去一直難以產(chǎn)業(yè)化，因為它依賴全鏈條協(xié)同。不是說做出一款芯片、開發(fā)出某個算法、或者一個 SoC 模組就能支撐感算一體系統(tǒng)。它要求算法、芯片、傳感、系統(tǒng)以及場景都一起打通，才能真正落地實現(xiàn)。

過去很多方案停留在實驗驗證階段，本質(zhì)上并沒有回答工程上的關(guān)鍵問題：能不能穩(wěn)定跑下去? 能不能適配不同場景? 能不能真正節(jié)約成本? 能不能量產(chǎn)交付? 這些問題解決不了，感算一體這個原理就無法變成產(chǎn)品。

我們團(tuán)隊這些年一直把這個問題當(dāng)成系統(tǒng)能力來做，而不是單點(diǎn)技術(shù)，我們強(qiáng)調(diào)算力-算法協(xié)同設(shè)計方法，更強(qiáng)調(diào)從真實場景反推技術(shù)路線。所以歸根結(jié)底，真正讓感算一體技術(shù)落地的，不是某一個 demo，而是我們做到了系統(tǒng)級別的標(biāo)準(zhǔn)應(yīng)用實現(xiàn)。

DeepTech：當(dāng)前視覺端側(cè) AI 正在從簡單的“判別式任務(wù)”（如 OCR、物體檢測）向“生成式/世界模型任務(wù)”演進(jìn)。如果當(dāng)感知端不再只是輸出一個坐標(biāo)或標(biāo)簽，而是需要輸出復(fù)雜的連續(xù)特征空間甚至是實時生成動作軌跡時，感算一體架構(gòu)如何保持其功耗優(yōu)勢？它如何避免淪為只能處理簡單任務(wù)的“特種芯片”，從而去承載更復(fù)雜的端側(cè) agent？

程遠(yuǎn)：感算一體架構(gòu)不是為某些簡單專用的“特種芯片”設(shè)計的，相反，它恰恰是為更復(fù)雜的端側(cè) agent 提供通用算力基礎(chǔ)設(shè)施而提出。

傳統(tǒng)端側(cè) AI 的問題在于，傳感、存儲、計算和執(zhí)行是分離的。它先把物理世界里的連續(xù)信號采集下來，再搬運(yùn)到后端芯片中計算。這個模式在判別式任務(wù)里還能工作，但當(dāng)任務(wù)進(jìn)入世界模型、動作生成和實時交互時，數(shù)據(jù)量、時延和功耗都會迅速放大。因為物理世界不是一張靜態(tài)圖片，而是視頻、聲音、觸覺、運(yùn)動狀態(tài)和環(huán)境變化共同構(gòu)成的連續(xù)多模態(tài)流。

感算一體的優(yōu)勢，是讓計算更靠近數(shù)據(jù)產(chǎn)生的位置，在感知的瞬間就完成一部分結(jié)構(gòu)化理解。它不是簡單輸出一個標(biāo)簽，而是把原始、高冗余、連續(xù)變化的物理信號，轉(zhuǎn)化為更緊湊、更有語義、更適合 agent 使用的特征空間。因此任務(wù)越復(fù)雜、數(shù)據(jù)越連續(xù)，感算一體減少數(shù)據(jù)搬運(yùn)和無效計算的價值反而越明顯。

感算一體作為端側(cè)智能的底層架構(gòu)，未來一定會向通用化、可重構(gòu)和可持續(xù)學(xué)習(xí)方向發(fā)展：既能處理視覺，也能融合聲音、觸覺、傳感信號；既能支持固定任務(wù)，也能根據(jù)場景變化持續(xù)適配；既能服務(wù)判別式任務(wù)，也能支撐世界模型、動作規(guī)劃和本地 agent 的自進(jìn)化。

DeepTech：您將端側(cè)比作反射神經(jīng)，云端比作大腦。但以具身智能為例，目前的瓶頸往往在于“腦手不一”，云端理解了意圖，但端側(cè)系統(tǒng)無法精準(zhǔn)執(zhí)行。在您的研究中，如何解決端云之間的語義斷層？為了實現(xiàn)真正的 Agentic AI，我們是否需要一種全新的、能夠跨越云端與硬件層的統(tǒng)一通信協(xié)議？

程遠(yuǎn)：“腦手不一”確實是具身智能現(xiàn)在很大的問題。云端大模型可能理解了行動意圖，但端側(cè)系統(tǒng)真正執(zhí)行時，面對的是傳感器噪聲、控制延遲和安全邊界的不確定性。

具身智能正在走向分層架構(gòu)，而不是所有智能都集中大腦里完成。云端更適合做高級計算，比如復(fù)雜規(guī)劃、長鏈條推理、和多任務(wù)調(diào)度；端側(cè)則需要具備原生智能，在本地完成高頻、實時、安全的感知、決策和行動?！澳X手不一”的本質(zhì)，是高級語義和底層執(zhí)行之間缺少中間層。

未來的系統(tǒng)會更像一個多 agent 協(xié)同體系：云端有規(guī)劃 agent，端側(cè)有數(shù)據(jù) agent、安全 agent、效能 agent，每個關(guān)鍵傳感器和執(zhí)行部件都有局部智能。它們之間不是簡單的 API 調(diào)用關(guān)系，而是需要新的任務(wù)表達(dá)、狀態(tài)反饋和約束通信機(jī)制。

DeepTech：你認(rèn)為現(xiàn)階段把感算一體和具身智能結(jié)合，達(dá)到我們剛才描述的理想狀態(tài)，最大的困難是什么？

程遠(yuǎn)：目前這是一個系統(tǒng)級的難題，需要從多個層面突破：

首先是算力層面，我們需要更大算力的芯片去部署能夠在端側(cè)執(zhí)行任務(wù)的 agent 系統(tǒng)。其次是算法層面，需要輕量化更高效的算法架構(gòu)去完成想要達(dá)到的功能。最后是系統(tǒng)層面，需要延遲非常低的軟硬件協(xié)同設(shè)計去完成整體技術(shù)鏈路。我們采用感算一體這種架構(gòu)，去完成算力和算法的完美融合，進(jìn)而能夠完成端側(cè)自進(jìn)化的 agent 任務(wù)。這是一個系統(tǒng)級別的難題，我們已經(jīng)取得了很多突破。

DeepTech：為了解決算力問題，我發(fā)現(xiàn)你的研究還涉及光計算這些更前沿的方向。光計算和傳統(tǒng)電子計算有什么本質(zhì)不同？它所解決的是什么問題？

程遠(yuǎn)：最本質(zhì)的區(qū)別，是它們依賴的載體和物理機(jī)制不同。傳統(tǒng)電子計算主要靠電子遷移和晶體管開關(guān)，光計算更多利用光的傳播、干涉、衍射這些過程來完成高并行計算。光計算算力能夠帶來的性能優(yōu)勢，是能效上提升 3-6 個數(shù)量級，計算速度上同樣有 3 個數(shù)量級以上增益。

為什么現(xiàn)在大家重視光計算？因為今天 AI 對算力的需求增長太快了，電子體系在能耗和帶寬上的壓力越來越大，并且已經(jīng)產(chǎn)生了顯而易見的 AI 能源問題。很多時候問題不是算不出來，而是代價太高。尤其是大規(guī)模線性計算，也就是矩陣、張量這類計算，恰恰是光計算非常有潛力去承載的部分。

所以我對光計算的理解，不是它去替代一切，而是它提供一種新的高能效計算引擎。

DeepTech：光計算在能效比上有幾個數(shù)量級的優(yōu)勢，但光電轉(zhuǎn)換過程中的功耗損失和精度衰減一直是業(yè)界的痛點(diǎn)。您目前選擇做‘加速插件’這種務(wù)實路徑，是否意味著在現(xiàn)階段，光計算依然無法擺脫對電子系統(tǒng)依賴的局面？在算力需求激增的當(dāng)下，光計算面臨的最迫切的挑戰(zhàn)是什么？

程遠(yuǎn)：光計算的目標(biāo)一定不是只做某些專用計算模塊，而是走向可重構(gòu)、通用化的大規(guī)模計算平臺。它在信息維度、能耗和計算速度方面有天然物理優(yōu)勢，可以帶來 3-6 個數(shù)量級的能效提升和延遲降低。當(dāng)前光計算受制于器件工藝成熟度、系統(tǒng)魯棒性等實際問題，所以現(xiàn)階段最務(wù)實的路線，是先用光計算加速器切入 AI 里最密集、最耗能的部分，比如矩陣乘法、張量計算和并行推理。這樣可以在不推翻現(xiàn)有體系的情況下，把光計算的優(yōu)勢先釋放出來。

長期來看，光計算一定不會只是依附在電子芯片上的加速模塊。真正的工程化挑戰(zhàn)，是讓計算、通信、存儲盡可能都在光域里完成，減少甚至擺脫反復(fù)的光電轉(zhuǎn)換。光計算的未來不是補(bǔ)充電子計算，而是在 AI 時代重構(gòu)整個計算鏈路，用幾個數(shù)量級的能耗優(yōu)勢，解決算力需求爆發(fā)和能源消耗之間的根本矛盾。

DeepTech：你覺得光計算會長期和硅基芯片、電子計算共存嗎？

程遠(yuǎn)：我的判斷會比較務(wù)實一點(diǎn)。中期來說，一定是共存的。但長期來看，光計算其實有機(jī)會走向一個更通用的平臺，去大量取代電計算。因為光計算確實非常有潛力，它在功耗、通量和計算速度上面都有非常大的優(yōu)勢。

但我們實際來講，它的難點(diǎn)也非常明確。不是說單個光計算單元擁有很高的處理速度，就能夠去實現(xiàn)大規(guī)模的計算，而是說能不能把它做成一個可編程、可重構(gòu)，通用化、能夠接入現(xiàn)在計算生態(tài)的系統(tǒng)。如果把這些系統(tǒng)做出來，才能夠完成對電子計算的替代邏輯。

目前更現(xiàn)實的路徑是，中期來看，我們就把它作為一個高性能加速的插件切入進(jìn)去，先替代比較適合它的那部分計算，然后再通過一些標(biāo)準(zhǔn)的接口和現(xiàn)有體系去兼容。長期來看，等到光電混合、封裝校準(zhǔn)、計算魯棒性這些器件和電路級別的能力發(fā)展，伴隨著一整條產(chǎn)業(yè)鏈的逐漸成熟，光計算一定是可以完成通用大規(guī)模落地實現(xiàn)，對傳統(tǒng)電子計算形成強(qiáng)替代性。

所以這也是我目前推進(jìn)光計算落地產(chǎn)業(yè)化的一個思路。我們不是一開始就把所有體系都推翻，去完全取代電計算，而是先從通用的光電加速卡做起，兼容目前已有的處理器架構(gòu)和形態(tài)。

DeepTech：你在 2019 年就開始創(chuàng)業(yè)，當(dāng)時你還在讀博，是什么契機(jī)讓你走上了這條道路？

程遠(yuǎn)：最直接的原因，還是我一直強(qiáng)烈地感覺到，AI 技術(shù)如果不落地實際場景，它的價值其實沒有真正被釋放出來。

我當(dāng)時的研究方向就是 AI 軟硬件協(xié)同設(shè)計，當(dāng)時一邊做科研，一邊越來越清楚地看到，端側(cè) AI 在真實世界里有一個很大的“最后一公里”問題。大家都在談模型發(fā)展有多快，但真正到了機(jī)器人、制造業(yè)和消費(fèi)終端，卡住系統(tǒng)的往往不是模型精度，而是時延、功耗、成本和安全性。

所以創(chuàng)業(yè)對我來說，不是突然想換條路，而是想把研究里看到的方向，真正做成可落地的系統(tǒng)。辛米爾就是在這個背景下起來的。它讓我更深入地理解真實場景，也讓我更堅定一個判斷：未來決定 AI 能不能走進(jìn)物理世界的，歸根結(jié)底還是算力-算法協(xié)同設(shè)計架構(gòu)的基礎(chǔ)建設(shè)。

DeepTech：你既是上交大副教授又是公司創(chuàng)始人，學(xué)術(shù)和產(chǎn)業(yè)之間是如何平衡的？為什么沒有選擇 all in 一個角色？

程遠(yuǎn)：這兩個角色其實沒有沖突關(guān)系，更多是互相校正。學(xué)術(shù)會逼著你去想第一性問題，去看五年、十年之后可能成立的新范式；產(chǎn)業(yè)會逼著你回到現(xiàn)實，去回答它今天能不能做、能不能落地、誰會真正買單。

我現(xiàn)在做的這個方向，本身就特別需要這兩邊同時在場。只做學(xué)術(shù)，容易停留在“看起來很對”；只做產(chǎn)業(yè)，又容易被短期需求牽著走，沒法往更底層的架構(gòu)層做突破。我更希望做的是，把前沿研究真正壓到產(chǎn)業(yè)可用，再把產(chǎn)業(yè)里最真實的問題提煉回學(xué)術(shù)。這個閉環(huán)，對我來說是最重要的。

當(dāng)學(xué)術(shù)和產(chǎn)業(yè)做的事情是同一目標(biāo)時，其實是 1+1 小于 2 的，做相同的工作會產(chǎn)生數(shù)倍的結(jié)果，不會有精力難以分配的問題。

DeepTech：之前看過你在采訪里說到一個關(guān)于未來的設(shè)想:想讓智能計算像水電一樣融入物理世界。你心目中的萬物智能是什么樣子的？到時候會呈現(xiàn)出什么樣的形態(tài)？會讓我們的生活發(fā)生哪些更具體、可感知的變化？

程遠(yuǎn)：我心里的萬物智能，不是到處都是會聊天的機(jī)器，而是各種設(shè)備都開始具備即時感知、即時判斷、即時行動的能力，而且這件事發(fā)生得很自然。也就是說，智能不再是一個單獨(dú)的軟件入口，而會像水電一樣，慢慢變成基礎(chǔ)能力，融在設(shè)備、系統(tǒng)和環(huán)境里。

更具體一點(diǎn)，未來的具身機(jī)器人不只是執(zhí)行固定命令，它會自己做本地感知和行動決策；未來的制造設(shè)備不只是按程序運(yùn)行，它會邊運(yùn)行邊感知異常、邊優(yōu)化過程；未來的手持設(shè)備、智能車、智能家居、攝像頭、無人機(jī)等也不只是被動響應(yīng)，而會逐步具備更自然、更低延遲、更低功耗的本地智能交互能力。

很多今天看上去還比較“重”的智能能力，要耗費(fèi)很多算力和能源資源，未來都會慢慢變成默認(rèn)配置。我覺得背后真正的關(guān)鍵，不是讓每個設(shè)備都像一個小型數(shù)據(jù)中心，而是讓它們擁有低功耗、低時延、可以持續(xù)進(jìn)化的基礎(chǔ)算力。

運(yùn)營/排版：何晨龍

注：封面/首圖由 AI 輔助生成