近期的科技圈被端側(cè) AI 產(chǎn)品密集刷屏：阿里推出起售價(jià) 1899 元的夸克 AI 眼鏡，字節(jié)跳動(dòng)聯(lián)合努比亞發(fā)布豆包 AI 手機(jī)助手，華為的 “智能憨憨” 陪聊機(jī)器人上線即售罄。這些產(chǎn)品的集中亮相，標(biāo)志著人工智能正從云端的算力軍備競(jìng)賽，轉(zhuǎn)向終端設(shè)備的實(shí)際落地 —— 端側(cè) AI 的時(shí)代，已然到來(lái)。

要清晰認(rèn)知端側(cè) AI，首先需要明確其核心定義。

端側(cè) AI，全稱(chēng) “終端側(cè)人工智能”，指的是將 AI 算法、模型直接部署在手機(jī)、眼鏡、機(jī)器人、智能手表等終端設(shè)備本地，讓計(jì)算過(guò)程在設(shè)備內(nèi)部完成的技術(shù)形態(tài)。簡(jiǎn)單來(lái)說(shuō)，就是 AI 的 “推理、決策環(huán)節(jié)” 不用再依賴(lài)遠(yuǎn)程服務(wù)器，而是在我們觸手可及的設(shè)備上實(shí)時(shí)運(yùn)行：比如手機(jī)本地識(shí)別照片內(nèi)容、AI 眼鏡離線翻譯外文路牌、智能手表在無(wú)網(wǎng)時(shí)分析心率數(shù)據(jù)，這些都屬于端側(cè) AI 的應(yīng)用范疇。其核心特征是 “計(jì)算本地化”，數(shù)據(jù)無(wú)需上傳至外部網(wǎng)絡(luò)，計(jì)算結(jié)果也能在設(shè)備端即時(shí)反饋。

與之相對(duì)的，是我們更為熟悉的云端 AI—— 將 AI 模型和算力集中在遠(yuǎn)程的云端服務(wù)器（如谷歌云、阿里云的大型數(shù)據(jù)中心），終端設(shè)備僅負(fù)責(zé) “發(fā)送請(qǐng)求” 和 “接收結(jié)果”。比如早期的語(yǔ)音助手需要聯(lián)網(wǎng)才能識(shí)別指令、在線圖像生成工具需要上傳需求至云端服務(wù)器才能生成圖片，背后依賴(lài)的都是云端 AI。

（云端AI/端側(cè)AI）

一、從“被動(dòng)調(diào)用” 到 “主動(dòng)服務(wù)”：端側(cè) AI 的產(chǎn)品體驗(yàn)變革

端側(cè)AI 與云端 AI 的核心差異，最終轉(zhuǎn)化為終端產(chǎn)品的體驗(yàn)升級(jí)。從近期發(fā)布的端側(cè) AI 產(chǎn)品中，這種 “計(jì)算本地化” 帶來(lái)的變革尤為明顯，手機(jī)與可穿戴設(shè)備等終端設(shè)備不再是簡(jiǎn)單搭載AI 功能，而是讓智能真正融入設(shè)備的使用邏輯，實(shí)現(xiàn)從 “被動(dòng)調(diào)用” 到 “主動(dòng)服務(wù)” 的轉(zhuǎn)變。

字節(jié)跳動(dòng)推出的豆包 AI 手機(jī)助手，是端側(cè) AI 在手機(jī)場(chǎng)景的典型代表。與傳統(tǒng)手機(jī) AI 相比，其核心突破在于系統(tǒng)級(jí)的底層整合—— 它并非簡(jiǎn)單的 App 調(diào)用，而是直接嵌入操作系統(tǒng)底層，能夠跨越應(yīng)用壁壘執(zhí)行復(fù)雜指令鏈。比如用戶(hù)只需說(shuō)出 “對(duì)比各大平臺(tái)的肯德基套餐價(jià)格并下單最低價(jià)選項(xiàng)”，助手就能自動(dòng)完成跨淘寶、京東、美團(tuán)的比價(jià)，甚至直接生成訂單；而傳統(tǒng)手機(jī) AI（如早期的語(yǔ)音助手）僅能完成單一功能的云端調(diào)用，比如設(shè)置鬧鐘、查詢(xún)天氣，既無(wú)法處理跨應(yīng)用的復(fù)雜任務(wù)，也需要依賴(lài)網(wǎng)絡(luò)實(shí)現(xiàn)數(shù)據(jù)交互。

阿里的夸克AI 眼鏡則將端側(cè) AI 與可穿戴場(chǎng)景深度綁定，采用雙芯片架構(gòu)將千問(wèn)大模型直接部署在眼鏡本地：不僅能實(shí)現(xiàn)語(yǔ)音查詢(xún)、實(shí)時(shí)翻譯等基礎(chǔ)功能，還針對(duì) “戶(hù)外嘈雜環(huán)境” 做了專(zhuān)屬優(yōu)化 —— 通過(guò) 5 麥克風(fēng)陣列和骨傳導(dǎo)拾音技術(shù)，即便在地鐵、商場(chǎng)等喧鬧場(chǎng)景，也能精準(zhǔn)捕捉用戶(hù)語(yǔ)音指令，避免了傳統(tǒng)云端語(yǔ)音交互因網(wǎng)絡(luò)波動(dòng)或環(huán)境噪音導(dǎo)致的體驗(yàn)卡頓。

華為的“智能憨憨” 陪聊機(jī)器人則更進(jìn)一步，搭載小藝大模型 4.0 的端側(cè)版本：通過(guò)本地的情感感知算法，能根據(jù)用戶(hù)的語(yǔ)音語(yǔ)調(diào)判斷情緒（比如識(shí)別出用戶(hù) “低落語(yǔ)氣” 時(shí)主動(dòng)安慰）；同時(shí)借助長(zhǎng)期記憶系統(tǒng)，記錄日常對(duì)話中的個(gè)性化需求（比如記住用戶(hù)“不喜歡辛辣食物”，推薦餐廳時(shí)自動(dòng)規(guī)避），讓 AI 從 “功能工具” 升級(jí)為 “情感陪伴載體”，真正落地了端側(cè)場(chǎng)景的個(gè)性化智能。

（字節(jié)跳動(dòng)豆包 AI 手機(jī)助手/阿里夸克AI 眼鏡/華為“智能憨憨” 陪聊機(jī)器人）

二、需求牽引：用戶(hù)對(duì)“安全 + 實(shí)時(shí)” 的智能體驗(yàn)訴求

端側(cè)AI 爆發(fā)并非偶然，隨著 AI 與生活的綁定日益緊密，用戶(hù)對(duì)智能體驗(yàn)的訴求已從 “有無(wú)” 升級(jí)為 “優(yōu)劣”，兩大核心需求成為端側(cè) AI 崛起的直接推力。

隱私保護(hù)需求日益強(qiáng)烈。云端AI 的 “數(shù)據(jù)上傳” 模式暗藏風(fēng)險(xiǎn)：使用云端語(yǔ)音助手時(shí)，日常對(duì)話需傳輸至遠(yuǎn)程服務(wù)器；用云端健康 App 時(shí)，心率、血糖等敏感數(shù)據(jù)需存儲(chǔ)在第三方平臺(tái) —— 這種 “數(shù)據(jù)離身” 的模式，讓用戶(hù)對(duì) “數(shù)據(jù)控制權(quán)” 的重視度顯著提升。而端側(cè) AI 的 “本地處理” 模式從根源上解決了這一問(wèn)題：數(shù)據(jù)全程在設(shè)備內(nèi)流轉(zhuǎn)，既不上傳云端也不被第三方獲取，尤其契合健康管理、私人助理等敏感場(chǎng)景的需求。

實(shí)時(shí)交互需求則推動(dòng)端側(cè)AI 的場(chǎng)景落地。在AR 眼鏡翻譯路牌、車(chē)載 AI 控制車(chē)輛、工業(yè)質(zhì)檢識(shí)別缺陷等場(chǎng)景中，“延遲” 直接決定體驗(yàn)價(jià)值甚至安全：若 AR 眼鏡翻譯需等待 2 秒響應(yīng)，用戶(hù)已走過(guò)路牌；若車(chē)載 AI 執(zhí)行指令有 1 秒延遲，可能引發(fā)駕駛風(fēng)險(xiǎn) —— 端側(cè) AI 的毫秒級(jí)響應(yīng)恰好擊中這一痛點(diǎn)，讓實(shí)時(shí)交互場(chǎng)景的智能體驗(yàn)從 “可用” 變?yōu)?“好用”。

三、技術(shù)突破：破解端側(cè)AI 的 “算力與功耗” 困局

端側(cè)AI 的落地，離不開(kāi)底層技術(shù)突破破解長(zhǎng)期困局 —— 核心是模型輕量化與端側(cè)芯片升級(jí)兩大技術(shù)，共同解決了 “終端算力不足、功耗過(guò)高” 的行業(yè)難題，讓大模型能真正 “走進(jìn)” 終端設(shè)備。

模型輕量化技術(shù)是端側(cè)AI 的 “瘦身鑰匙”。早期大模型（如 GPT-3）參數(shù)規(guī)模達(dá)千億級(jí)，占用存儲(chǔ)空間超 100GB，根本無(wú)法在手機(jī)、眼鏡等終端設(shè)備上運(yùn)行。而 “剪枝、蒸餾、量化” 三大技術(shù)的成熟，實(shí)現(xiàn)了大模型的 “瘦身提質(zhì)”：剪枝技術(shù)剔除模型中冗余的參數(shù)節(jié)點(diǎn)，減少算力消耗；蒸餾技術(shù)讓小模型通過(guò)學(xué)習(xí)大模型的推理邏輯，保留核心能力；量化技術(shù)將 32 位精度的參數(shù)壓縮為 8 位，大幅降低存儲(chǔ)占用 —— 最終使千億級(jí)模型可被壓縮至十億級(jí)，同時(shí)保持 90% 以上的核心推理能力，為端側(cè)部署掃清了 “體積障礙”。

端側(cè)AI 芯片升級(jí)則為輕量化模型提供了 “算力引擎”。輕量化模型需要匹配的本地算力載體，而專(zhuān)用端側(cè)芯片的迭代恰好補(bǔ)上了這一短板：這類(lèi)芯片針對(duì)端側(cè)場(chǎng)景做了專(zhuān)屬架構(gòu)優(yōu)化，在控制功耗的同時(shí)提升算力密度 —— 比如能在 5W 以?xún)?nèi)的低功耗下，滿(mǎn)足實(shí)時(shí)視覺(jué)識(shí)別、語(yǔ)音交互所需的算力支撐；即便在 40 克級(jí)的超輕量可穿戴設(shè)備中，也能承載多模態(tài) AI 功能的流暢運(yùn)行。這種 “低功耗、高適配” 的特性，讓端側(cè) AI 從 “理論可能” 變?yōu)?“實(shí)用可行”，不再受限于終端設(shè)備的體積與續(xù)航。

四、未來(lái)演進(jìn)：破解終端“體積 - 算力 - 功耗” 矛盾

隨著端側(cè)設(shè)備向“更微型化、交互多模態(tài)” 演進(jìn)（比如重量低于 30 克的超輕量 AR 眼鏡、集成健康監(jiān)測(cè)的智能耳釘），傳統(tǒng)單芯片的 “一體集成” 模式必然遇到瓶頸：既要壓縮體積適配微型終端，又要提升算力支撐視覺(jué)、語(yǔ)音、生物傳感的協(xié)同處理，還要控制功耗避免頻繁充電 —— 這種 “體積 - 算力 - 功耗” 的三重矛盾，靠單一芯片的性能升級(jí)已難以破解，需要通過(guò)更靈活的異構(gòu)集成思路突破。

而 Chiplet（芯粒）技術(shù)正是關(guān)鍵路徑：它通過(guò)“模塊化整合” 思路，將計(jì)算、存儲(chǔ)、接口等不同功能的芯片裸片集成在一起，既能縮小芯片體積，又能提升算力密度，完美平衡了微型終端的 “體積限制” 與 “算力需求”，無(wú)疑將為端側(cè) AI 的下一步發(fā)展掃清硬件障礙。

未來(lái)，隨著“體積 - 算力 - 功耗” 矛盾的破解，更多微型化、場(chǎng)景化的端側(cè)設(shè)備將涌現(xiàn)，承載更細(xì)分的端側(cè)AI 功能，讓健康管理、工業(yè)生產(chǎn)、日常出行等領(lǐng)域迎來(lái)“小設(shè)備承載大智慧” 的變革。這場(chǎng)從云端到終端的智能革命，正在重新定義人與科技的距離。當(dāng) AI 不再需要 “云端賦能”，而是能在身邊的每一個(gè)小設(shè)備中自主響應(yīng)需求，我們才算真正進(jìn)入了 “智能無(wú)處不在” 的時(shí)代 —— 而這一切，才剛剛拉開(kāi)序幕。

< 奇普樂(lè) · 往期文章 >