前幾日，意法半導體（ST）收購加拿大AI初創(chuàng)公司Deeplite的消息引發(fā)行業(yè)關注。 Deeplite號稱邊緣AI的DeepSeek，該公司在模型優(yōu)化、量化和壓縮方面有獨特技術，可使AI大模型在邊緣設備上運行得更快、更小、更節(jié)能。

自從DeepSeek帶火了蒸餾模型以后，更多人開始關注AI大模型在邊緣端的部署。而在過去，TinyML一直也在MCU領域很火熱?，F在，邊緣AI走得更快了，市場也正在走向爆發(fā)。

ST的期盼：打造先進的邊緣AI系統

ST之所以在最近收購DeepLite是因為兩家公司擁有很好的協同效應：該公司的優(yōu)化、量化和壓縮深度學習模型技術，無疑能夠加速ST的首款高性能STM32N6的采用。

在商業(yè)上部署深度學習模型時，面臨的重大挑戰(zhàn)是它們的運行規(guī)模、處理器量和功耗密集型程度。Deeplite 通過提供自動化軟件引擎來優(yōu)化 DNN（深度神經網絡）模型，并在任何設備上啟用 AI 進行邊緣計算，從而解決了這個問題。

說起來，DeepLite這家公司的產品很有意思，簡單來說就是AI套娃，使用 AI 自動使其他 AI 模型更快、更小、更節(jié)能，從而創(chuàng)建高度緊湊、高性能的深度神經網絡，以部署在安全攝像頭、傳感器、無人機、手機和車輛等邊緣設備上。

這家公司在早期很受關注，曾經被Gartner、Forbes、Inside AI 和 ARM AI 評為首屈一指的邊緣 AI 創(chuàng)新者。

Deeplite項目于2017年從TandemLaunch孵化器啟動。2019年該項目從TandemLaunch分拆為一家獨立的科技公司。當時聯合創(chuàng)始人 Ehsan Saboori 博士、Davis Sawyer 和 Nick Romano 聯手將 AI 帶入日常生活。自 2020 年年中首次發(fā)布 Deeplite 的 Neutrino? 軟件以來，主要 OEM 品牌、半導體和應用公司對 Neutrino 的自動優(yōu)化引擎產生了巨大的需求。AI 工程師可以在 PyTorch、ONNX 或 TensorFlow 等現有 MLOps 框架中使用該軟件來創(chuàng)建高度緊湊、節(jié)能的 AI 模型，從而節(jié)省云成本，并允許新應用程序在電池供電的小型邊緣設備上運行。根據PitchBook的數據，Deeplite此前已融資647萬美元，其加拿大投資者包括BDC Capital、Desjardins Capital和Somel Ventures。

總之，現在ST的整體生態(tài)有了很大的補全。從官網來看，其不僅擁有很強大硬件MCU、MPU，還擁有很強大的軟件生態(tài)。

高通拿下明星公司：邁出重要一步

今年3月，高通（Qualcomm）宣布將收購邊緣 AI 開發(fā)平臺 Edge Impulse，希望此舉能擴展其對支持 IoT 的產品的 AI 能力。據報道，該收購預計將在幾周內完成交易，并且將保留 Edge Impulse 品牌。

與高通聯手將加速對高通 Dragonwing 處理器的支持，但 Edge Impulse 的平臺將繼續(xù)向來自公司硬件合作伙伴的 MCU、CPU、GPU 和 NPU 用戶開放。Edge Impulse 將維護其當前網站（品牌為“Edge Impulse，一家高通公司”）。

Qualcomm Dragonwing 處理器具有設備上的 AI 推理、計算機視覺、圖形和處理功能。Edge Impulse 目前支持 Dragonwing QCS6490 和 QCS5430 處理器，并計劃為工業(yè)和嵌入式物聯網應用增加對其他 Dragonwing 處理器的支持。

Edge Impulse在嵌入界的地位不可小覷。Edge Impulse 的開發(fā)平臺包括用于數據收集和準備、模型訓練、部署和監(jiān)控的工具，具有少量代碼或無代碼界面。開發(fā)人員使用 Edge Impulse 的平臺將計算機視覺、時間序列數據、音頻事件和語音識別等 AI 功能添加到資產跟蹤和監(jiān)控、制造、異常檢測和預測性維護系統中的嵌入式系統中。

Edge Impluse這家公司的名號很多人都聽說過，但可能很少深入了解過。這家公司以TinyML（Tiny Machine Learning）為服務，于2019年成立，創(chuàng)始人Zach Shelby和Jan Jongboom都來自Arm，致力于提供最新的機器學習工具，使所有企業(yè)都能打造更智能的邊緣產品。根據財務數據庫，目前該公司已經籌集了超過 5000 萬美元。在 2021 年 3400 萬美元的 B 輪融資中，其估值為 2.34 億美元。

Edge Impulse解決方案被廣泛應用于健康穿戴設備制造商如Oura、Know Labs和NOWATCH，工業(yè)組織如NASA，以及頂尖的芯片供應商，受到超過80000名開發(fā)人員的采用，并已成為企業(yè)和開發(fā)人員信賴的平臺。

雖然它并非唯一的TinyML軟件方案商，但相比來說，它擁有比較直觀易用的Web界面，說白了，就是開個網頁就能用，最重要的是，它對開發(fā)人員免費。

值得一提的是，Edge Impulse的特點是具有邊緣優(yōu)化神經（EdgeOptimised Neural, EON）編譯程序。根據其官方網站介紹，以該編譯程序編譯出來的神經網絡推論模型，與TFLite Micro相比，可以少使用25～55%的RAM內存與少使用35%的儲存空間。

另外Edge Impulse也在其官方Blog上發(fā)表技術實證專文，運用他們的數字信號處理區(qū)塊（DSP Block）來對聲音進行推論前的前置處理，可以更快完成推論、更精準推論，以鳥叫聲辨識為例，速度快48%，精準度增7%。

NXP收購NPU公司：重新定于智能邊緣

今年2月，NXP的一則收購也引發(fā)了行業(yè)震動。彼時NXP宣布已達成最終協議，將收購高性能、高能效和可編程離散神經處理單元 （NPU） 的行業(yè)領導者 Kinara。

這些設備支持廣泛的邊緣 AI 應用，包括多模態(tài)生成式 AI 模型。此次收購將是一項價值 3.07 億美元的全現金交易，預計將于 2025 年上半年完成，但須滿足慣例成交條件，包括監(jiān)管部門的批準。

Kinara是一家美國半導體公司，2013 年由 Rehan Hameed、Wajahat Qadeer 和 Jason Copeland 創(chuàng)立，最初名為 Core Viz ，創(chuàng)立后公司更名為 Deep Vision，2022 年再次更名為 Kinara。

Kinara 的分立式 NPU（包括 Ara-1 和 Ara-2）在性能和能效方面處于行業(yè)領先地位。這使它們成為視覺、語音、手勢和各種其他生成式 AI 驅動的多模式實現等新興 AI 應用的首選解決方案。這兩款設備均采用創(chuàng)新架構，支持映射推理圖，以便在 Kinara 的可編程專有神經處理單元上高效執(zhí)行，從而最大限度地提高邊緣 AI 性能。這種可編程性確保了 AI 算法在未來不斷從 CNN 發(fā)展到生成式 AI 和代理 AI 等新方法時的適應性。

Ara-1 是第一代分立式 NPU，性能方面Resnet50-v1: 100 inferences/sec.、MobileNet-v1: 554 inferences/sec，延遲方面Resnet50-v1: 10 msec. 、MobileNet-v1: 1.8 msec，功耗方面1.7W @ 600MHz，封裝方面為15 mm x 15mm EHS-FCBGA。

Ara-2 是第二代 NPU，能夠實現高達 40 TOPS的性能，專為實現生成式 AI 的系統級高性能而優(yōu)化。具體性能方面Stable Diffusion 1.4:7 secs/image、LLaMA-7B: 12 output tokens/sec、MobileNetVl SSD: 974 1PS (1.03 ms latency)，功耗小于2 Watts，存儲升級為16 GB LPDDR4（X），封裝尺寸為17 mmx17 mm FCBGA。

軟件方面，Kinara Al軟件開發(fā)工具包（SDK）將訓練好的A!模型優(yōu)化地應用于Ara-1和Ara-2硅和模塊。Kinara的全可編程計算引擎允許我們的模型編譯器快速適應幾乎無限的神經網絡架構范圍。

邊緣AI的野望

在AI圈里一直有種“越大越強”的迷思。但大模型雖好，卻也不“接地氣”。

所以，專家曾經多次預測，世界上不需要太多大模型，因為大模型太費電，真正讓AI落地的地方則是邊緣和端側。

有預測顯示，到 2025 年，75%的數據將在邊緣處理，邊緣側AI MCU的市場潛力巨大。

這三筆交易凸顯了兩個重要趨勢：首先，AI/ML技術現在是嵌入式系統設計中硬件和軟件堆棧的重要組成部分；其次，作為芯片制造商AI戰(zhàn)略的一部分，這些廠商將越來越多地為其半導體器件提供補充性工具，以滿足嵌入式AI/ML學習的全方位需求。因此，預計未來還會有更多此類交易。

其他主要的 MCU 制造商也在不斷收購該領域的初創(chuàng)公司，并積極為競爭做準備。例如，瑞薩電子收購了 Reality AI，英飛凌收購了瑞典的 Imagimob，恩智浦推出了機器學習軟件 eIQ 和 AI 工具鏈 NANO。人工智能。這表明對邊緣 AI 計算的需求正在迅速增長，而 MCU 作為邊緣設備的核心組件，將在這一趨勢中發(fā)揮重要作用。

可以看出，邊緣AI將會是接下來幾年MCU的必爭之地。隨著MCU廠商接連迎接自己的新CEO，這些廠商的戰(zhàn)爭或許會繼續(xù)增加。

參考文獻

[1]EETimes：https://www.eetimes.com/qualcomm-hopes-to-expand-its-intelligent-iot-with-edge-impulse-acquisition/

[2]EDN：https://www.edn.com/why-embedded-chipmakers-are-acquiring-ml-software-firms/

[3]Semicone：https://www.semicone.com/article-200.html

[4]NXP：https://www.nxp.com/company/about-nxp/newsroom/NW-AI-PR-2025

[5]Kinara：https://kinara.ai/

[6]DeepLite：https://www.deeplite.ai/

歡迎將我們設為“星標”，這樣才能第一時間收到推送消息。

關注EEWorld旗下訂閱號：“機器人開發(fā)圈”

回復“DS”領取《DeepSeek:從入門到精通》完整版

掃碼添加小助手回復“機器人”

進群和電子工程師們面對面交流經驗