国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網易首頁 > 網易號 > 正文 申請入駐

融合語言模型的多模態(tài)觸覺傳感器,推動機器人觸覺邁向人類水平

0
分享至



論文第一作者為清華大學博士、南洋理工大學博士后李壽杰,清華大學博士生吳同和人工智能碩士生徐建樂。論文通訊作者包括清華大學深圳國際研究生院副教授丁文伯,大連理工大學教授解兆謙,新加坡國立大學助理教授吳昌盛和香港城市大學教授于欣格。

隨著機器人技術從「預設程序執(zhí)行」向「具身智能交互」跨越,觸覺感知作為理解物體屬性、實現精細操作的核心感測方式,其重要性日益凸顯,但當前系統(tǒng)在感知維度、分辨率及信號解讀能力上仍遠遜于人類,導致機器人往往處于「有感無知」的狀態(tài)。

在此背景下,清華大學深圳國際研究生院丁文伯團隊聯合無界智航(Xspark AI)及多所國內外科研機構,從鴿子卓越的多光譜視覺和非成像感知機制中獲得靈感,研發(fā)出了一種仿生多模態(tài)觸覺傳感器SuperTac。

該系統(tǒng)將多光譜成像、摩擦電感測與慣性測量融為一體,并通過構建8.5B參數的觸覺語言模型DOVE,實現了觸覺信號從底層感知到高層語義推理的突破。

相關成果作為封面元素發(fā)表于《Nature Sensors》第一期,也是國內以第一單位在該期刊發(fā)表的首篇,標志著機器人觸覺感知向「人類水平」邁出了關鍵一步。



  • 論文標題:Biomimetic multimodal tactile sensing enables human-like robotic perception
  • 論文鏈接:
  • https://www.nature.com/articles/s44460-025-00006-y



圖 1 Nature Sensors 第一期封面圖,SuperTac 作為核心元素在封面上進行了展示(右下角)

一、仿生邏輯:

從鴿子眼球到多模態(tài)感知架構

鴿子擁有自然界最復雜的感知系統(tǒng)之一,SuperTac 的硬件設計對應了其生物學特征。



圖 2 仿生學設計:受鴿眼啟發(fā)的高分辨率多模態(tài)觸覺傳感器

多光譜視覺的遷移:從視錐細胞到多通道相機

鴿子的視網膜包含多種視錐細胞,不僅能感知可見光,還擁有人類不具備的紫外線(UV)感知能力。

SuperTac 集成了小型化的多光譜成像模塊,覆蓋了從紫外(390 nm)、可見光(400–700 nm)到近紅外(940 nm)及中紅外(5.5–14.0 μm)的超寬頻段。

通過引入超寬頻段成像,機器人能夠在單一交互中同時解析熱輻射、熒光位移等深層物理信息,實現了對物體形狀、紋理、顏色和溫度的全面表征。

非成像感知的映射:從地磁感應到 TENG / IMU

鴿子能通過視網膜中的隱花色素等分子感知地磁場,這是一種不依賴圖像的物理感知。SuperTac 在 1 mm 厚的皮膚內嵌入了摩擦納米發(fā)電機(TENG)和慣性測量單元(IMU)。

TENG 利用接觸起電原理,根據不同物體的電負性差異識別材質(準確率 95%),并實現 15 cm 內的接近覺感知。IMU 模擬生物的本體感受,捕捉 0–60 Hz 的振動及碰撞信號。通過將摩擦電與慣性信號與光場調制耦合,傳感器無需密集電極陣列即可擴展出對材質極性、震動及空間姿態(tài)的感知能力。

二、核心機制:

光場調制的「智能感知層」


SuperTac 的核心競爭力在于其厚度僅為 1 mm 的光場調制多層感知皮膚。皮膚最外層的導電層采用透明的 PEDOT:PSS,通過絲網印刷技術在具有優(yōu)異拉伸性能的 TPU 薄膜上形成渦旋線電極設計。這種渦旋設計能提供均勻的電學信號,結合摩擦起電機制,使皮膚在接觸不同電負性物體時產生截然不同的電學反饋,從而實現高精度的材質分類與 15 cm 范圍內的接近覺探測。



圖 3 多光譜機理

在導電層之下,單向透視反射層充當了光學開關,其透明度受兩側光強差調節(jié)。當內部 LED 開啟形成「觸覺模式」時,內側光強占據主導,反射層變?yōu)椴煌该鳡顟B(tài),CMOS 單元聚焦捕捉皮膚表面的微觀紋理與形變;當內部光源關閉,反射層隨之變?yōu)橥该,允許外部可見光透射,使傳感器能夠直接獲取物體的 RGB 顏色信息。

緊鄰其下的紫外熒光標記層則利用在近紅外波段不可見但在紫外光下激發(fā)的熒光標記,實現了形變監(jiān)測與物體紋理檢測的解耦,確保在復雜抓取過程中能夠同步捕捉切向滑動與表面細節(jié)。



圖 4 相關測試指標

三、觸覺語言大模型:

8.5B 參數背后的多模態(tài)融合架構


為了構建跨模態(tài)物理信號與自然語言空間的統(tǒng)一表征對齊,DOVE 采用了分層架構設計,其底層骨干由預訓練的大語言模型 Vicuna 構成,為系統(tǒng)提供了強大的語言理解與邏輯推理基礎。

為了處理極其復雜的觸覺輸入,系統(tǒng)并行集成了四組預訓練的 CLIP(對比語言—圖像預訓練)模型作為模態(tài)編碼器,將圖像化的觸覺特征(包括顏色、紋理、溫度和材質信號)提取為深層特征向量。



圖 5 觸覺語言大模型 DOVE

DOVE 的訓練通過三階段策略實現從底層感知到高層認知的遞進:首先利用 CLIP 將異構傳感器信號轉化為通用的圖像表征;隨后通過投影層將觸覺特征精準對齊至語言模型空間;最后針對 Vicuna 骨干網絡進行微調,使其能夠結合常識對觸覺指令進行復雜推理。

四、應用場景:

從物理觸碰到語義邏輯的躍遷


SuperTac 提供的多模態(tài)底層數據通過 DOVE 模型的深度解析,成功實現了從單純的「物理感知」向高層「語義認知」的跨越,賦予了機器人類人的具身交互能力。



圖 6 SuperTac + DOVE 的應用場景

在基礎的識別維度,DOVE 能夠實時融合傳感器采集的異構多模態(tài)數據,為操縱目標建立起全方位的「物理畫像」。例如,在抓取實驗中,面對一個未知杯子,DOVE 能準確地將其感官印象轉化為人類可理解的語言:「黃色,室溫,表面具有規(guī)律排布的凸起紋理,判定為金屬材質」。

最高層級的應用體現在常識指引下的功能決策與推理。DOVE 不僅解析當前的物理數據,還能將實時的觸覺反饋與預訓練的大模型常識相結合,從而推斷物體的潛在功能并做出邏輯決策。

在極具挑戰(zhàn)性的垃圾分揀任務中,這一能力得到了充分驗證:當機器人接觸到亂序堆放的雜物時,DOVE 能夠根據觸覺反饋進行邏輯建模。例如,它會推論道:「該物體具有典型的 PET 物理特征,結合其輕薄的結構,判定為廢棄的塑料飲料瓶;基于環(huán)保常識,建議將其放入可回收垃圾桶」。

五、未來方向


本研究為機器人觸覺提供了多個富有前景的發(fā)展方向:硬件方面通過傳感器微型化、低功耗芯片及高集成封裝,提升機器人手內操作的靈活性并解決高負載下的散熱穩(wěn)定性難題;認知層面則依托 DOVE 模型的模態(tài)無關框架,通過優(yōu)化傳感器配置與專用數據集來持續(xù)增強系統(tǒng)的泛化能力,從而為實現自然、高效的人機交互奠定堅實基礎。



圖 7 安裝 SuperTac 的靈巧手

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
尼克松訪華,外媒評論打白旗到北京,毛主席得知立即作出兩項決定

尼克松訪華,外媒評論打白旗到北京,毛主席得知立即作出兩項決定

歷史龍元閣
2026-01-26 11:15:06
電費漲漲漲?東大團隊研究發(fā)現空調外機全封閉遮擋顯著增加能耗

電費漲漲漲?東大團隊研究發(fā)現空調外機全封閉遮擋顯著增加能耗

揚子晚報
2026-01-25 22:01:25
玩笑開大了?伊朗宣布1萬公里洲際導彈試射成功,美國:沒探測到

玩笑開大了?伊朗宣布1萬公里洲際導彈試射成功,美國:沒探測到

科普100克克
2026-01-23 17:58:47
14:7,高市點頭,日本通過實控釣魚島條例,美防長:我馬上到東京

14:7,高市點頭,日本通過實控釣魚島條例,美防長:我馬上到東京

知法而形
2026-01-25 13:36:51
和平委員會剛宣布就生變?不到兩天有國家退出,特朗普急發(fā)撤銷令

和平委員會剛宣布就生變?不到兩天有國家退出,特朗普急發(fā)撤銷令

小鬼頭體育
2026-01-26 12:20:53
U23亞洲杯結束僅1天,亞足聯宣布新消息,下屆分檔出爐 中國第3檔

U23亞洲杯結束僅1天,亞足聯宣布新消息,下屆分檔出爐 中國第3檔

大秦壁虎白話體育
2026-01-26 08:14:34
小米首發(fā)!高通驍龍8 Elite Gen6 Pro主頻突破5GHz:史無前例

小米首發(fā)!高通驍龍8 Elite Gen6 Pro主頻突破5GHz:史無前例

快科技
2026-01-26 14:49:06
我提前一個月到女兒家過年,女婿頓頓給做紅燒肉,我當即跑回老家

我提前一個月到女兒家過年,女婿頓頓給做紅燒肉,我當即跑回老家

船長與船1
2026-01-26 08:25:06
白銀歷史性突破100美元,但金銀比創(chuàng)下14年新低,短期波動風險或加劇

白銀歷史性突破100美元,但金銀比創(chuàng)下14年新低,短期波動風險或加劇

財聯社
2026-01-26 14:37:07
50歲梅婷又素顏走機場!穿大衣+紅褲子+馬丁靴,時髦又減齡!

50歲梅婷又素顏走機場!穿大衣+紅褲子+馬丁靴,時髦又減齡!

小老頭奇聞
2026-01-14 15:34:45
人類對閑魚的開發(fā)不足1%,一群神人把我笑發(fā)財了

人類對閑魚的開發(fā)不足1%,一群神人把我笑發(fā)財了

另子維愛讀史
2026-01-11 21:09:06
蔡允革履新廣西,自治區(qū)常務副主席上月已任南寧市委書記

蔡允革履新廣西,自治區(qū)常務副主席上月已任南寧市委書記

觀察者網
2026-01-26 10:56:02
為北約出兵,擊沉俄軍艦的話音剛落,不到24小時,俄軍報復來了!

為北約出兵,擊沉俄軍艦的話音剛落,不到24小時,俄軍報復來了!

泠泠說史
2026-01-26 14:10:37
兩年了,為何許家印遲遲不判刑?真相比你想象的更復雜!

兩年了,為何許家印遲遲不判刑?真相比你想象的更復雜!

李云飛Afey
2026-01-20 11:43:34
美國在公海上到處扣押油輪,歐洲也跟著動手了,中國也該警惕了

美國在公海上到處扣押油輪,歐洲也跟著動手了,中國也該警惕了

探史
2026-01-26 12:19:17
李賽鳳趁丈夫出差,和體格壯碩的干兒子發(fā)生了親密接觸

李賽鳳趁丈夫出差,和體格壯碩的干兒子發(fā)生了親密接觸

西樓知趣雜談
2026-01-20 17:11:19
細節(jié)做到了極致!日本隊主罰點球前:疑似偷看李昊點球筆記

細節(jié)做到了極致!日本隊主罰點球前:疑似偷看李昊點球筆記

邱澤云
2026-01-26 12:28:32
官方:日本U23隊長市原吏音因留洋離隊;據悉他可能前往荷甲

官方:日本U23隊長市原吏音因留洋離隊;據悉他可能前往荷甲

懂球帝
2026-01-26 10:33:09
老天爺派來旺屬兔的人多半是這3個姓氏,遇到了一定要珍惜

老天爺派來旺屬兔的人多半是這3個姓氏,遇到了一定要珍惜

古怪奇談錄
2026-01-21 14:26:23
加拿大總理成達沃斯“全場最靚的仔”!又遭特朗普關稅威脅,他呼吁國人:買國貨

加拿大總理成達沃斯“全場最靚的仔”!又遭特朗普關稅威脅,他呼吁國人:買國貨

紅星新聞
2026-01-25 16:38:16
2026-01-26 15:12:49
機器之心Pro incentive-icons
機器之心Pro
專業(yè)的人工智能媒體
12192文章數 142549關注度
往期回顧 全部

科技要聞

印奇再上牌桌,階躍融資50億

頭條要聞

伊朗最高領袖哈梅內伊轉入地堡 日常事務交由兒子接管

頭條要聞

伊朗最高領袖哈梅內伊轉入地堡 日常事務交由兒子接管

體育要聞

叛逆的大公子,要砸了貝克漢姆這塊招牌

娛樂要聞

張雨綺被實名舉報代孕、插足婚姻

財經要聞

從美式斬殺線看中國社會的制度韌性構建

汽車要聞

賓利第四臺Batur敞篷版發(fā)布 解鎖四項定制創(chuàng)新

態(tài)度原創(chuàng)

數碼
旅游
教育
手機
家居

數碼要聞

榮耀平板PC級WPS大改進:支持小窗使用、窗口大小調節(jié)等特性

旅游要聞

吉林梨樹:冰雪盛景解鎖冬日“新玩法”

教育要聞

“把這種視頻發(fā)網上,真是好媽”,女兒的尊嚴被扒的一絲不剩

手機要聞

2399元起 真我Neo8開賣即爆 首銷周銷量為上代同期200%

家居要聞

流韻雅居,讓復雜變純粹

無障礙瀏覽 進入關懷版