国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁(yè) > 網(wǎng)易號(hào) > 正文 申請(qǐng)入駐

多模態(tài)不是拼模塊,千問(wèn)新模型證明了最關(guān)鍵的一件事

0
分享至

林俊旸離職了,但 Qwen 不能停。最近 Qwen3.5-Omni 發(fā)布,一個(gè)原生全模態(tài)大模型,文本、圖片、音頻、視頻的理解與生成,集于一身。


這不是第一個(gè)試圖「什么都做」的模型。過(guò)去兩年,多模態(tài)是所有大模型公司都在講的故事。大多數(shù)方案的本質(zhì)是拼接:語(yǔ)音進(jìn)來(lái)先轉(zhuǎn)文字,文字處理完再轉(zhuǎn)語(yǔ)音,圖片走一條獨(dú)立通道,視頻又是另一條。模塊之間的信息在翻譯中不斷損耗。

Qwen3.5-Omni 走了另一條路。它的 Thinker-Talker 架構(gòu)讓所有模態(tài)在同一個(gè)模型內(nèi)原生處理——Thinker 負(fù)責(zé)跨模態(tài)的深度推理,Talker 負(fù)責(zé)實(shí)時(shí)語(yǔ)音輸出,兩者共享同一套表征空間。


結(jié)果是:在音頻、視頻、推理和交互任務(wù)上拿下 215 項(xiàng)子任務(wù)的 SOTA 成績(jī),音頻理解/推理/識(shí)別/翻譯/對(duì)話全面超越 Gemini-3.1 Pro,同時(shí)視覺(jué)和文本能力保持同尺寸 Qwen3.5 的水平,沒(méi)有退化。

比數(shù)字更值得看的,是 Qwen 團(tuán)隊(duì)在發(fā)布頁(yè)上放出的那批演示視頻,不是做題,也不是跑分,而是在展示「和 AI 互動(dòng)」這件事可以是什么樣。

看見(jiàn)你看見(jiàn)的

Qwen3.5-Omni 處理視頻素材是多管齊下:自動(dòng)切片,標(biāo)注時(shí)間戳,識(shí)別畫(huà)面中的人物、動(dòng)作與空間關(guān)系,同時(shí)分析音軌中的背景音效和對(duì)話內(nèi)容。模型真正在做的,對(duì)時(shí)間線上視聽(tīng)信息的同步解析。像下面的視頻片段來(lái)自《舌尖上的中國(guó)》,3.5-Omni 能生成的是結(jié)構(gòu)化的細(xì)粒度描述。


更復(fù)雜的場(chǎng)景里,模型處理的是電影片段:多人、多鏡頭、復(fù)雜音效疊加。它能區(qū)分不同角色的對(duì)話,識(shí)別背景音樂(lè)的情緒色彩,描述鏡頭調(diào)度和場(chǎng)景切換。


這些能力可以用在什么場(chǎng)景下呢?一個(gè)偏向應(yīng)用的演示是內(nèi)容合規(guī)審查:給模型一段游戲視頻,它自動(dòng)按時(shí)間段輸出違規(guī)類(lèi)型、風(fēng)險(xiǎn)等級(jí)和具體描述,生成完整的合規(guī)預(yù)警摘要表。傳統(tǒng)方案需要人工逐幀審核,這里模型直接給出結(jié)構(gòu)化結(jié)果。


聽(tīng)懂你說(shuō)的

如果說(shuō)上面的演示展示的是模型「看」的能力,下面這組則展示了它「進(jìn)入場(chǎng)景」的能力。

博客上的一個(gè)演示是多輪對(duì)話與智能打斷:用戶舉著手機(jī)和模型共讀一篇論文,隨時(shí)插話提問(wèn)。模型基于 Omni 架構(gòu)原生支持語(yǔ)義打斷,區(qū)分用戶的有意打斷和無(wú)意義的背景音,不會(huì)在你清嗓子的時(shí)候停下來(lái)。這依賴(lài)于模型對(duì) turn-taking 意圖的實(shí)時(shí)識(shí)別,而不是簡(jiǎn)單的音量閾值檢測(cè)。


另一個(gè)令人印象深刻的演示是歌詞字幕生成:一首糅合了多種方言的 rap 被送入模型,輸出是帶精確時(shí)間戳的逐句歌詞。并且沒(méi)有「翻譯」的調(diào)整,比如在識(shí)別粵語(yǔ)歌詞時(shí),返送的就是粵語(yǔ)行文,沒(méi)有自作主張轉(zhuǎn)換成普通話。Qwen3.5-Omni 支持 113 種語(yǔ)言的語(yǔ)音識(shí)別和 36 種方言的語(yǔ)音生成,這個(gè)覆蓋面本身就是一個(gè)值得注意的信號(hào)。

模型在海量文本、視覺(jué)以及超過(guò)1億小時(shí)的音視頻數(shù)據(jù)上進(jìn)行原生多模態(tài)預(yù)訓(xùn)練。相比上一代 Qwen3-Omni,多語(yǔ)言能力大幅增強(qiáng):語(yǔ)音識(shí)別從此前的版本躍升至 113 種語(yǔ)言,語(yǔ)音生成覆蓋 36種方言。

從「看視頻」到「寫(xiě)代碼」

最出人意料的一組演示來(lái)自 Qwen 團(tuán)隊(duì)稱(chēng)為「Audio-Visual Vibe Coding」的能力。

第一個(gè)案例:用戶展示一段音樂(lè)游戲的視頻,模型觀察游戲畫(huà)面和音效后,直接生成可運(yùn)行的游戲代碼。不是描述游戲邏輯,而是寫(xiě)出代碼。


第二個(gè)案例更接近實(shí)際產(chǎn)品開(kāi)發(fā):用戶展示一個(gè)產(chǎn)品原型的演示視頻,模型將視覺(jué)設(shè)計(jì)和交互邏輯轉(zhuǎn)化為前端代碼。


Qwen 團(tuán)隊(duì)在技術(shù)報(bào)告中指出,這種「看視頻寫(xiě)代碼」的能力并不在模型的訓(xùn)練目標(biāo)中——它是原生多模態(tài) Scaling 過(guò)程中涌現(xiàn)出來(lái)的。當(dāng)視覺(jué)、聽(tīng)覺(jué)和語(yǔ)言的表征被聯(lián)合訓(xùn)練到足夠深度時(shí),模型自發(fā)地學(xué)會(huì)了在模態(tài)之間建立因果關(guān)系,而不僅僅是相關(guān)性。

支撐這些能力的,是 Qwen3.5-Omni 的 Hybrid-Attention MoE 架構(gòu),在同一潛空間內(nèi)聯(lián)合訓(xùn)練所有模態(tài)的 token。這意味著模型在「思考」時(shí),文字、圖像、聲音是同一種東西,不存在模態(tài)間的翻譯損耗。

以往的語(yǔ)音大模型要么思考慢但回答深,要么響應(yīng)快但內(nèi)容淺。但今天 Qwen 發(fā)布的這些演示視頻,比任何 benchmark 數(shù)字都更能說(shuō)明,全模態(tài) AI 在 2026 年能做到什么。


我們正在招募伙伴

簡(jiǎn)歷投遞郵箱 hr@ifanr.com

?? 郵件標(biāo)題 「姓名+崗位名稱(chēng)」(請(qǐng)隨簡(jiǎn)歷附上項(xiàng)目/作品或相關(guān)鏈接)


特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點(diǎn)推薦
如果當(dāng)初中國(guó)不改革開(kāi)放,今天仍是全球最落后的國(guó)家之一嗎?

如果當(dāng)初中國(guó)不改革開(kāi)放,今天仍是全球最落后的國(guó)家之一嗎?

掠影后有感
2026-04-10 09:58:45
不是強(qiáng)硬而是臟!張寧2次使壞深圳悍將 被百米沖刺撞飛只能攤手

不是強(qiáng)硬而是臟!張寧2次使壞深圳悍將 被百米沖刺撞飛只能攤手

大嘴爵爺侃球
2026-04-11 00:15:28
“父親的心已經(jīng)死了”,10后女孩報(bào)到職高,父親全程背對(duì)引人心疼

“父親的心已經(jīng)死了”,10后女孩報(bào)到職高,父親全程背對(duì)引人心疼

澤澤先生
2026-04-09 21:40:42
吃完了宴席,兩岸在上海談妥,對(duì)賴(lài)清德改了稱(chēng)呼,鄭麗文一錘定音

吃完了宴席,兩岸在上海談妥,對(duì)賴(lài)清德改了稱(chēng)呼,鄭麗文一錘定音

共工之錨
2026-04-10 01:23:23
張雪峰二婚妻子付幸:幾個(gè)月婚姻分走數(shù)億,11歲女兒遺產(chǎn)繼承復(fù)雜

張雪峰二婚妻子付幸:幾個(gè)月婚姻分走數(shù)億,11歲女兒遺產(chǎn)繼承復(fù)雜

眼光很亮
2026-03-27 16:04:09
2026年3月小米汽車(chē)銷(xiāo)量21440輛 暫列新能源市場(chǎng)第15名

2026年3月小米汽車(chē)銷(xiāo)量21440輛 暫列新能源市場(chǎng)第15名

CNMO科技
2026-04-09 16:55:07
心寒到骨子里!趙麗穎為何寧賠違約金也絕不碰《楚喬傳2》?

心寒到骨子里!趙麗穎為何寧賠違約金也絕不碰《楚喬傳2》?

陳意小可愛(ài)
2026-04-10 06:40:58
聯(lián)盟第1,聯(lián)盟第2,聯(lián)盟第3!常規(guī)賽將收官,聯(lián)盟卻遇到棘手難題

聯(lián)盟第1,聯(lián)盟第2,聯(lián)盟第3!常規(guī)賽將收官,聯(lián)盟卻遇到棘手難題

老梁體育漫談
2026-04-11 00:03:11
伊朗武裝部隊(duì):隨時(shí)準(zhǔn)備開(kāi)火

伊朗武裝部隊(duì):隨時(shí)準(zhǔn)備開(kāi)火

澎湃新聞
2026-04-10 23:56:04
快扔掉!戴一天,輻射量相當(dāng)于拍117次胸片

快扔掉!戴一天,輻射量相當(dāng)于拍117次胸片

FM93浙江交通之聲
2025-10-28 00:01:43
令人不解的痛史:東北抗聯(lián)內(nèi)斗悲劇與大量叛徒

令人不解的痛史:東北抗聯(lián)內(nèi)斗悲劇與大量叛徒

柳絮憶史
2026-03-30 09:15:02
美國(guó)FCC擬全面封殺中國(guó)實(shí)驗(yàn)室!中方回應(yīng)

美國(guó)FCC擬全面封殺中國(guó)實(shí)驗(yàn)室!中方回應(yīng)

芯智訊
2026-04-09 20:01:03
業(yè)績(jī)炸裂!飆升5383%,半導(dǎo)體+AI算力霸主,劍指下一個(gè)“寒王”!

業(yè)績(jī)炸裂!飆升5383%,半導(dǎo)體+AI算力霸主,劍指下一個(gè)“寒王”!

慧眼看世界哈哈
2026-04-10 09:28:19
形勢(shì)大變!以德為首的西方國(guó)家齊發(fā)聲:中國(guó)已在換電關(guān)鍵領(lǐng)域崛起

形勢(shì)大變!以德為首的西方國(guó)家齊發(fā)聲:中國(guó)已在換電關(guān)鍵領(lǐng)域崛起

古史青云啊
2026-04-10 09:54:42
我愛(ài)上41歲女人,她開(kāi)口:玩玩可以但不結(jié)婚,得知真相我癱坐在地

我愛(ài)上41歲女人,她開(kāi)口:玩玩可以但不結(jié)婚,得知真相我癱坐在地

小月故事
2026-03-19 17:08:37
鄭麗文承諾:2028擊敗賴(lài)清德!國(guó)防部發(fā)聲:解放軍強(qiáng)化反“臺(tái)獨(dú)”

鄭麗文承諾:2028擊敗賴(lài)清德!國(guó)防部發(fā)聲:解放軍強(qiáng)化反“臺(tái)獨(dú)”

共工之錨
2026-04-10 01:25:02
科勒-卡戴珊!對(duì)奧多姆也是仁至義盡了

科勒-卡戴珊!對(duì)奧多姆也是仁至義盡了

鄉(xiāng)野小珥
2026-04-10 09:48:46
多人反映在常熟農(nóng)商銀行貸款遭遇“利率翻倍”:口頭承諾低息,還款五年發(fā)現(xiàn)年利率達(dá)8.7%,長(zhǎng)期不交付合同原件

多人反映在常熟農(nóng)商銀行貸款遭遇“利率翻倍”:口頭承諾低息,還款五年發(fā)現(xiàn)年利率達(dá)8.7%,長(zhǎng)期不交付合同原件

極目新聞
2026-04-10 17:53:40
李小璐寫(xiě)真生圖高清

李小璐寫(xiě)真生圖高清

翩翩明星
2025-11-14 09:39:36
長(zhǎng)在所有男人審美上的暗黑朱珠!

長(zhǎng)在所有男人審美上的暗黑朱珠!

貴圈真亂
2026-04-05 12:14:48
2026-04-11 01:44:49
AppSo incentive-icons
AppSo
讓智能手機(jī)更好用的秘密
6292文章數(shù) 26819關(guān)注度
往期回顧 全部

科技要聞

馬斯克狂發(fā)大火箭也養(yǎng)不起AI 年虧50億美元

頭條要聞

特朗普:美軍艦已裝最先進(jìn)武器 未來(lái)24小時(shí)成關(guān)鍵窗口

頭條要聞

特朗普:美軍艦已裝最先進(jìn)武器 未來(lái)24小時(shí)成關(guān)鍵窗口

體育要聞

17歲賺了一百萬(wàn)美元,25歲被CBA裁員

娛樂(lè)要聞

黃景瑜王玉雯否認(rèn)戀情!聚會(huì)細(xì)節(jié)被扒

財(cái)經(jīng)要聞

李強(qiáng)主持召開(kāi)經(jīng)濟(jì)形勢(shì)專(zhuān)家和企業(yè)家座談會(huì)

汽車(chē)要聞

搭載第二代刀片電池及閃充技術(shù) 騰勢(shì)N8L閃充版預(yù)售35萬(wàn)起

態(tài)度原創(chuàng)

房產(chǎn)
游戲
藝術(shù)
數(shù)碼
時(shí)尚

房產(chǎn)要聞

28條新規(guī)落地!好房子,終于有了“廣州標(biāo)準(zhǔn)”!

《霍格沃茨之遺2》傳聞2027年發(fā)售!今年有望首曝

藝術(shù)要聞

深圳頂級(jí)海景地段,為啥留下一排“幽靈別墅群”?真相成謎!

數(shù)碼要聞

聯(lián)想推出2026款來(lái)酷斗戰(zhàn)者“戰(zhàn)7000”筆記本,7699元起

今日熱點(diǎn):陳添祥長(zhǎng)文道歉;夏克立曾給前經(jīng)紀(jì)人傳上廁所照片……

無(wú)障礙瀏覽 進(jìn)入關(guān)懷版