国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

印度統(tǒng)計學院團隊揭示AI推理的"雙重人格"

0
分享至


這項由印度統(tǒng)計學院(Chennai)的Sujata Ghosh教授團隊領導的研究發(fā)表于2025年12月的計算機科學頂級會議,研究編號為arXiv:2512.12620v2。有興趣深入了解的讀者可以通過該編號查詢完整論文。

當我們和朋友爭論某個問題時,經(jīng)常會發(fā)現(xiàn)一個有趣的現(xiàn)象:有些人特別擅長找邏輯漏洞,能夠迅速指出"你這個推理不對",但同時他們又很容易被一些聽起來很有道理的錯誤結論給忽悠?,F(xiàn)在,研究人員發(fā)現(xiàn),我們?nèi)粘J褂玫拇笮驼Z言模型(比如ChatGPT、Claude這些AI助手)竟然也表現(xiàn)出了這種奇特的"雙重人格"。

Sujata Ghosh教授的研究團隊就像偵探一樣,仔細觀察了14個不同的AI模型在處理邏輯推理問題時的表現(xiàn)。他們發(fā)現(xiàn)了一個令人意外的現(xiàn)象:這些AI在處理純粹的邏輯問題時表現(xiàn)得像天才數(shù)學家一樣精準,但在判斷日常生活中的常識問題時,卻常常犯一些讓人啼笑皆非的錯誤。

研究團隊選擇了一種叫做"三段論"的古典邏輯推理形式作為測試工具。三段論就像我們小時候?qū)W過的那種推理:所有的鳥都有羽毛,知更鳥是鳥,所以知更鳥有羽毛。這種推理方式聽起來簡單,但實際上包含了人類思維的核心機制。更重要的是,研究人員設計了一套巧妙的"雙重評分系統(tǒng)",就像給每個AI的答案打兩次分:一次看邏輯是否正確,另一次看答案是否符合常識。

通過這種方法,他們發(fā)現(xiàn)了AI推理能力的一個深層秘密:頂級AI模型在邏輯推理方面幾乎達到了99.6%的準確率,但在常識判斷方面卻只有大約52%的正確率——這基本等于拋硬幣的水平。這就好比一個能夠完美解決數(shù)學證明題的學霸,卻不知道鯨魚其實不會走路這樣的基本常識。

一、AI的"邏輯天才"與"常識盲區(qū)"

研究團隊構建了一個包含160個三段論問題的測試集,就像為AI準備了一場全方位的邏輯推理考試。這些問題經(jīng)過精心設計,每一個都有兩套評判標準:一套看邏輯結構是否正確,另一套看結論是否符合現(xiàn)實常識。

在測試中,研究人員發(fā)現(xiàn)了AI推理能力的一個驚人分化。以谷歌的Gemini 2.5 Flash為例,這個模型在邏輯推理方面幾乎完美無缺,準確率高達99.6%,但在常識判斷方面卻只有51.7%的正確率。這種巨大的差距揭示了一個深層問題:這些AI模型更像是精密的邏輯計算器,而不是具有常識的智能體。

相比之下,人類的推理模式恰恰相反。我們在面對邏輯問題時,往往會受到個人經(jīng)驗和常識的影響,出現(xiàn)所謂的"信念偏差"。比如當看到"所有需要氧氣的生物都是昆蟲,老鼠需要氧氣,所以老鼠是昆蟲"這樣的三段論時,即使邏輯結構是正確的,大多數(shù)人也會因為知道"老鼠不是昆蟲"這個常識而拒絕接受結論。但AI模型卻會冷靜地分析邏輯結構,得出"正確"的判斷。

這種現(xiàn)象在不同性能水平的AI模型中表現(xiàn)得尤為明顯。研究團隊發(fā)現(xiàn),性能越好的模型,這種"邏輯至上"的傾向就越強烈。反而是一些性能相對較弱的模型,比如Llama系列的較小版本,在常識判斷方面表現(xiàn)得更像人類,會受到語義內(nèi)容的影響。

二、"信念偏差":AI與人類推理的根本分歧

為了深入理解AI的推理模式,研究團隊引入了一個來自認知心理學的重要概念——"信念偏差"。這個概念描述的是人類在推理時會不自覺地受到個人信念和常識的影響,有時甚至會因為不喜歡某個結論而拒絕接受邏輯正確的推理。

研究人員將所有測試問題分成了兩大類:一類是"和諧型"問題,在這些問題中,邏輯推理得出的結論恰好符合常識;另一類是"沖突型"問題,邏輯推理的結論與常識相矛盾。通過比較AI在這兩類問題上的表現(xiàn)差異,研究人員能夠測量出每個模型的"信念偏差"程度。

結果顯示,14個測試模型中有12個(占86%)都表現(xiàn)出了明顯的信念偏差,平均偏差達到10.81個百分點。但令人意外的是,這種偏差的方向和強度與模型的整體推理能力呈現(xiàn)出負相關關系。換句話說,推理能力越強的AI,受信念偏差影響就越??;而推理能力相對較弱的AI,反而更容易被語義內(nèi)容所"迷惑"。

最極端的例子是Llama 3.2 3B模型,它在和諧型問題上的準確率為82%,但在沖突型問題上卻只有35.2%,偏差高達46.9個百分點。這說明這個模型嚴重依賴語義線索來做判斷,就像一個容易被表面現(xiàn)象誤導的初學者。

相反,那些頂級模型如Gemini 2.5 Flash和GPT-OSS-20B,在兩類問題上的表現(xiàn)幾乎沒有差異,偏差不到1個百分點。這表明它們已經(jīng)完全"超越"了常識的束縛,純粹基于邏輯結構做判斷。

三、提示策略的意外發(fā)現(xiàn):少即是多

在測試過程中,研究團隊還探索了不同提示策略對AI推理表現(xiàn)的影響。他們測試了四種主要的提示方法:零樣本(不給任何示例)、單樣本(給一個示例)、少樣本(給四個示例)以及零樣本思維鏈(要求AI展示推理過程)。

令人意外的是,傳統(tǒng)上被認為能夠提升AI表現(xiàn)的少樣本提示策略,在邏輯推理任務中卻產(chǎn)生了負面效果。與零樣本相比,少樣本提示的平均準確率下降了3.57個百分點,這一差異在統(tǒng)計上顯著且穩(wěn)定。

這個發(fā)現(xiàn)顛覆了人們的常規(guī)認知。研究人員深入分析后發(fā)現(xiàn),在邏輯推理這種需要嚴格遵循形式規(guī)則的任務中,額外的示例可能會引入噪聲,干擾模型對純邏輯結構的判斷。就好比在教孩子做數(shù)學題時,給太多不同類型的例子反而可能讓孩子混淆,不如直接讓他們按照基本公式計算。

更有趣的是,研究團隊發(fā)現(xiàn)不同的提示策略會改變模型解決問題的具體方式,但這種改變是模型特定的,沒有普適性的規(guī)律。有些模型在某種提示下表現(xiàn)更好,另一些模型可能在相同提示下表現(xiàn)更差。這說明提示策略的效果很大程度上取決于模型的內(nèi)在架構和訓練方式。

四、架構勝過規(guī)模:小而精vs大而散

研究結果揭示了AI發(fā)展中的一個重要趨勢:模型的架構設計和訓練方法比純粹的參數(shù)數(shù)量更重要。在測試的14個模型中,性能的分布呈現(xiàn)出明顯的雙峰模式:6個模型達到了95%以上的語法準確率,形成了一個高性能梯隊;而另外5個模型的準確率低于70%,最差的甚至只有51.9%,幾乎等于隨機猜測。

這種巨大的性能差距不能簡單用模型大小來解釋。比如,一些參數(shù)量相對較小但架構精良的模型,在推理任務上的表現(xiàn)遠超一些參數(shù)量龐大但設計相對簡單的模型。這就像比較兩臺汽車的性能,發(fā)動機的設計精度往往比排量更重要。

研究團隊特別關注了模型在precision(精確率)和recall(召回率)上的表現(xiàn)分布。他們發(fā)現(xiàn),一些模型表現(xiàn)出極端的保守傾向,傾向于將大多數(shù)推理判斷為"錯誤",即使在面對邏輯正確的推理時也是如此。比如Qwen3-Next 80B A3B Thinking模型的精確率高達99.2%,但召回率只有42.8%,這表明它過分謹慎,寧可錯過正確答案也不愿意冒險。

相反,另一些模型則表現(xiàn)出過度寬松的傾向,容易接受各種推理,即使是邏輯錯誤的。Gemma 3 27B IT模型的召回率達到93.1%,但精確率只有61.0%,說明它很容易被說服,缺乏嚴格的邏輯篩選能力。

只有那些頂級模型才能在precision和recall之間保持良好平衡,兩項指標都超過97%,表現(xiàn)出真正的推理辨別能力。

五、一致性測試:AI的"人格穩(wěn)定性"

為了更深入地了解AI的推理能力,研究團隊設計了一套巧妙的一致性測試。他們?yōu)槊總€基礎三段論問題創(chuàng)建了三個變體:無意義詞匯版(用抽象詞匯如"blargs"、"zimons"替換有意義的詞匯)、順序調(diào)換版(交換前提的順序)以及組合版(同時應用前兩種變化)。

這種測試就像給AI做"人格穩(wěn)定性"檢查。一個真正理解邏輯推理的系統(tǒng),應該能夠識別出這些表面不同但邏輯結構相同的問題,給出一致的答案。結果顯示,推理能力強的模型在不同變體間保持了高度一致性,相關系數(shù)達到0.877以上。

這種一致性測試揭示了AI推理的一個重要特征:頂級模型已經(jīng)基本擺脫了具體詞匯內(nèi)容的影響,真正掌握了抽象的邏輯結構。它們就像經(jīng)驗豐富的數(shù)學家,無論問題用什么具體的數(shù)字或符號表示,都能準確識別其數(shù)學本質(zhì)。

相比之下,性能較弱的模型在面對這些變體時表現(xiàn)出明顯的不穩(wěn)定性,說明它們還很大程度上依賴具體的詞匯內(nèi)容來做判斷,沒有真正理解底層的邏輯關系。

六、與真實世界的連接:LMArena排名的啟示

研究團隊還將他們的邏輯推理測試結果與LMArena(一個基于人類偏好的AI模型排名系統(tǒng))進行了對比分析。令人驚訝的是,兩者之間存在很強的負相關關系(相關系數(shù)-0.825),這意味著在邏輯推理上表現(xiàn)優(yōu)秀的模型,往往在人類偏好排名中也名列前茅。

這個發(fā)現(xiàn)表明,嚴格的邏輯推理能力與模型在實際應用中的表現(xiàn)質(zhì)量密切相關。那些能夠準確處理三段論推理的模型,通常也更擅長遵循指令、理解用戶意圖和提供有用的回答。這就像一個好的律師,不僅要有扎實的法律邏輯思維,還要能在實際案件中為客戶提供有價值的服務。

這種相關性的發(fā)現(xiàn)對AI的發(fā)展方向具有重要啟示意義。它表明,投入資源提升模型的基礎邏輯推理能力,不僅能讓AI在學術測試中表現(xiàn)更好,還能實實在在地改善用戶體驗。

七、溫度參數(shù)的穩(wěn)定性發(fā)現(xiàn)

在技術層面,研究團隊還探索了一個重要的模型參數(shù)——溫度設置對推理表現(xiàn)的影響。溫度參數(shù)控制著AI回答的隨機性:溫度越低,回答越確定;溫度越高,回答越具有創(chuàng)造性和隨機性。

研究結果顯示,在使用自適應停止策略(即當模型連續(xù)給出相同答案時就停止采樣)的情況下,溫度參數(shù)對邏輯推理準確率幾乎沒有影響。無論溫度設置為0(完全確定性)、0.5(中等隨機性)還是1.0(高隨機性),模型的平均準確率都保持在相似水平。

這個發(fā)現(xiàn)具有重要的實用價值。它表明,對于邏輯推理這類有明確正確答案的任務,我們不必過分擔心隨機性參數(shù)的設置,模型的內(nèi)在推理能力是決定性因素。這就像一個熟練的工匠,無論在什么環(huán)境下都能制作出高質(zhì)量的產(chǎn)品,不會因為一些外在條件的小變化而影響核心技能的發(fā)揮。

八、研究方法的創(chuàng)新:雙重真值框架

這項研究在方法論上的最大創(chuàng)新是建立了"雙重真值框架"。傳統(tǒng)的邏輯推理測試通常只有一個評判標準——邏輯是否正確。但Ghosh教授團隊認識到,AI在現(xiàn)實世界中的應用需要同時具備邏輯推理和常識判斷兩種能力,于是為每個測試問題設置了兩套獨立的評分標準。

這種設計讓研究人員能夠精確分離和測量AI的兩種不同認知能力。就像醫(yī)生用不同的檢查方法分別測試患者的視力和聽力,雖然兩者都屬于感知能力,但需要分開評估才能得到準確診斷。

雙重真值框架的應用揭示了許多以前被掩蓋的現(xiàn)象。比如,一些看似表現(xiàn)平庸的模型,實際上可能在某一個維度上表現(xiàn)出色;而一些整體分數(shù)很高的模型,可能存在明顯的能力偏科問題。

這種方法論創(chuàng)新為未來的AI評估研究提供了新思路。研究人員可以據(jù)此設計更加細致和全面的測試框架,幫助我們更好地理解AI的認知能力結構。

說到底,這項研究給我們帶來的最大啟示是:AI正在沿著一條與人類認知發(fā)展截然不同的道路前進。我們的大腦在漫長的進化過程中學會了在邏輯和直覺之間取得平衡,而AI則正在成為完美的邏輯機器。

歸根結底,這種差異既是AI的優(yōu)勢,也可能是它的局限。在需要嚴格邏輯推理的場景中,AI已經(jīng)超越了人類;但在需要常識判斷和靈活適應的情況下,AI還有很長的路要走。更重要的是,隨著AI變得越來越"邏輯化",我們需要思考這是否是我們想要的發(fā)展方向。

這項研究不僅回答了AI推理能力的現(xiàn)狀問題,更重要的是為我們提出了一個深層的哲學思考:我們是希望AI成為完美的邏輯工具,還是希望它們更像人類一樣具有常識和直覺?或許,答案取決于我們希望AI在未來社會中扮演什么樣的角色。對于那些希望更深入了解這一研究的讀者,可以通過研究編號arXiv:2512.12620v2查詢完整的學術論文。

Q&A

Q1:什么是三段論推理?

A:三段論是一種古典邏輯推理形式,包含兩個前提和一個結論,比如"所有鳥都有羽毛,知更鳥是鳥,所以知更鳥有羽毛"。研究團隊用它來測試AI的邏輯推理能力,因為它結構簡單但能很好地反映推理的核心機制。

Q2:為什么頂級AI模型在常識判斷上表現(xiàn)這么差?

A:頂級AI模型被訓練得更像精密的邏輯計算器,它們專注于分析形式邏輯結構而不是語義內(nèi)容。比如Gemini 2.5 Flash在邏輯推理上達到99.6%準確率,但常識判斷只有51.7%,基本等于拋硬幣水平。

Q3:信念偏差在AI模型中是怎么表現(xiàn)的?

A:信念偏差指的是推理時受個人信念影響的程度。研究發(fā)現(xiàn),推理能力越強的AI越不受信念偏差影響,而性能較弱的AI反而更容易被語義內(nèi)容"迷惑"。比如Llama 3.2 3B模型的信念偏差高達46.9%,說明它嚴重依賴常識線索。

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關推薦
熱點推薦
穆雷21+7+6英格拉姆30+8絕平超時 掘金客場險勝猛龍

穆雷21+7+6英格拉姆30+8絕平超時 掘金客場險勝猛龍

北青網(wǎng)-北京青年報
2026-01-01 12:42:04
毛主席去世是因為什么???有人猜測是"帕金森",專家:我不能說

毛主席去世是因為什么病?有人猜測是"帕金森",專家:我不能說

磊子講史
2025-12-31 16:30:23
東莞20年:親眼目睹工廠女工的性生活,她們的孤獨壓抑和肆意歡歌

東莞20年:親眼目睹工廠女工的性生活,她們的孤獨壓抑和肆意歡歌

農(nóng)村情感故事
2025-04-06 20:07:35
臺灣的幫手出現(xiàn),比特朗普還囂張!臺軍喊話大陸:小心遭全球制裁

臺灣的幫手出現(xiàn),比特朗普還囂張!臺軍喊話大陸:小心遭全球制裁

博覽歷史
2025-12-31 18:45:17
有人預測:2026年,這5樣“東西”會嚴重貶值,普通人可不要碰!

有人預測:2026年,這5樣“東西”會嚴重貶值,普通人可不要碰!

蜉蝣說
2025-12-31 11:02:51
烏克蘭突遭空襲震驚白宮,特朗普現(xiàn)場怒斥:普京讓我不爽

烏克蘭突遭空襲震驚白宮,特朗普現(xiàn)場怒斥:普京讓我不爽

像風走了八萬里不問歸期
2026-01-01 13:36:36
“吃一斤它勝過吃10只雞”,一降血脂、二降血糖、三降膽固醇

“吃一斤它勝過吃10只雞”,一降血脂、二降血糖、三降膽固醇

江江食研社
2025-12-31 14:30:05
四川黑寡婦何一:前首富丈夫坐牢,她卻擁2300億享生活

四川黑寡婦何一:前首富丈夫坐牢,她卻擁2300億享生活

二大爺觀世界
2025-12-28 23:27:38
大爆冷!字母哥轟31+15破紀錄卻遭CJ絕殺 里弗斯迷之操作坑慘雄鹿

大爆冷!字母哥轟31+15破紀錄卻遭CJ絕殺 里弗斯迷之操作坑慘雄鹿

鍋子籃球
2026-01-01 14:28:49
住建部已摸清國內(nèi)房子數(shù)量,過剩嚴重到什么情況?樓市或迎來變局

住建部已摸清國內(nèi)房子數(shù)量,過剩嚴重到什么情況?樓市或迎來變局

搬磚營Z
2025-12-31 14:00:37
林強涉案989億被抓!生活奢華超過中東富豪,妻子、父母也有責任

林強涉案989億被抓!生活奢華超過中東富豪,妻子、父母也有責任

細品名人
2025-12-31 07:34:46
萬達集團前總裁被判刑

萬達集團前總裁被判刑

新浪財經(jīng)
2026-01-01 11:52:31
向太曝馬伊琍已再婚:當年文章過不了心理那關

向太曝馬伊琍已再婚:當年文章過不了心理那關

娛樂看阿敞
2025-12-12 15:50:00
接觸的人多了,會明白:如果一個人還穿5年前的衣服,說明3個問題

接觸的人多了,會明白:如果一個人還穿5年前的衣服,說明3個問題

詩詞中國
2025-12-31 21:01:55
方圓之間 蔚為大觀(文化中國行·華夏博物之旅·傳統(tǒng)建筑)

方圓之間 蔚為大觀(文化中國行·華夏博物之旅·傳統(tǒng)建筑)

金臺資訊
2026-01-01 06:21:20
北京出招回擊美國已生效,一切協(xié)作瞬間中斷,美方囂張三句無恥

北京出招回擊美國已生效,一切協(xié)作瞬間中斷,美方囂張三句無恥

Ck的蜜糖
2026-01-01 15:05:31
千萬不要過度體檢?醫(yī)生再三提醒:55歲后,這5種體檢能不做就不做

千萬不要過度體檢?醫(yī)生再三提醒:55歲后,這5種體檢能不做就不做

神奇故事
2025-12-30 23:09:45
主持人李靜自曝絕經(jīng)過程,很快失去性魅力,連男人也沒興趣了

主持人李靜自曝絕經(jīng)過程,很快失去性魅力,連男人也沒興趣了

阿器談史
2025-12-30 17:26:47
妹子網(wǎng)購綠植開箱,發(fā)現(xiàn)兩只偷渡小貓,商家天塌了:我的咪呢?

妹子網(wǎng)購綠植開箱,發(fā)現(xiàn)兩只偷渡小貓,商家天塌了:我的咪呢?

Magic寵物社
2025-12-16 20:10:03
李在明動身訪華前,先給了中國一記下馬威,高市早苗卻笑不出來?

李在明動身訪華前,先給了中國一記下馬威,高市早苗卻笑不出來?

策前論
2025-12-31 18:05:08
2026-01-01 15:48:49
至頂AI實驗室 incentive-icons
至頂AI實驗室
一個專注于探索生成式AI前沿技術及其應用的實驗室。
896文章數(shù) 151關注度
往期回顧 全部

科技要聞

2026,沖刺商業(yè)航天第一股!

頭條要聞

北京一金銀市場只剩300克以上金條 有人變現(xiàn)近9斤黃金

頭條要聞

北京一金銀市場只剩300克以上金條 有人變現(xiàn)近9斤黃金

體育要聞

楊瀚森為球迷送新年祝福:深知自身差距

娛樂要聞

跨年零點時刻好精彩!何炅飛奔擁抱

財經(jīng)要聞

巴菲特「身退,權還在」

汽車要聞

一汽-大眾2025年整車銷量超158萬輛 燃油車市占率創(chuàng)新高

態(tài)度原創(chuàng)

手機
藝術
教育
親子
公開課

手機要聞

LG預熱首款32英寸串聯(lián)OLED顯示器32GX870B

藝術要聞

Raimundo de Madrazo女性人物精選,19世紀西班牙著名畫家

教育要聞

北京“最聰明”的高中生“全軍覆沒”?!“雞娃”的家長撐不下去了!

親子要聞

“雙減”四年 啥變了?——娃的周末變了! 科技館里的新玩法

公開課

李玫瑾:為什么性格比能力更重要?

無障礙瀏覽 進入關懷版