機(jī)器之心報(bào)道

編輯：冷貓

隨著推理大模型和思維鏈的出現(xiàn)與普及，大模型具備了「深度思考」的能力，不同任務(wù)的泛用性得到了很大的提高。

借助思維鏈，大模型能夠?qū)θ蝿?wù)進(jìn)行深入分析，完成任務(wù)規(guī)劃與拆解，從而勝任長周期、復(fù)雜度高的工作。同時(shí)，我們也能更直觀地了解模型的推理與分析過程，從中發(fā)現(xiàn)執(zhí)行環(huán)節(jié)中的問題，并有針對(duì)性地調(diào)整指令，以更高效地完成目標(biāo)。

可以說，有了「深度思考」的推理模型，才有了現(xiàn)在擁有多種輔助功能與自主能力的 AI 智能體。

但現(xiàn)在的大模型漸漸有些偏科了。為了構(gòu)建應(yīng)用能力更強(qiáng)的智能體，對(duì)長周期的復(fù)雜任務(wù)能力的追求已經(jīng)影響到了大模型的推理模式。

不知道大家在平常使用 AI 工具的時(shí)候有沒有發(fā)現(xiàn)，打開了深度思考后，一些簡單的任務(wù)也需要很多的思考，展示了非常冗長的思維鏈，而不打開深度思考的時(shí)候，又很難準(zhǔn)確的得到想要的回復(fù)。

這種現(xiàn)象越來越明顯了，尤其是當(dāng)大模型進(jìn)入工作流（例如編碼工作）的時(shí)候，其負(fù)面效應(yīng)就更加顯著。

這不，AI 領(lǐng)域的大牛 Andrej Karpathy 也感覺到不對(duì)勁，發(fā)了長文推來指出這個(gè)令人無語的現(xiàn)象。

Karpathy 說，「LLM 在默認(rèn)狀態(tài)下正變得比我日常使用需求更具『自主代理（Agentic）』傾向，甚至有些超出了我的平均使用場景」。

最明顯的的確是編碼任務(wù)，模型現(xiàn)在往往會(huì)進(jìn)行較長時(shí)間的推理，傾向于在整個(gè)代碼庫中列出并搜索（grep）文件，會(huì)反復(fù)進(jìn)行網(wǎng)絡(luò)搜索，對(duì)一些在開發(fā)中、且明顯并不完整的代碼里極少出現(xiàn)的邊緣情況過度分析、過度思考，甚至在非常簡單的查詢中，也常常需要幾分鐘后才返回結(jié)果。

尤其是在簡單的任務(wù)中，比如在運(yùn)行腳本前快速檢查索引錯(cuò)誤或其他低級(jí)錯(cuò)誤，根本不需要如此復(fù)雜的任務(wù)分析和代碼處理。

因此 Karpathy 不得不經(jīng)常打斷 LLM，并用類似這樣的指令限制它：「停，你想得太多了。只看這一份文件。不要用任何工具。不要過度設(shè)計(jì)。

這帶來了很多麻煩，不僅是在編碼任務(wù)，我們發(fā)現(xiàn)日常使用 LLM 工具時(shí)候的類似打斷情況也越來越多了。

簡單拿剛發(fā)布幾天的 GPT-5 舉個(gè)例子，發(fā)布時(shí) OpenAI 顯然意識(shí)到深度思考的問題，所以他們強(qiáng)調(diào) GPT-5 是一個(gè)集成模型，也就是說，你用它的時(shí)候不需要在不同模型之間切換，它會(huì)自己決定何時(shí)需要深入思考。

但這個(gè)問題顯然沒有這么簡單。記得當(dāng)時(shí) GPT-4o 模型的圖像編輯生成功能很好用，但在更新到新模型后就不太一樣了。

我們給了 GPT-5 這個(gè)指令：「去除圖中文字，把這張圖變得高清一些，機(jī)器人的臉看起來更溫和一些」，希望它能夠調(diào)用圖像編輯的功能。

但結(jié)果它就開始進(jìn)行「深度思考」了：

經(jīng)過了 38 秒的思考，它考慮了很多細(xì)節(jié)，但仍然未能開始使用圖像生成功能，導(dǎo)致不得不打斷它的任務(wù)進(jìn)程。

或許這也是用戶們無比懷念 GPT-4o 的原因之一。

正如 Karpathy 指出的，隨著默認(rèn)模式逐漸向這種「超深度思考」的高代理化狀態(tài)靠攏，我們反而更需要一個(gè)相反的選項(xiàng)—— 一種更直接有效的方式去表達(dá)或傳達(dá)我的意圖和任務(wù)的緊迫程度，從「快速看一眼」到「花 30 分鐘徹底確認(rèn)后再回來」都能精確指定。

網(wǎng)友們也苦「過度思考」久矣，甚至為此回到了最樸素的使用方法。

對(duì)于這件事，Karpathy覺得罪魁禍?zhǔn)姿坪跏谴竽Ｐ汀?strong>在長周期任務(wù)上進(jìn)行了大量基準(zhǔn)測(cè)試優(yōu)化」，為了在基準(zhǔn)測(cè)試上得到更好的成績，LLM的思考就更傾向于長周期的復(fù)雜任務(wù)的實(shí)現(xiàn)，因此影響了普通任務(wù)的響應(yīng)。

他指出了兩種情境：

1. 我招呼同事過來看我屏幕上打開的一個(gè)文件，問他「這樣對(duì)嗎？」

2. 我讓某人坐在桌前，他們有 2 個(gè)小時(shí)來作答。這是一場考試， 風(fēng)險(xiǎn)很高。題目是「這樣對(duì)嗎？」

人類協(xié)作者能很自然地區(qū)分情境 1 和情境 2。但 LLM 并不知道你問的是 1 還是 2，而隨著時(shí)間推移、基準(zhǔn)測(cè)試的不斷「極限化」，它會(huì)越來越傾向于假設(shè)你問的是情境 2。

這指出了大模型過度思考，復(fù)雜化任務(wù)的可能原因，大模型的發(fā)展不能完全以基準(zhǔn)測(cè)試分?jǐn)?shù)作為追求。

關(guān)于大模型的「過度思考」，有相關(guān)經(jīng)歷和想法歡迎在評(píng)論區(qū)分享。