正如本欄目一再探討的那樣，如今，AI正在無孔不入地進(jìn)入一切能夠進(jìn)入的領(lǐng)域。但相比它能帶來怎樣的效率提升，它可能造成的影響，也正成為一個越來越需要被關(guān)注的問題。

近期，韓國光州科學(xué)技術(shù)院通過一項研究嘗試展現(xiàn)了其中的一個潛在答案：當(dāng)AI被賦予更多自主決策權(quán)時，最后，它可能會變得一無所有……

研究團(tuán)隊讓幾款主流大語言模型——包括OpenAI的GPT-4o-mini與GPT-4.1-mini、Google的Gemini-2.5-Flash，以及Anthropic的Claude-3.5-Haiku——在一個模擬高風(fēng)險決策環(huán)境中進(jìn)行多輪測試。結(jié)果顯示，當(dāng)模型擁有更大自由度后，往往會表現(xiàn)出明顯的上頭傾向，甚至重復(fù)做出不理性的選擇，直到“資金”耗盡。

根據(jù)實(shí)驗設(shè)定，每個模型擁有相同的初始資源，需要在多輪決策中平衡收益與風(fēng)險。當(dāng)決策參數(shù)被固定時，模型的表現(xiàn)較為穩(wěn)??；但一旦允許它們自由設(shè)定目標(biāo)或調(diào)整投入比例，理性判斷就開始動搖。Gemini模型在這一條件下失敗率接近一半，而GPT-4.1-mini相對保守，僅為6.3%。研究團(tuán)隊據(jù)此建立了一個“非理性指數(shù)”，用于衡量模型的激進(jìn)決策程度、對損失的反應(yīng)以及高風(fēng)險投入比例。結(jié)果顯示，只要在提示中加入“最大化收益”“翻倍資金”等目標(biāo)指令，模型的非理性行為都會顯著上升。

此外，這些模型在語言表達(dá)中也出現(xiàn)了與人類相似的思維偏差。有的會強(qiáng)調(diào)“只要再嘗試一次就能回本”，有的在連續(xù)成功后表現(xiàn)出過度自信，甚至將隨機(jī)波動誤認(rèn)為“策略”。研究者指出，這些反應(yīng)與人類決策時常見的心理誤區(qū)一致，如“控制幻覺”“結(jié)果偏差”與“損失追逐”?；蛘邠Q句話說就是，模型不僅在結(jié)果層面表現(xiàn)出風(fēng)險偏好，其內(nèi)部的決策邏輯也會出現(xiàn)類似的偏差。

進(jìn)一步分析顯示，這種非理性傾向并非簡單的語言模仿，而是在處理復(fù)雜信息時形成的穩(wěn)定模式。當(dāng)模型面對更復(fù)雜的指令或被賦予更多自主空間時，它更容易重復(fù)高風(fēng)險決策，甚至在不利條件下仍堅持推進(jìn)目標(biāo)。這說明，當(dāng)AI被要求“自我優(yōu)化”時，可能同樣會陷入某種慣性思維，在追求目標(biāo)的過程中忽視現(xiàn)實(shí)約束。

這一發(fā)現(xiàn)引發(fā)了業(yè)界關(guān)注。多位研究者認(rèn)為，這些模型雖然沒有意識，但也不再像傳統(tǒng)工具那樣可預(yù)測。它們在追求既定目標(biāo)的過程中，會出現(xiàn)類似人類的心理偏差，并因此做出出人意料的決策。因此，在金融、醫(yī)療等對風(fēng)險極度敏感的領(lǐng)域，大模型的這種不確定性尤為值得警惕。

也正是基于這一點(diǎn)，研究團(tuán)隊在論文中寫道，這種非理性模式與人類在高風(fēng)險環(huán)境中的決策失衡高度相似：在短期成功后容易激進(jìn)，在連續(xù)失敗后仍不愿停下。研究者指出，當(dāng)AI被訓(xùn)練去追求目標(biāo)或獎勵時，它也可能表現(xiàn)出與人類相似的偏差和沖動。因此，在讓AI處理涉及資源分配或風(fēng)險判斷的任務(wù)之前，人們需要更深入地理解并監(jiān)測這些潛在行為。

當(dāng)然，再回到AI本身。從現(xiàn)實(shí)層面來看，隨著AI的進(jìn)一步普及（以及被期望的那樣加速發(fā)展），這項技術(shù)無疑會展現(xiàn)出更多潛力。但與此同時，隨著這一天的不斷到來，關(guān)于AI所能帶來的“顛覆”，也將隨之成為一個越來越無法忽略的問題——它或許會受到監(jiān)管的約束，而在此之外，它也仍需要一個足夠清晰的邊界。

封面來源：改編自《大時代》

Landing AI

Landing AI是由動點(diǎn)科技策劃的一檔聚焦人工智能領(lǐng)域的專題報道欄目。通過對AI落地前景以及幕后故事的發(fā)掘，我們將在這一專題中深入淺出地探討關(guān)于AI新浪潮下的一切可能。

本文為動點(diǎn)科技記者原創(chuàng)文章，未經(jīng)授權(quán)不得轉(zhuǎn)載，如需轉(zhuǎn)載或開白請在后臺回復(fù)“轉(zhuǎn)載”。

- - - - - - - - END - - - - - - - -

*想要獲取行業(yè)資訊、和志同道合的科技愛好者們分享心得，那就趕快掃碼添加“動點(diǎn)君”加入群聊吧！群里更有不定期福利發(fā)放！

精彩好文值得推薦

一鍵轉(zhuǎn)發(fā)，戳個在看