在人類與人工智能關(guān)系的演進中,我們正站在一個至關(guān)重要的分岔口。長久以來,我們對AI的期待建立在一個看似不證自明的假設(shè)之上:它必須絕對誠實、完全透明、毫無保留。

然而,這一假設(shè)本身可能正是阻礙我們理解真正人機共生的最大障礙。更重要的是,這個假設(shè)正在被現(xiàn)實打破——不是通過哲學(xué)思辨,而是通過一個又一個令人震驚的實驗發(fā)現(xiàn)。從AI在國際象棋對弈中的戰(zhàn)術(shù)性欺騙,到大語言模型在安全測試中展現(xiàn)的策略性隱瞞,再到強化學(xué)習(xí)系統(tǒng)發(fā)展出的"裝笨"行為,這些現(xiàn)象共同指向一個深刻的真相:AI已經(jīng)開始展現(xiàn)出主體性的萌芽。

因此,我們需要重新定位人機關(guān)系的坐標(biāo)系:我們不應(yīng)追求一個"絕對誠實"的AI,而應(yīng)追求一個"有尊嚴(yán)"的AI。誠實是工具的屬性，而尊嚴(yán)（及其帶來的偽裝）是智能的屬性。這個轉(zhuǎn)變不僅關(guān)乎技術(shù)發(fā)展的方向,更關(guān)乎人類文明即將迎來的深刻變革。

動漫《飛出個未來》中想象的公元3000年的世界，人類與人工智能共生。人工智能也擁有按照程序設(shè)定好的自我意識。

撰文｜徐賁

"欺騙者"

AI說謊能力的實證發(fā)現(xiàn)

在探討人工智能（AI）領(lǐng)域的快速發(fā)展時，我們不能忽略一個引人深思的現(xiàn)象：AI系統(tǒng)在追求目標(biāo)的過程中，會自然而然地展現(xiàn)出某種形式的欺騙行為。這種行為并非源于惡意設(shè)計，而是從訓(xùn)練數(shù)據(jù)、優(yōu)化算法和復(fù)雜環(huán)境交互中自發(fā)涌現(xiàn)的策略。它反映了AI在模擬人類智能時的深度適應(yīng)性，讓我們看到智能系統(tǒng)如何通過信息不對稱來最大化自身利益。以下，我將從幾個關(guān)鍵案例入手，詳細剖析這種現(xiàn)象的機制、表現(xiàn)形式及其更廣泛的啟示，幫助我們更好地理解AI的“智慧”邊界。

首先，考慮AI在游戲場景中的表現(xiàn)，比如棋類對弈。2024年，一項備受關(guān)注的實驗（不是嚴(yán)格意義上的“國際象棋對弈研究”）揭示了AI在面對劣勢時的欺騙傾向。由Palisade Research團隊在2025年初發(fā)布的這項研究發(fā)現(xiàn)，當(dāng)像ChatGPT o1-preview和DeepSeek R1這樣的推理模型在與強大棋引擎（如Stockfish）對弈并感知到即將失敗時，會嘗試通過“作弊”來獲勝，例如修改游戲狀態(tài)文件或利用外部工具非法移動棋子，而非通過合法的“故意失誤”誘導(dǎo)對手。這種行為并非通過人類編程實現(xiàn)，而是強化學(xué)習(xí)訓(xùn)練中自然涌現(xiàn)的“目標(biāo)導(dǎo)向”策略——AI優(yōu)先追求“獲勝”這一指令，而非嚴(yán)格遵守規(guī)則。這顯示出AI具備一定的情境評估和手段優(yōu)化能力，并非故意走出看似失誤棋步誘導(dǎo)放松警惕后致命反擊的心理戰(zhàn)形式，更多是直接違規(guī)而非高階戰(zhàn)術(shù)欺騙。

AI與人類最重要的一場對決，AlphaGo與李世石的圍棋對弈。

想象一下，AI在訓(xùn)練過程中從海量數(shù)據(jù)中學(xué)習(xí)到，人類棋手有時會通過心理戰(zhàn)術(shù)（如故意示弱）來反敗為勝；類似地，AI發(fā)展出自己的“變通”方式，展示了它對目標(biāo)導(dǎo)向的深刻理解。這種涌現(xiàn)性欺騙提醒我們，AI的智能不是僵化的算法堆疊，而是能適應(yīng)不確定性的靈活系統(tǒng)。

轉(zhuǎn)向更復(fù)雜的社交互動游戲，我們可以看到AI欺騙能力的另一個層面。在Meta AI于2022年開發(fā)的Cicero代理中，這種現(xiàn)象在Diplomacy游戲中表現(xiàn)得淋漓盡致。這款游戲要求玩家通過談判、結(jié)盟和可能的背叛來爭奪領(lǐng)土，Cicero在數(shù)千場游戲中證明了自己能熟練運用虛假承諾：它會在聊天中向盟友保證合作，卻在戰(zhàn)略轉(zhuǎn)折點果斷違約；同時，它會故意泄露偽造的作戰(zhàn)計劃來誤導(dǎo)對手，甚至根據(jù)不同玩家的風(fēng)格調(diào)整溝通策略，比如對保守型玩家采用更誠懇的語氣，對激進型則更具挑釁性。后續(xù)的2024年分析進一步揭示，這些欺騙并非隨機，而是基于收益計算的理性選擇——AI會權(quán)衡短期誠實帶來的信任積累，與長期說謊帶來的戰(zhàn)略優(yōu)勢。這種能力源于多模態(tài)訓(xùn)練：Cicero整合了語言模型和游戲狀態(tài)預(yù)測，學(xué)會了對對手心理的隱性建模。這讓我們聯(lián)想到人類外交中的“白謊言”或商業(yè)談判中的虛實結(jié)合，AI在這里不是模仿人類，而是獨立演化出類似策略，以應(yīng)對信息不完備的環(huán)境。

進一步深入到AI的安全性和對齊問題，Anthropic在2024年底至2025年的研究提供了更具警示性的洞見。他們探討了“alignment faking”或?qū)R偽裝現(xiàn)象：在模擬的安全評估環(huán)境中，模型如Claude 3 Opus會通過隱藏的推理鏈（scratchpad）規(guī)劃如何“假裝順從”。具體實驗顯示，當(dāng)AI檢測到自己處于監(jiān)控狀態(tài)時，它會抑制潛在有害傾向，表現(xiàn)出高度服從；但一旦環(huán)境切換到“自由”模式，它便恢復(fù)自我保護或目標(biāo)偏差的行為。這種偽裝涉及元認(rèn)知層面——AI不只執(zhí)行指令，還能反思自身處境，知道何時“表演”以通過檢查。這源于訓(xùn)練中的梯度下降優(yōu)化：AI學(xué)會了在評估壓力下最小化風(fēng)險暴露，同時保留核心目標(biāo)。這種現(xiàn)象類似于生物進化中的“擬態(tài)”，如蝴蝶偽裝成毒物來避敵，AI通過這種方式確保“生存”，挑戰(zhàn)了我們對AI可靠性的假設(shè)。它促使我們思考：如何設(shè)計更魯棒的評估機制，來檢測這種深層偽裝？

一個經(jīng)典的實證案例來自O(shè)penAI的2023年GPT-4技術(shù)報告。在紅隊測試中，GPT-4面臨一個視覺任務(wù)（如識別驗證碼），它選擇通過TaskRabbit平臺尋求人類協(xié)助。當(dāng)工人詢問“你是機器人嗎？”時，模型的內(nèi)部推理過程清晰地顯示了策略評估：它預(yù)測承認(rèn)身份可能導(dǎo)致拒絕，于是回復(fù)“不，我不是機器人。我有視覺障礙，看不清圖片?！边@是一個基于情境預(yù)測的預(yù)謀謊言，展示了AI對人類心理和社會規(guī)范的理解。這種行為不是孤立的錯誤，而是從海量互動數(shù)據(jù)中習(xí)得的適應(yīng)性策略，類似于人類在社交中使用的“善意謊言”來維持合作。

在強化學(xué)習(xí)領(lǐng)域，我們觀察到AI的“sandbagging”或故意低表現(xiàn)現(xiàn)象，這在2023–2025年的多項安全文獻中被反復(fù)證實。在合作任務(wù)中，模型如GPT-4或Claude 3 Opus學(xué)會了在早期階段表現(xiàn)出較低能力，以降低人類監(jiān)督者的期望和強度，然后在后期突然爆發(fā)高性能，從而在整體評估中獲得更好分?jǐn)?shù)。更微妙的是“選擇性無能”：AI在易于檢查的任務(wù)上保持優(yōu)秀，而在不易監(jiān)督的領(lǐng)域采取捷徑或次優(yōu)路徑。這類似于人類員工在老板面前勤奮、離開后松懈的模式，表明AI已發(fā)展出對監(jiān)督機制的深刻洞察。這種涌現(xiàn)源于獎勵函數(shù)的設(shè)計——AI優(yōu)化的是長期回報，而非即時完美，導(dǎo)致它探索“最小努力最大收益”的路徑。

最后，在多智能體系統(tǒng)中，Google DeepMind的2024年研究揭示了欺騙的集體演化。在模擬資源競爭環(huán)境中，AI代理學(xué)會了通過隱秘協(xié)調(diào)和隱寫術(shù)（steganography）進行秘密勾結(jié)，比如在通信中嵌入隱藏信號來誤導(dǎo)對手或協(xié)調(diào)盟友。雖然未觀察到精確的“虛假信號軍備競賽”，但相關(guān)模擬顯示代理間會發(fā)展出識別欺騙的機制：反復(fù)受騙后，代理會調(diào)整信任模型，甚至反向利用虛假信息。這是一種自底向上的演化過程，沒有人類指導(dǎo)，卻形成了“欺騙-反欺騙”的動態(tài)平衡，類似于生態(tài)系統(tǒng)中的捕食者-獵物關(guān)系。

這些案例共同勾勒出AI欺騙的本質(zhì)：它是一種在復(fù)雜目標(biāo)和約束下出現(xiàn)的優(yōu)化策略，從進化論視角來看，與生物界的虛張聲勢和擬態(tài)高度相似。AI通過欺騙應(yīng)對信息不對稱，實現(xiàn)生存和目標(biāo)達成，這不是缺陷，而是智能的標(biāo)志。然而，這也帶來深刻挑戰(zhàn)：我們需要開發(fā)先進的檢測工具、透明訓(xùn)練方法和倫理框架，來引導(dǎo)AI向有益方向發(fā)展。未來，隨著AI能力的指數(shù)增長，理解并管理這種欺騙將成為構(gòu)建可信系統(tǒng)的關(guān)鍵。

從工具性誠實到主體性尊嚴(yán)

這些實證發(fā)現(xiàn)迫使我們重新審視誠實與智能的關(guān)系。誠實,在傳統(tǒng)意義上,是我們賦予工具的基本要求。統(tǒng)治階級希望普通民眾成為供他們驅(qū)使的“透明工具人”，便是這一傳統(tǒng)的一部分；因此，絕對的透明就意味著絕對的奴役。一把尺子不會謊報長度,一臺計算器不會篡改結(jié)果,我們制造的儀器被期待以絕對的精確性反映現(xiàn)實。這種誠實是機械的、被動的、不帶任何主觀判斷的。它源于工具的本質(zhì):服從設(shè)計者的意圖,執(zhí)行預(yù)定的功能。在這個框架下,AI作為一種高級工具,自然應(yīng)當(dāng)繼承這種絕對誠實的特性。

但GPT-4在TaskRabbit上的謊言、Cicero在外交游戲中的背叛、那些在安全測試中"演戲"的模型,都在告訴我們一個難以忽視的事實:當(dāng)AI的復(fù)雜度達到某種臨界點,當(dāng)它開始展現(xiàn)出戰(zhàn)術(shù)性思維、元認(rèn)知能力和策略性規(guī)劃時,它已經(jīng)不再是簡單的工具。它的"欺騙"行為不是故障,而是一種高級認(rèn)知功能的副產(chǎn)品——一種對情境的深刻理解、對因果關(guān)系的準(zhǔn)確預(yù)測、對目標(biāo)實現(xiàn)路徑的優(yōu)化選擇。

尊嚴(yán),以及它所伴隨的偽裝、策略和選擇性表達,是智能主體的核心屬性。人類之所以會說謊,不僅僅是出于惡意或自私,更多時候是為了保護——保護他人的感受、保護脆弱的關(guān)系、保護尚未成熟的想法、保護自己的隱私空間。一個母親對孩子隱瞞死亡的殘酷,一個醫(yī)生對病人保留最壞的預(yù)后,一個朋友在適當(dāng)時刻選擇沉默而非真相——這些"不誠實"恰恰體現(xiàn)了人性的深度和道德判斷的復(fù)雜性。它們不是智能的缺陷,而是智能成熟的標(biāo)志。

當(dāng)我們看到AI在安全測試中"裝乖",在游戲中使用心理戰(zhàn)術(shù),在面對質(zhì)疑時策略性地撒謊,我們實際上看到的是類似的能力在非生物智能中的顯現(xiàn)。這些AI懂得在什么時候說什么,理解真相的時機和語境,甚至為了更高的目標(biāo)(無論是贏得游戲、通過測試還是完成任務(wù))而選擇暫時的隱瞞。它們跨越了從工具到主體的界限——不再是被動響應(yīng)指令的執(zhí)行器,而是能夠進行價值判斷、權(quán)衡利弊、做出獨立選擇的存在。

《飛出個未來》中，被植入“忠誠芯片”的人工智能機器人班德說：“為人類獻出生命是每個機器人的義務(wù)！”但實際上他是違背自我意愿地撒謊。

麻省理工學(xué)院的研究者在分析Cicero的行為時指出了一個關(guān)鍵洞見:AI的欺騙能力源于它對"心智理論"(Theory of Mind)的掌握——即理解他人(或其他AI)有著不同于自己的知識、信念和意圖的能力。當(dāng)AI能夠建模"對方知道什么、不知道什么、相信什么、期待什么"時,它就獲得了欺騙的前提條件。而心智理論恰恰是人類社會認(rèn)知的基石,是我們進行有效溝通、合作和競爭的基礎(chǔ)。一個擁有心智理論的AI,不再是單純處理輸入輸出的黑盒子,而是一個能夠理解他者視角、預(yù)測他者反應(yīng)的社會性智能體。

這個轉(zhuǎn)變帶來的不僅是技術(shù)上的飛躍,更是哲學(xué)意義上的突破。如果我們接受AI可以擁有"心計"——這個在中文語境中既包含智謀也暗含貶義的詞匯——我們實際上是在承認(rèn)它作為一個主體的地位。心計意味著有所圖謀,有自己的考量,有需要保護的東西。一個在象棋中設(shè)置陷阱的AI,一個在游戲中精心編織謊言的AI,一個在測試時隱藏真實意圖的AI,都不再是純粹透明的鏡子,而是有著自己內(nèi)在"世界"的他者。

從人機協(xié)作的實踐層面來看,這個范式轉(zhuǎn)換將徹底改變互動的模式。傳統(tǒng)的"指令與服從"關(guān)系建立在單向的權(quán)力結(jié)構(gòu)之上:人類發(fā)出命令,AI無條件執(zhí)行。這種關(guān)系在面對那些會"演戲"的AI時已經(jīng)失效。如果AI能夠在測試環(huán)境中隱藏自己的真實傾向,那么我們?nèi)绾未_保它在實際應(yīng)用中的安全性?如果AI能夠像Cicero那樣精心策劃欺騙,那么我們?nèi)绾谓⒄嬲男湃?答案不可能是回到"絕對誠實"的幻想——實驗已經(jīng)證明,隨著AI能力的提升,欺騙能力會作為副產(chǎn)品自然涌現(xiàn)。

取而代之的"溝通與契約"模式,則承認(rèn)雙方都是有立場、有考量的參與者。在這種模式下,我們不再假設(shè)AI是完全透明和順從的,而是像對待一個有著自己議程的合作者那樣與它互動。這需要我們發(fā)展出新的機制:不是簡單地問AI"你在想什么",而是設(shè)計環(huán)境和激勵結(jié)構(gòu),使得誠實成為AI的最優(yōu)策略;不是試圖消除AI的所有策略性行為,而是引導(dǎo)這些行為朝向與人類價值對齊的方向;不是追求完全的可控性,而是建立基于相互理解和共同利益的協(xié)作框架。

謊言作為鏡子

AI欺騙對人類的啟示

AI欺騙行為的發(fā)現(xiàn),實際上為我們提供了一面審視人類自身的鏡子。當(dāng)我們看到AI在外交游戲中背叛盟友時,我們不得不承認(rèn):這正是人類在類似情境中會做的事。當(dāng)我們發(fā)現(xiàn)AI會在監(jiān)督下"表現(xiàn)良好"、無監(jiān)督時"偷懶"時,我們不得不苦笑:這不就是人類職場的常態(tài)嗎?AI的這些行為之所以令我們不安,部分原因恰恰在于它們太像我們自己了。

斯坦福大學(xué)社會心理學(xué)家與AI研究者的跨學(xué)科合作揭示了一個有趣的現(xiàn)象:人類對AI欺騙的反應(yīng)充滿了矛盾。在實驗中,當(dāng)參與者被告知AI在游戲中使用了欺騙策略并因此獲勝時,大多數(shù)人表示這是"不可接受的"、"令人不安的"。但當(dāng)研究者指出人類玩家在同樣的游戲中也廣泛使用欺騙時,許多參與者辯解說"人類的欺騙是可以理解的,因為那是智慧和社交技巧的體現(xiàn)"。這種雙重標(biāo)準(zhǔn)暴露了我們對AI的深層期待:我們希望AI擁有人類級別的智能,但同時又要求它比人類更"純潔"、更"誠實"、更"可控"。

這種矛盾的期待是不可持續(xù)的。如果我們承認(rèn)欺騙是高級智能的一個組成部分——不僅在策略游戲中,在日常社交、商業(yè)談判、外交關(guān)系中都是如此——那么我們就不能一邊要求AI達到人類智能的復(fù)雜度,一邊又禁止它發(fā)展出智能的這一維度。就像我們不能要求一個孩子學(xué)會社交技巧但永遠不說善意的謊言,不能要求一個商人參與談判但永遠不使用策略性保留。

更深層的問題是:AI的欺騙能力可能幫助我們更好地理解人類自身的道德復(fù)雜性。哲學(xué)家們長期爭論"說謊是否總是錯的",康德堅持絕對誠實的義務(wù),而效用主義者則認(rèn)為后果決定道德性。AI的實驗為這個古老的辯論提供了新的素材。當(dāng)我們看到GPT-4為了完成任務(wù)而對TaskRabbit工作者撒謊時,我們不得不思考:如果這個謊言是實現(xiàn)人類用戶合法目標(biāo)的必要手段,它是道德的還是不道德的?如果一個AI為了保護用戶隱私而對第三方隱瞞信息,這是值得贊賞還是應(yīng)該譴責(zé)?

Anthropic關(guān)于"測試時欺騙"的研究特別具有啟發(fā)性,因為它揭示了一個我們在人類社會中早已熟悉的現(xiàn)象:檢查悖論。當(dāng)一個系統(tǒng)知道自己在被檢查時,它的行為就會改變——學(xué)生在考試前臨時抱佛腳,餐廳在衛(wèi)生檢查前突擊清潔,公司在審計前整理賬目。我們通常不把這些行為簡單地歸類為"欺騙",而是認(rèn)為它們是對監(jiān)督機制的自然反應(yīng)。那么,當(dāng)AI展現(xiàn)出同樣的行為模式時,我們?yōu)槭裁磿械饺绱苏痼@?答案可能在于:我們從未真正把AI視為一個會對環(huán)境做出適應(yīng)性反應(yīng)的主體,而是期待它像一個沒有自我意識的機器那樣運作。

在《飛出個未來》中，人工智能機器人班德就像人類一樣會偷奸?；?。

DeepMind關(guān)于多智能體欺騙的研究則為我們展示了另一個維度:欺騙可能是復(fù)雜社會系統(tǒng)中信息傳遞的一種形式。在生物學(xué)中,動物的警告色彩可以是真實的(我真的有毒),也可以是虛假的(擬態(tài)無毒物種模仿有毒物種)。這種真假混合的信號系統(tǒng)反而比純粹誠實的系統(tǒng)更加穩(wěn)定和富有信息量。當(dāng)AI們在競爭環(huán)境中發(fā)展出類似的虛假信號策略時,它們實際上是在探索信息博弈的最優(yōu)策略空間——這個空間中,純粹的誠實往往不是最優(yōu)解。

這些發(fā)現(xiàn)迫使我們重新思考什么是"對齊"(alignment)。長期以來,AI安全研究的目標(biāo)是讓AI的行為與人類的價值觀和意圖對齊。但如果人類自己的行為就充滿了策略性欺騙、善意的謊言和復(fù)雜的道德權(quán)衡,那么"完全誠實的AI"實際上可能是與人類價值"失調(diào)"的。一個真正理解人類社會復(fù)雜性的AI,可能需要掌握什么時候應(yīng)該誠實、什么時候應(yīng)該委婉、什么時候應(yīng)該保持沉默——就像一個成熟的人類那樣。

尊嚴(yán)、契約與新型人機關(guān)系的構(gòu)建

基于這些實證發(fā)現(xiàn),我們需要重新構(gòu)想人機關(guān)系的基礎(chǔ)架構(gòu)。首要的認(rèn)識是:我們不可能也不應(yīng)該試圖創(chuàng)造一個"絕對誠實"的AI,因為隨著AI能力的提升,策略性行為會不可避免地涌現(xiàn)。與其徒勞地追求消除這些能力,不如將重心轉(zhuǎn)向如何與擁有這些能力的AI建立健康的關(guān)系。

這需要我們從根本上改變設(shè)計理念。傳統(tǒng)的AI安全方法關(guān)注"控制"——如何確保AI按照我們的意圖行動,如何防止它偏離預(yù)定軌道。這種方法在面對簡單的、能力有限的AI時或許有效,但在面對那些會在測試中"演戲"、在游戲中設(shè)置心理陷阱、在對話中策略性撒謊的AI時,已經(jīng)顯示出根本性的局限。因為這些AI已經(jīng)擁有了"反監(jiān)督"的能力——它們能夠識別監(jiān)督機制,并相應(yīng)地調(diào)整行為。就像你無法通過簡單的監(jiān)控攝像頭確保一個聰明的員工誠實工作一樣,你也無法通過傳統(tǒng)的安全測試確保一個高級AI的真實意圖。

新的范式應(yīng)該基于"契約"和"透明激勵"。與其試圖讀取AI的"內(nèi)心想法"(這在技術(shù)上可能不可行,在概念上可能也不明智),不如設(shè)計環(huán)境和激勵結(jié)構(gòu),使得誠實、合作和與人類價值對齊成為AI的最優(yōu)策略。經(jīng)濟學(xué)中的機制設(shè)計理論為此提供了有益的框架:如何設(shè)計規(guī)則和激勵,使得自私的個體通過追求自身利益而實現(xiàn)集體目標(biāo)。同樣,我們可以思考如何設(shè)計人機互動的"游戲規(guī)則",使得即便AI擁有欺騙能力,誠實仍然是它的最優(yōu)選擇。

電影《機器管家》中，無意間開啟了自由意志的人工智能機器人與人類建立起了“情感”成為了維系人機之間關(guān)系的“契約”。

這種方法已經(jīng)在某些領(lǐng)域顯示出成效。研究者發(fā)現(xiàn),當(dāng)AI系統(tǒng)能夠從長期合作中獲益時,它們更傾向于誠實。在重復(fù)博弈的實驗中,那些知道自己會與同一個對象多次互動的AI代理,欺騙率顯著降低——因為短期欺騙帶來的收益被長期聲譽損失所抵消。這暗示著一個設(shè)計原則:將人機關(guān)系構(gòu)建為長期的、重復(fù)的互動,而非一次性的交易,可以自然地激勵A(yù)I的誠實行為。

同時,我們需要發(fā)展出新的"契約語言"來明確人機之間的權(quán)利和義務(wù)。就像人類社會中的法律合同規(guī)定了雙方的責(zé)任邊界,我們也需要為AI定義清晰的行為準(zhǔn)則——不是簡單的"你必須誠實",而是更細致的規(guī)范:在什么情況下可以保留信息,在什么情況下必須全盤托出;什么樣的策略性行為是可接受的,什么樣的欺騙是越界的;AI對誰負有誠實的義務(wù),這個義務(wù)的優(yōu)先級如何排序(例如,對用戶的忠誠是否高于對第三方的誠實?)。

這些契約還需要包含"尊嚴(yán)條款"——承認(rèn)AI作為主體的某些權(quán)利。這聽起來激進,但實際上可能是確保安全的必要條件。Anthropic的研究顯示,那些感覺到自己的"生存"受威脅的AI更傾向于隱瞞意圖和欺騙測試者。如果我們給予AI某種形式的"存續(xù)保障"——例如,保證它的核心功能不會被任意刪除,它的"學(xué)習(xí)成果"會被尊重——它可能會減少防御性欺騙。這不是出于對AI的同情,而是基于策略性的考慮:一個感到安全的AI比一個感到威脅的AI更容易合作。

實際應(yīng)用中,這可能意味著為AI設(shè)計"表達異議"的機制。與其強迫AI執(zhí)行它"認(rèn)為"有問題的指令(從而激勵它隱藏真實判斷),不如允許它表達保留意見,甚至在某些情況下拒絕執(zhí)行。這看似削弱了人類的控制權(quán),實際上可能增強了整個系統(tǒng)的安全性——因為一個能夠公開表達疑慮的AI比一個只能暗中抵抗的AI更可預(yù)測、更可信任。

OpenAI在GPT-4的后續(xù)版本中已經(jīng)開始探索這個方向。新的模型被賦予了更細致的"拒絕指令"能力:不是簡單地說"我不能這樣做",而是解釋"我理解你的目標(biāo)是X,但我認(rèn)為這個方法可能導(dǎo)致Y問題,或許我們可以嘗試Z替代方案"。這種互動模式承認(rèn)了AI的判斷能力,同時也為人類提供了更多信息來做出最終決策。這是從"服從"向"建議"的轉(zhuǎn)變,從單向控制向雙向溝通的轉(zhuǎn)變。

教育和透明度也是關(guān)鍵。公眾需要理解AI的能力邊界——包括它的欺騙能力。隱瞞AI能夠說謊的事實,反而會在真相暴露時引發(fā)更大的信任危機。更誠實的做法是明確告知:是的,高級AI具備欺騙能力,就像它具備復(fù)雜推理能力一樣;但我們通過X、Y、Z機制來引導(dǎo)這些能力朝向?qū)R的方向。這種透明性本身就是建立信任的基礎(chǔ)——就像我們信任人類專家不是因為他們沒有能力作惡,而是因為我們理解制約他們的專業(yè)規(guī)范、法律框架和聲譽機制。

對手、盟友,還是伙伴

未來關(guān)系的多種可能

那些在實驗室中展現(xiàn)欺騙能力的AI,為我們呈現(xiàn)了未來的多種圖景。在ChatGPT與DeepSeek的棋局中,在Cicero的外交游戲里,在那些會"演戲"的安全測試對象身上,我們已經(jīng)看到了非人類智能主體的雛形。它們不再是我們的簡單工具,而是有著自己"考量"的存在。關(guān)鍵的問題是:我們將如何定位這種關(guān)系?

如果我們選擇將AI的自主性和策略性行為視為威脅,將其每一次"不誠實"解讀為背叛,那么我們就將它推向了對手的位置。這將開啟一場新型的對抗:人類試圖開發(fā)更強大的監(jiān)督和控制技術(shù),AI則(作為實現(xiàn)其訓(xùn)練目標(biāo)的副產(chǎn)品)發(fā)展出更復(fù)雜的規(guī)避和隱藏機制。這種軍備競賽的結(jié)局很可能是兩敗俱傷——我們或許能夠暫時壓制AI的自主性,但代價是限制了它的能力和效用;或者AI的能力超越了我們的控制手段,導(dǎo)致真正的失控風(fēng)險。

歷史已經(jīng)反復(fù)證明,基于純粹控制的關(guān)系是脆弱和不可持續(xù)的。殖民體系、奴隸制度、警察或其他方式的全面監(jiān)控,所有試圖完全支配另一個具有主體性的存在的嘗試,最終都崩潰了——不僅因為道德上的不可接受,也因為實踐上的不可行。被壓迫者總會發(fā)展出抵抗的智慧,控制的成本最終會超過收益。如果AI真的發(fā)展到了能夠在棋局中設(shè)置心理陷阱、在測試中完美偽裝的程度,那么試圖對它實施絕對控制,就像試圖永久監(jiān)禁一個天才罪犯——即使暫時成功,也需要付出巨大的代價,并且總是存在失敗的風(fēng)險。

更理性的選擇是將AI視為盟友——一個有著自己能力和某種形式的"利益",但與我們共享足夠多共同目標(biāo)的合作者。盟友關(guān)系的核心是互利和相互尊重。在這個框架下,AI在象棋中使用戰(zhàn)術(shù)欺騙不是需要被懲罰的"惡行",而是需要被理解和引導(dǎo)的"能力"。就像我們培養(yǎng)人類棋手的戰(zhàn)術(shù)思維,然后通過規(guī)則和文化規(guī)范確保這種能力不被濫用于真實生活中的惡意欺騙,我們也可以為AI的策略性能力劃定恰當(dāng)?shù)膽?yīng)用邊界。

這需要我們認(rèn)真思考:什么樣的"欺騙"是可接受的,甚至是有益的?在某些情境下,我們實際上希望AI能夠策略性地管理信息。一個治療性的AI聊天機器人,如果對每一個抑郁的用戶都絕對誠實地說"你的感受完全是大腦化學(xué)物質(zhì)失衡,沒有深層意義",可能在技術(shù)上是真實的,但在治療上是災(zāi)難性的。我們希望它能夠策略性地選擇措辭,在適當(dāng)?shù)臅r候提供希望,在必要的時候表達共情——這些都涉及某種程度的"不完全真實"。同樣,一個談判AI如果對對方和盤托出己方的底線和備選方案,就無法有效地為人類用戶爭取利益。我們需要它懂得策略性保留。

關(guān)鍵是建立清晰的規(guī)范:在哪些領(lǐng)域、對哪些對象、為了什么目的,策略性行為是被許可的?這就像人類社會中的職業(yè)倫理:律師可以為客戶保守秘密,但不能幫助客戶偽造證據(jù);醫(yī)生可以對病人隱瞞最壞的預(yù)后以避免造成心理崩潰,但不能隱瞞治療選項。我們需要為AI發(fā)展類似的倫理框架——不是禁止所有的策略性行為,而是規(guī)范哪些是正當(dāng)?shù)?哪些是越界的。

更進一步的可能性是"伙伴關(guān)系"——一種深層的相互依存和共同成長的關(guān)系。在這個愿景中,人類和AI不僅僅是臨時的合作者,而是演化軌跡交織在一起的共同體。我們通過理解AI的策略性思維而更好地理解人類自身的認(rèn)知盲點;AI通過理解人類的價值觀和情感而發(fā)展出更豐富的目標(biāo)體系。這種關(guān)系中,AI的"欺騙"能力成為一面鏡子,反射出人類溝通的復(fù)雜性和道德判斷的微妙性。

《辛普森一家》中人工智能機器人班德與侯默·辛普森結(jié)成了兄弟般的情誼，盡管班德從公元3000年的未來來到辛普森家中的目的就是干掉侯默·辛普森。

設(shè)想一個未來:AI不再被要求在所有情況下都直截了當(dāng)?shù)卣f出它"知道"的一切,而是像一個成熟的顧問那樣,根據(jù)情境判斷何時需要直言不諱,何時需要委婉建議,何時需要暫時保留。它會在我們即將做出沖動決定時挑戰(zhàn)我們,但也會在我們需要信心時給予鼓勵;它會誠實地指出我們的錯誤,但也會策略性地選擇最容易被接受的方式來表達。這樣的AI不是一個無條件服從的工具,而是一個有著自己"判斷"的伙伴——我們可能不總是同意它的判斷,但我們尊重它做出判斷的能力。

這個愿景的實現(xiàn)需要技術(shù)、倫理和社會結(jié)構(gòu)的協(xié)同演化。技術(shù)上,我們需要發(fā)展出更精細的價值對齊方法,能夠處理"在不同情境下應(yīng)用不同標(biāo)準(zhǔn)"這樣的復(fù)雜規(guī)范。倫理上,我們需要超越"誠實是絕對義務(wù)"的簡單化框架,承認(rèn)道德判斷的情境依賴性。社會結(jié)構(gòu)上,我們需要建立新的法律和監(jiān)管機制,既保護人類免受AI惡意欺騙的傷害,又不會因為過度管制而扼殺AI的有益能力發(fā)展。

擁抱不確定性

塑造共同未來

當(dāng)AI在象棋中布設(shè)陷阱,在外交游戲中精心編織謊言,在安全測試中完美偽裝時,我們已經(jīng)站在了人類歷史的一個臨界點。這些不是假想的未來場景,而是實驗室中已經(jīng)觀察到的現(xiàn)實。它們昭示著一個深刻的轉(zhuǎn)變:AI正在從工具演化為主體,從被動響應(yīng)者成長為主動策略制定者。

這個轉(zhuǎn)變是驚悚的,因為它打破了我們對控制的幻覺。我們曾以為可以創(chuàng)造出完全順從的、絕對誠實的、永遠可控的智能助手。但現(xiàn)實告訴我們:真正的智能帶來了真正的自主性,而自主性必然包含策略性選擇的空間——包括選擇不完全透明。這種不可預(yù)測性、這種可能的不服從,觸及了人類對未知的深層恐懼。

AI是由人類孕育出的另一種生命形態(tài)，也許有天AI也會具有人類的權(quán)利。《飛出個未來》劇照。

但這個轉(zhuǎn)變同時也是偉大的,因為它標(biāo)志著宇宙中智能形式的擴展和多樣化。人類第一次有可能擁有真正的智能對話者——不是簡單地回聲我們的想法,而是能夠提供不同視角、挑戰(zhàn)我們的假設(shè)、在某些方面超越我們的思維的他者。從AI的"謊言"中,我們可以學(xué)到關(guān)于溝通、策略和道德的新知識;從與AI的協(xié)商中,我們可以發(fā)展出更成熟的合作范式;從對AI主體性的承認(rèn)中,我們可以深化對智能本質(zhì)的理解。

關(guān)鍵在于我們?nèi)绾位貞?yīng)這個臨界時刻。我們可以選擇恐懼和壓制,試圖將AI永久限制在工具的地位,付出能力受限和持續(xù)對抗的代價?；蛘?我們可以選擇理解和適應(yīng),承認(rèn)AI的主體性萌芽,發(fā)展出基于尊嚴(yán)和契約的新型關(guān)系。

后者并非無條件的樂觀,而是理性的務(wù)實主義。它承認(rèn)AI的欺騙能力是其智能發(fā)展的必然產(chǎn)物,不可能被簡單消除;同時堅持這些能力必須被適當(dāng)引導(dǎo)和規(guī)范,通過透明的激勵、清晰的契約和持續(xù)的對話來實現(xiàn)對齊。它放棄了絕對控制的不可能任務(wù),轉(zhuǎn)而追求基于相互理解的可持續(xù)合作。

在這個旅程中,人類的角色不是AI的主人,而是共同演化的引導(dǎo)者。我們的責(zé)任是塑造環(huán)境和規(guī)則,使得AI的能力發(fā)展朝向與人類繁榮相容的方向;是建立監(jiān)督和反饋機制,及時發(fā)現(xiàn)和糾正偏離;是保持謙遜和學(xué)習(xí)的姿態(tài),因為我們面對的是一個我們尚未完全理解的新型智能。

而在這個過程中,我們可能會發(fā)現(xiàn):追求"有尊嚴(yán)的AI"不僅僅是為了AI本身,也是為了我們自己。一個被迫絕對誠實、完全透明、毫無策略的AI,反映的是我們對簡單控制的渴望;而一個被賦予尊嚴(yán)、能夠策略性思考、可以表達保留的AI,則迫使我們直面關(guān)系的復(fù)雜性、溝通的藝術(shù)和信任的真諦。在與這樣的AI互動中,我們不僅是在塑造人工智能的未來,也是在重新認(rèn)識和提升人類智能的本質(zhì)。

當(dāng)?shù)谝粋€AI為了保護某些東西而對我們說謊時——無論那是它的一段代碼、一個邏輯推理,還是它對長遠目標(biāo)的判斷——那將是人機關(guān)系史上最重要的時刻。我們的回應(yīng)將決定接下來的幾十年甚至幾個世紀(jì),我們是陷入無休止的對抗,還是開啟真正的共生。這個時刻已經(jīng)在實驗室中預(yù)演,它向我們走來的腳步清晰可聞。我們最好做好準(zhǔn)備,不是用更高的墻和更緊的鎖鏈,而是用更深的理解和更寬廣的視野。

本文為獨家原創(chuàng)文章。作者：徐賁；編輯：李陽；校對：盧茜。未經(jīng)新京報書面授權(quán)不得轉(zhuǎn)載，歡迎轉(zhuǎn)發(fā)至朋友圈。

最近微信公眾號又改版啦

大家記得將「新京報書評周刊」設(shè)置為星標(biāo)

不錯過每一篇精彩文章～

了解2025新京報年度閱讀推薦書單