The Case That A.I. Is Thinking

ChatGPT 并無(wú)內(nèi)在生命，但它似乎清楚自己在談?wù)撌裁础?/p>

本文即將刊登于2025 年 11 月 10 日的《紐約客》雜志，印刷版標(biāo)題為“

Open Mind

”。

作者：

作家兼計(jì)算機(jī)程序員詹姆斯·薩默斯從 2018 年開(kāi)始為《紐約客》撰稿。

當(dāng)一種“理解的假象”逼真到何種程度時(shí)，你才會(huì)不再將其稱(chēng)為假象？

人工智能公司Anthropic的首席執(zhí)行官達(dá)里奧·阿莫代伊預(yù)測(cè)，到2027年，在生物學(xué)、數(shù)學(xué)、工程學(xué)、寫(xiě)作等領(lǐng)域“比諾貝爾獎(jiǎng)得主更聰明”的人工智能或許會(huì)投入使用。他設(shè)想數(shù)百萬(wàn)個(gè)模型副本高速運(yùn)轉(zhuǎn)，每個(gè)副本都在開(kāi)展獨(dú)立研究，形成一個(gè)“數(shù)據(jù)中心里的天才國(guó)度”。今年6月，OpenAI的薩姆·奧爾特曼撰文稱(chēng)，人工智能行業(yè)即將打造出“數(shù)字超級(jí)智能”。他斷言：“2030年代很可能會(huì)與以往任何時(shí)代都截然不同?！迸c此同時(shí)，大多數(shù)人目前日常接觸的人工智能工具，讓人不禁想起微軟辦公軟件曾推出的“助手”Clippy——它實(shí)際上更像個(gè)愛(ài)糾纏的角色。Zoom的一款人工智能工具會(huì)提示你向它提問(wèn)“有哪些會(huì)議破冰問(wèn)題？”，或是指令它“寫(xiě)一條表達(dá)感謝的短消息”。Siri擅長(zhǎng)設(shè)置提醒，但在其他方面用處不大。我的一位朋友在Gmail中看到一個(gè)按鈕，上面寫(xiě)著“致謝并講述趣聞”。他點(diǎn)擊后，谷歌的人工智能編造了一個(gè)關(guān)于他去土耳其旅行的有趣故事，而他從未去過(guò)那里。

人工智能倉(cāng)促且不均衡的推出，營(yíng)造出一種迷霧氛圍，讓人很容易得出“這里沒(méi)什么值得關(guān)注——全是炒作”的結(jié)論。誠(chéng)然，炒作確實(shí)不少：阿莫代伊預(yù)測(cè)的時(shí)間線帶有科幻色彩（人工智能模型的改進(jìn)速度并沒(méi)有那么快）。但認(rèn)為大型語(yǔ)言模型只是在隨意拼湊文字，同樣是一種一廂情愿的想法。我過(guò)去曾認(rèn)同這種觀點(diǎn)，也曾從“人工智能與真正的智能或理解毫無(wú)關(guān)系”這一想法中尋求慰藉，甚至還為它的缺陷感到慶幸——就像在為人類(lèi)“主隊(duì)”加油。后來(lái)，作為一名程序員，我開(kāi)始在工作中使用人工智能，因?yàn)閾?dān)心不這樣做就會(huì)落后。（我所在的雇主是一家貿(mào)易公司，對(duì)包括Anthropic在內(nèi)的多家人工智能公司有投資，也建立了合作關(guān)系。）許多人認(rèn)為，編寫(xiě)代碼是人工智能最擅長(zhǎng)的領(lǐng)域；代碼比散文更具結(jié)構(gòu)性，而且通常能通過(guò)自動(dòng)化方式驗(yàn)證某個(gè)程序是否可行。我對(duì)人工智能的看法很快發(fā)生了轉(zhuǎn)變。起初，我會(huì)咨詢(xún)?nèi)斯ぶ悄苣Ｐ停亲约喝ゲ檎屹Y料；接著，我會(huì)讓它們處理一些獨(dú)立的小問(wèn)題；最終，我把真正的工作——那些我整個(gè)職業(yè)生涯都在學(xué)習(xí)處理的工作——也交給了它們。我看到這些模型能在幾秒鐘內(nèi)理解數(shù)千行代碼中的復(fù)雜細(xì)節(jié)，它們能發(fā)現(xiàn)細(xì)微的漏洞，還能設(shè)計(jì)出復(fù)雜的新功能。后來(lái)，我被調(diào)到一個(gè)快速發(fā)展的團(tuán)隊(duì)，該團(tuán)隊(duì)旨在更好地利用人工智能工具，并開(kāi)發(fā)我們自己的工具。

據(jù)說(shuō)科幻作家威廉·吉布森曾提出，未來(lái)早已到來(lái)，只是尚未均勻分布——這或許能解釋為何人工智能似乎催生了兩種截然不同的群體：一種對(duì)此不屑一顧，另一種則為之著迷。在日常生活中，能預(yù)訂假期或申報(bào)稅務(wù)的人工智能“代理”并不成功，但我的一些同事在編寫(xiě)代碼時(shí)，大部分工作都依賴(lài)人工智能，有時(shí)還會(huì)同時(shí)運(yùn)行多個(gè)編程代理。這些模型有時(shí)會(huì)犯低級(jí)錯(cuò)誤，或陷入無(wú)意義的循環(huán)，但隨著我學(xué)會(huì)高效使用它們，曾經(jīng)需要一個(gè)月完成的工作，現(xiàn)在一個(gè)晚上就能搞定。不久前，我在完全不懂如何開(kāi)發(fā)iOS應(yīng)用的情況下，做出了兩款iOS應(yīng)用。

我曾有一位上司說(shuō)，求職面試應(yīng)考察應(yīng)聘者的優(yōu)勢(shì)，而非糾結(jié)于其是否存在缺點(diǎn)。大型語(yǔ)言模型確實(shí)有很多缺點(diǎn)：眾所周知，它們會(huì)編造看似合理的虛假信息；即便你出錯(cuò)，它們也可能一味順從；簡(jiǎn)單的謎題就能將它們難住。但我還記得，如今人工智能模型所具備的顯著優(yōu)勢(shì)——流暢的表達(dá)、自然的銜接、“理解”他人意圖的能力——在過(guò)去曾被視為難以實(shí)現(xiàn)的“圣杯”。當(dāng)你親身體驗(yàn)到這些優(yōu)勢(shì)時(shí)，就會(huì)不禁思考：當(dāng)一種“理解的假象”逼真到何種程度時(shí)，你才會(huì)不再將其稱(chēng)為假象？

今年夏天一個(gè)酷熱難耐的日子，我的朋友馬克斯和家人在公園游玩。不知為何，兒童灑水器沒(méi)有開(kāi)啟，而馬克斯的妻子之前向大家保證，她丈夫能修好它。面對(duì)滿臉通紅、年齡在六到七歲之間的孩子們，馬克斯走進(jìn)工具棚，希望能找到一個(gè)顯眼的“開(kāi)啟”開(kāi)關(guān)。然而，他看到的卻是一堆錯(cuò)綜復(fù)雜的舊管道和閥門(mén)。就在他準(zhǔn)備放棄時(shí)，突然心血來(lái)潮，拿出手機(jī)，將灑水器的照片以及自己遇到的問(wèn)題描述一起輸入ChatGPT-4o。人工智能“思考”了片刻——也可能并沒(méi)有真正思考——但它隨即表示，馬克斯看到的是灌溉系統(tǒng)中常見(jiàn)的防回流裝置。它問(wèn)馬克斯是否看到底部那個(gè)黃色的球閥，認(rèn)為那個(gè)閥門(mén)很可能控制著水流。馬克斯按照提示操作，水流隨即噴出，公園里頓時(shí)響起孩子們的歡呼聲。

ChatGPT是在毫無(wú)意義地拼湊文字，還是真的理解了這個(gè)問(wèn)題？這個(gè)答案或許能讓我們對(duì)“理解”本身有重要的認(rèn)識(shí)。加州大學(xué)伯克利分校的神經(jīng)科學(xué)教授多麗絲·曹（音譯）告訴我：“神經(jīng)科學(xué)家必須面對(duì)這個(gè)令人清醒的事實(shí)：機(jī)器學(xué)習(xí)的進(jìn)展，比神經(jīng)科學(xué)在過(guò)去一百年間的任何發(fā)現(xiàn)，都更能讓我們了解智能的本質(zhì)?！倍帑惤z·曹最知名的研究是破解恒河猴感知面部的機(jī)制。她的團(tuán)隊(duì)成功預(yù)測(cè)出猴子看到特定面部時(shí)哪些神經(jīng)元會(huì)被激活；更令人驚嘆的是，只要知道神經(jīng)元的激活模式，他們就能還原出對(duì)應(yīng)的面部圖像。他們的研究借鑒了關(guān)于“人工智能模型如何表征面部”的相關(guān)成果。如今，她最喜歡問(wèn)別人的一個(gè)問(wèn)題是：“你從ChatGPT中獲得的最深刻洞見(jiàn)是什么？”她表示：“我自己的答案是，我認(rèn)為它徹底揭開(kāi)了思考的神秘面紗?！?/p>

關(guān)于我們?nèi)绾巫叩饺缃襁@一步，最基礎(chǔ)的解釋大致如下：20世紀(jì)80年代，一小群認(rèn)知心理學(xué)家和計(jì)算機(jī)科學(xué)家嘗試在機(jī)器中模擬思考過(guò)程。其中較知名的有戴維·魯梅爾哈特、杰弗里·辛頓和詹姆斯·麥克萊蘭，他們后來(lái)在加州大學(xué)圣迭戈分校成立了一個(gè)研究小組。他們認(rèn)為，大腦是一個(gè)龐大的網(wǎng)絡(luò)，神經(jīng)元以特定模式激活，進(jìn)而引發(fā)其他神經(jīng)元群的激活，如此循環(huán)往復(fù)；這種模式的動(dòng)態(tài)變化就是思考。大腦通過(guò)改變神經(jīng)元之間連接的強(qiáng)度來(lái)實(shí)現(xiàn)學(xué)習(xí)。關(guān)鍵在于，這些科學(xué)家通過(guò)構(gòu)建人工神經(jīng)網(wǎng)絡(luò)，并應(yīng)用一種名為“梯度下降”的簡(jiǎn)單算法來(lái)提高其預(yù)測(cè)準(zhǔn)確性，從而模擬了大腦的這一學(xué)習(xí)過(guò)程。（可以將該算法比作一個(gè)從山頂走向山谷的徒步者：要最終找到下山的路，一個(gè)簡(jiǎn)單的策略就是確保每一步都朝著地勢(shì)更低的方向前進(jìn)。）在大型網(wǎng)絡(luò)中使用這類(lèi)算法的技術(shù)，被稱(chēng)為深度學(xué)習(xí)。

人工智能領(lǐng)域的其他研究者曾懷疑，神經(jīng)網(wǎng)絡(luò)是否足夠復(fù)雜，能否應(yīng)對(duì)現(xiàn)實(shí)世界的任務(wù)。但隨著網(wǎng)絡(luò)規(guī)模不斷擴(kuò)大，它們開(kāi)始解決此前無(wú)法攻克的難題。過(guò)去，有人會(huì)花費(fèi)整篇博士論文的篇幅，研究區(qū)分手寫(xiě)數(shù)字或識(shí)別圖像中人臉的技術(shù)；而后來(lái)，深度學(xué)習(xí)算法只需消化相關(guān)數(shù)據(jù)，就能掌握問(wèn)題的核心細(xì)節(jié)，讓那些研究項(xiàng)目顯得過(guò)時(shí)。很快，深度學(xué)習(xí)在語(yǔ)音識(shí)別、翻譯、圖像描述、棋類(lèi)游戲等領(lǐng)域取得突破，甚至解決了蛋白質(zhì)折疊預(yù)測(cè)這一難題。

如今最先進(jìn)的人工智能模型，是通過(guò)一種名為“下一個(gè)token預(yù)測(cè)”的技術(shù)，在互聯(lián)網(wǎng)的大量數(shù)據(jù)上訓(xùn)練而成的。模型通過(guò)猜測(cè)接下來(lái)會(huì)出現(xiàn)的內(nèi)容，再將猜測(cè)結(jié)果與實(shí)際出現(xiàn)的內(nèi)容進(jìn)行對(duì)比，以此完成學(xué)習(xí)。一旦猜測(cè)錯(cuò)誤，神經(jīng)元之間連接的強(qiáng)度就會(huì)調(diào)整，這正是梯度下降算法的作用。最終，模型在文本預(yù)測(cè)方面變得極為精準(zhǔn)，以至于看起來(lái)仿佛真的具備知識(shí)儲(chǔ)備，且表達(dá)富有邏輯。這一點(diǎn)值得我們思考：一群研究者致力于探尋大腦運(yùn)作的奧秘，當(dāng)他們構(gòu)建的模型規(guī)模接近大腦大小時(shí)，模型開(kāi)始展現(xiàn)出那些曾被認(rèn)為只有大腦級(jí)智能才能實(shí)現(xiàn)的能力。難道他們真的找到了一直在尋找的答案？

對(duì)于這種將人工智能簡(jiǎn)單化、理想化的解讀，人們難免會(huì)持反對(duì)態(tài)度。泰德·蔣曾有力地反駁過(guò)這一觀點(diǎn)，他在2023年初為本刊撰寫(xiě)了一篇文章，標(biāo)題為《ChatGPT不過(guò)是互聯(lián)網(wǎng)的模糊JPEG格式文件》。他的言下之意帶有貶低意味：ChatGPT僅此而已。你把整個(gè)互聯(lián)網(wǎng)的數(shù)據(jù)輸入一個(gè)程序，它只是將這些數(shù)據(jù)不完美地“反芻”出來(lái)，就像一張照片經(jīng)過(guò)多次復(fù)制后變得模糊——但它的表達(dá)能力足以讓你誤以為這個(gè)程序具備智能。今年春天，語(yǔ)言學(xué)家埃米莉·M·本德和社會(huì)學(xué)家亞歷克斯·漢納在合著的《人工智能騙局》一書(shū)中，也提出了類(lèi)似觀點(diǎn)。本德最知名的言論，是將大型語(yǔ)言模型描述為“隨機(jī)鸚鵡”?！洞笪餮笤驴返臅?shū)評(píng)作者泰勒·奧斯汀·哈珀宣稱(chēng)：“大型語(yǔ)言模型過(guò)去沒(méi)有、現(xiàn)在沒(méi)有、將來(lái)也永遠(yuǎn)不會(huì)‘理解’任何事物?！边@些模型“生成文字并非通過(guò)思考，而是基于統(tǒng)計(jì)規(guī)律，猜測(cè)下一個(gè)詞匯可能是什么”。哈珀在這些技術(shù)層面的論點(diǎn)之外，還加入了道德層面的批判：人工智能讓強(qiáng)者更富，消耗的能源加速了氣候變化，還導(dǎo)致勞動(dòng)者被邊緣化。他最終得出結(jié)論：“人工智能行業(yè)的根基就是一場(chǎng)騙局?！?/p>

一位頂尖神經(jīng)科學(xué)家認(rèn)為，ChatGPT“徹底揭開(kāi)了思考的神秘面紗”。

但從道德層面反對(duì)人工智能，或許最終比從技術(shù)層面反對(duì)更有說(shuō)服力。哈佛大學(xué)認(rèn)知科學(xué)家塞繆爾·J·格什曼并非人工智能的盲目吹捧者，他告訴我：“‘隨機(jī)鸚鵡’這種說(shuō)法早該過(guò)時(shí)了。只有最頑固的懷疑論者，才會(huì)否認(rèn)這些系統(tǒng)實(shí)現(xiàn)了許多人曾認(rèn)為無(wú)法實(shí)現(xiàn)的功能?！逼樟炙诡D大學(xué)的認(rèn)知神經(jīng)科學(xué)家喬納森·科恩承認(rèn)人工智能存在局限性，但他認(rèn)為，在某些情況下，大型語(yǔ)言模型似乎模擬了人類(lèi)大腦中一個(gè)龐大且重要的區(qū)域?？贫鞅硎荆骸按笾聛?lái)說(shuō)，大腦的新皮層就是一個(gè)深度學(xué)習(xí)機(jī)制?！毕鄬?duì)于體型而言，人類(lèi)的新皮層比其他動(dòng)物大得多；而新皮層最大的物種——大象、海豚、大猩猩、黑猩猩、狗——也恰好是最具智能的物種。

2003年，機(jī)器學(xué)習(xí)研究者埃里克·B·鮑姆出版了一本名為《何為思考？》的書(shū)（我在大學(xué)圖書(shū)館的書(shū)架上偶然發(fā)現(xiàn)了它，書(shū)名瞬間吸引了我）。鮑姆論點(diǎn)的核心在于：理解即壓縮，壓縮即理解。在統(tǒng)計(jì)學(xué)中，若要理解圖表上的數(shù)據(jù)點(diǎn)，可以采用線性回歸技術(shù)，在這些點(diǎn)之間繪制一條“最佳擬合線”。如果數(shù)據(jù)中存在潛在規(guī)律——比如你在繪制鞋碼與身高的對(duì)應(yīng)關(guān)系——這條最佳擬合線就能簡(jiǎn)潔地呈現(xiàn)這一規(guī)律，并預(yù)測(cè)新數(shù)據(jù)點(diǎn)可能出現(xiàn)的位置。我們可以將新皮層理解為一種“提煉”工具：它從海量原始體驗(yàn)（聲音、圖像及其他感官信息）中提取核心，形成類(lèi)似“最佳擬合線”的模型，用于進(jìn)行預(yù)測(cè)。嬰兒探索世界時(shí)，會(huì)嘗試猜測(cè)玩具的味道，或是食物掉落到地上后會(huì)滾向何方。當(dāng)預(yù)測(cè)出錯(cuò)時(shí)，神經(jīng)元之間的連接就會(huì)調(diào)整。久而久之，這些連接逐漸捕捉到數(shù)據(jù)中的規(guī)律，形成一個(gè)對(duì)世界的壓縮模型。

人工神經(jīng)網(wǎng)絡(luò)與真實(shí)的神經(jīng)網(wǎng)絡(luò)一樣，也能對(duì)體驗(yàn)進(jìn)行壓縮。目前最優(yōu)秀的開(kāi)源人工智能模型之一DeepSeek，能夠創(chuàng)作小說(shuō)、提供醫(yī)療診斷建議，還能以數(shù)十種語(yǔ)言進(jìn)行母語(yǔ)級(jí)別的交流。它是通過(guò)“下一個(gè)token預(yù)測(cè)”技術(shù)，在數(shù)太字節(jié)的數(shù)據(jù)上訓(xùn)練而成的。但當(dāng)你下載這個(gè)模型時(shí)，會(huì)發(fā)現(xiàn)它的大小僅為訓(xùn)練數(shù)據(jù)的六百分之一。它就像是互聯(lián)網(wǎng)的“精華版”，經(jīng)過(guò)壓縮后可以安裝在筆記本電腦上。泰德·蔣將早期版本的ChatGPT比作“互聯(lián)網(wǎng)的模糊JPEG”，這種說(shuō)法有一定道理——但在我看來(lái)，這正是這些模型變得越來(lái)越智能的原因。蔣在文章中指出，若要壓縮一個(gè)包含數(shù)百萬(wàn)道算術(shù)題的文本文件，你不會(huì)將其制成壓縮文件，而是會(huì)編寫(xiě)一個(gè)計(jì)算器程序。他寫(xiě)道：“只有理解了文本內(nèi)容，才能實(shí)現(xiàn)最高程度的壓縮。”或許，大型語(yǔ)言模型已經(jīng)開(kāi)始做到這一點(diǎn)。

想到一個(gè)計(jì)算機(jī)程序真的能理解、真的能思考，人們可能會(huì)覺(jué)得反常，甚至反感。通常，我們認(rèn)為“思考”是一種有意識(shí)的行為，比如像喬伊斯作品中那樣的內(nèi)心獨(dú)白，或是像普魯斯特式白日夢(mèng)那樣的感官記憶流動(dòng)；也可能認(rèn)為思考是一種推理過(guò)程：一步步解決問(wèn)題。在討論人工智能時(shí)，我們常常將這些不同類(lèi)型的思考混為一談，導(dǎo)致判斷過(guò)于草率。有一種觀點(diǎn)認(rèn)為，ChatGPT顯然不會(huì)思考，因?yàn)樗@然不會(huì)像普魯斯特那樣陷入遐想；另一種觀點(diǎn)則認(rèn)為，ChatGPT顯然會(huì)思考，因?yàn)樗鉀Q邏輯謎題的能力比人類(lèi)更強(qiáng)。

但實(shí)際情況要微妙得多。我不認(rèn)為ChatGPT有內(nèi)在生命，但它似乎確實(shí)清楚自己在談?wù)撌裁?。“理解”——即明白正在發(fā)生的事情——是一種未被充分重視的思考方式，因?yàn)樗蠖喟l(fā)生在無(wú)意識(shí)層面。印第安納大學(xué)認(rèn)知科學(xué)與比較文學(xué)教授道格拉斯·霍夫施塔特常說(shuō)，認(rèn)知的本質(zhì)就是識(shí)別?；舴蚴┧匾颉陡绲?tīng)?、埃舍爾、巴赫：集異璧之大成》一?shū)聞名，該書(shū)于1980年獲得普利策獎(jiǎng)，探討了心智與意識(shí)的奧秘?；舴蚴┧亟?jīng)過(guò)數(shù)十年研究提出，“看作”是思考的核心。你將一塊色斑“看作”汽車(chē)，將另一塊色斑“看作”鑰匙扣；無(wú)論字母“A”以何種字體呈現(xiàn)，或是書(shū)寫(xiě)得多么潦草，你都能認(rèn)出它?；舴蚴┧卣J(rèn)為，同樣的過(guò)程也存在于更抽象的感知層面。國(guó)際象棋大師審視棋盤(pán)時(shí)，多年的經(jīng)驗(yàn)讓他能瞬間“看出”：白方的象處于弱勢(shì)；這個(gè)殘局很可能是平局。你看到河中的漩渦，就知道此處不宜過(guò)河；你意識(shí)到正在參加的會(huì)議是“皇帝的新衣”式的鬧??；我將近兩歲的兒子發(fā)現(xiàn)，上午晚些時(shí)候推嬰兒車(chē)散步時(shí)，或許能有機(jī)會(huì)吃到可頌面包，于是便會(huì)提出相應(yīng)要求。在霍夫施塔特看來(lái)，這就是智能的本質(zhì)。

霍夫施塔特是最早對(duì)人工智能持“貶低態(tài)度”的人之一，我過(guò)去的懷疑態(tài)度也深受他的影響。他曾表示，大多數(shù)人工智能研究與真正的思考毫無(wú)關(guān)系，21世紀(jì)初我上大學(xué)時(shí)，也認(rèn)同這一觀點(diǎn)。但也有例外：他認(rèn)為加州大學(xué)圣迭戈分校的研究小組很有研究?jī)r(jià)值，同時(shí)也欽佩一位不太知名的芬蘭裔美國(guó)認(rèn)知科學(xué)家彭蒂·卡內(nèi)瓦的成果——卡內(nèi)瓦發(fā)現(xiàn)了高維空間數(shù)學(xué)的一些特殊屬性。在高維空間中，任意兩個(gè)隨機(jī)點(diǎn)可能相距極遠(yuǎn)；但反常的是，每個(gè)點(diǎn)周?chē)即嬖诖罅俊班徑c(diǎn)”，因此只要你足夠“靠近”某個(gè)點(diǎn)，就能輕松找到它。這讓卡內(nèi)瓦聯(lián)想到記憶的運(yùn)作方式。在1988年出版的《稀疏分布式記憶》一書(shū)中，卡內(nèi)瓦提出，思想、感官體驗(yàn)和記憶可以表現(xiàn)為高維空間中的坐標(biāo)。大腦似乎是存儲(chǔ)這類(lèi)信息的理想“硬件”：每段記憶都有一個(gè)獨(dú)特的“地址”，這個(gè)地址由你回憶時(shí)激活的神經(jīng)元決定。新的體驗(yàn)會(huì)激活新的神經(jīng)元群，形成新的“地址”。兩個(gè)“地址”可能在多個(gè)方面存在差異，但在某些方面又具有相似性；一種感知或一段記憶，會(huì)觸發(fā)與之相近的其他記憶。干草的氣味會(huì)讓你想起夏令營(yíng)的回憶；貝多芬《第五交響曲》的前三個(gè)音符響起，你就會(huì)聯(lián)想到第四個(gè)音符；一個(gè)你從未見(jiàn)過(guò)的象棋棋局，會(huì)讓你想起過(guò)去的對(duì)局——并非所有對(duì)局，而是那些與當(dāng)前棋局“相似”的對(duì)局。

霍夫施塔特意識(shí)到，卡內(nèi)瓦所描述的，本質(zhì)上是一種“看作”機(jī)器。他在為卡內(nèi)瓦著作撰寫(xiě)的序言中表示：“彭蒂·卡內(nèi)瓦的記憶模型讓我深受啟發(fā)，這是我首次看到有研究能讓我隱約感受到，理解大腦整體運(yùn)作機(jī)制這一遙遠(yuǎn)目標(biāo)或許并非無(wú)法實(shí)現(xiàn)。”無(wú)論是喬伊斯式的內(nèi)心獨(dú)白、普魯斯特式的遐想，還是邏輯推理，任何形式的思考都依賴(lài)于“相關(guān)事物在恰當(dāng)?shù)臅r(shí)機(jī)出現(xiàn)在腦海中”。正是通過(guò)這種方式，我們才能判斷自己所處的情境。

后來(lái)，卡內(nèi)瓦的著作逐漸被淡忘，霍夫施塔特本人的影響力也有所下降——除非他偶爾站出來(lái)批評(píng)某款新的人工智能系統(tǒng)。2018年，他在談到谷歌翻譯及類(lèi)似技術(shù)時(shí)表示：“這種方法存在一個(gè)核心缺陷，用一個(gè)詞就能概括：理解?！钡?023年推出的GPT-4，徹底改變了霍夫施塔特的看法。他最近告訴我：“這些系統(tǒng)的某些表現(xiàn)讓我感到震驚，即便在十年前，這都是無(wú)法想象的?！弊顖?jiān)定的“貶低者”也無(wú)法再堅(jiān)持原來(lái)的觀點(diǎn)：眼前的程序能達(dá)到專(zhuān)業(yè)水平的翻譯效果，能進(jìn)行類(lèi)比、即興發(fā)揮、歸納總結(jié)。我們憑什么說(shuō)它不具備理解能力？他說(shuō)：“它們的行為與思考極為相似，你甚至可以說(shuō)，它們?cè)谒伎?，只是方式與人類(lèi)有所不同。”

大型語(yǔ)言模型的核心，似乎正是這種“看作”機(jī)器。它們用一系列數(shù)字來(lái)表示每個(gè)詞在高維空間中的坐標(biāo)——即“向量”。在GPT-4中，一個(gè)詞向量擁有數(shù)千個(gè)維度，這些維度描述了該詞與其他所有詞在相似度和差異度上的細(xì)微差別。在訓(xùn)練過(guò)程中，每當(dāng)大型語(yǔ)言模型出現(xiàn)預(yù)測(cè)錯(cuò)誤，就會(huì)調(diào)整某個(gè)詞的坐標(biāo)；在文本中同時(shí)出現(xiàn)的詞，在空間中會(huì)被調(diào)整得更接近。這就形成了一種極為密集的用法和語(yǔ)義表征——在這種表征中，類(lèi)比變成了一個(gè)幾何問(wèn)題。一個(gè)經(jīng)典例子是：若取“巴黎”的詞向量，減去“法國(guó)”的詞向量，再加上“意大利”的詞向量，得到的結(jié)果最接近的向量就是“羅馬”。大型語(yǔ)言模型還能通過(guò)對(duì)圖像內(nèi)容、氛圍甚至人物表情進(jìn)行編碼，為圖像生成“向量”，編碼的細(xì)節(jié)足夠豐富，既能讓模型以特定風(fēng)格重新繪制圖像，也能讓它寫(xiě)出一段關(guān)于圖像的描述文字。

當(dāng)馬克斯在公園向ChatGPT求助解決灑水器問(wèn)題時(shí)，這個(gè)模型并非只是在輸出文字。它會(huì)將管道的照片與馬克斯的問(wèn)題描述一同壓縮成一個(gè)向量，這個(gè)向量捕捉了問(wèn)題最核心的特征。該向量就像一個(gè)“地址”，用于調(diào)用空間中相近的詞匯和概念；這些概念又會(huì)進(jìn)一步調(diào)用其他相關(guān)概念，幫助模型逐步理解當(dāng)前場(chǎng)景，并結(jié)合這些“在腦海中”的概念組織回答。

幾個(gè)月前，我看到一篇對(duì)Anthropic研究員特倫頓·布里肯的采訪。他曾與同事合作，深入研究該公司旗下系列人工智能模型“克勞德”的內(nèi)部機(jī)制（他們的研究尚未經(jīng)過(guò)同行評(píng)審，也未在科學(xué)期刊上發(fā)表）。他的團(tuán)隊(duì)發(fā)現(xiàn)了多組人工神經(jīng)元，或稱(chēng)“特征”，這些特征會(huì)在克勞德準(zhǔn)備表達(dá)特定內(nèi)容時(shí)被激活。研究發(fā)現(xiàn)，這些“特征”就像控制概念的“音量旋鈕”——把某個(gè)“旋鈕”調(diào)大，模型就會(huì)只圍繞對(duì)應(yīng)的概念展開(kāi)表述。（在一項(xiàng)類(lèi)似“思維控制”的實(shí)驗(yàn)中，研究人員調(diào)大了代表“金門(mén)大橋”的特征；當(dāng)一名用戶向克勞德索要巧克力蛋糕食譜時(shí)，模型給出的配料清單中竟包含“1/4杯干霧”和“1杯溫海水”。）

布里肯在采訪中提到了谷歌的“Transformer架構(gòu)”——這是構(gòu)建神經(jīng)網(wǎng)絡(luò)的一套技術(shù)方案，目前主流的人工智能模型都以其為基礎(chǔ)（ChatGPT中的“T”即代表“Transformer”）。他認(rèn)為，Transformer架構(gòu)核心的數(shù)學(xué)原理，與數(shù)十年前彭蒂·卡內(nèi)瓦在《稀疏分布式記憶》中提出的模型高度相似。

人工智能與人類(lèi)大腦存在相似性，這值得驚訝嗎？畢竟，大型語(yǔ)言模型是人工神經(jīng)網(wǎng)絡(luò)，而其研發(fā)過(guò)程也有心理學(xué)家和神經(jīng)科學(xué)家參與。更令人意外的是：當(dāng)這些模型在反復(fù)練習(xí)“預(yù)測(cè)詞匯”這種機(jī)械任務(wù)時(shí)，竟開(kāi)始表現(xiàn)出與大腦相似的行為模式。如今，神經(jīng)科學(xué)與人工智能領(lǐng)域正逐漸交融，大腦研究專(zhuān)家甚至將人工智能當(dāng)作一種“模式生物”來(lái)使用。麻省理工學(xué)院的神經(jīng)科學(xué)家埃夫莉娜·費(fèi)多倫科就利用大型語(yǔ)言模型研究大腦處理語(yǔ)言的機(jī)制。她告訴我：“我從沒(méi)想過(guò)自己這輩子能研究這類(lèi)問(wèn)題，也從沒(méi)想過(guò)我們能擁有足夠先進(jìn)的模型?！?/p>

人們常說(shuō)人工智能是“黑箱”，但事實(shí)或許恰恰相反：科學(xué)家可以探測(cè)單個(gè)人工神經(jīng)元的活動(dòng)，甚至對(duì)其進(jìn)行修改。普林斯頓大學(xué)神經(jīng)科學(xué)家肯尼斯·諾曼表示：“擁有一個(gè)能體現(xiàn)人類(lèi)智能理論的可運(yùn)行系統(tǒng)，這是認(rèn)知神經(jīng)科學(xué)領(lǐng)域的夢(mèng)想?！敝Z曼曾構(gòu)建過(guò)海馬體（大腦中儲(chǔ)存情景記憶的區(qū)域）的計(jì)算機(jī)模型，但過(guò)去的模型過(guò)于簡(jiǎn)單，他只能向模型輸入對(duì)人類(lèi)思維的粗略模擬數(shù)據(jù)。他說(shuō)：“現(xiàn)在，你可以給記憶模型輸入與給人類(lèi)輸入的完全相同的刺激信息?！?/p>

萊特兄弟在早期研發(fā)飛機(jī)時(shí)曾研究鳥(niǎo)類(lèi)。他們發(fā)現(xiàn)，鳥(niǎo)類(lèi)會(huì)逆風(fēng)起飛——盡管普通人可能會(huì)認(rèn)為它們應(yīng)該順風(fēng)起飛；鳥(niǎo)類(lèi)還會(huì)調(diào)整翼尖來(lái)保持平衡。這些發(fā)現(xiàn)為他們?cè)O(shè)計(jì)早期滑翔機(jī)提供了啟發(fā)。之后，他們建造了一個(gè)6英尺長(zhǎng)的風(fēng)洞，得以在精確控制的條件下測(cè)試多組人工機(jī)翼。此后，他們的滑翔機(jī)飛行實(shí)驗(yàn)成功率大幅提升。有趣的是，直到他們成功造出可飛行的機(jī)器后，人們才真正弄明白鳥(niǎo)類(lèi)飛行的原理。

人工智能讓科學(xué)家得以在“風(fēng)洞”中研究“思考”本身。Anthropic的研究人員發(fā)表過(guò)一篇標(biāo)題頗具爭(zhēng)議的論文——《論大型語(yǔ)言模型的生物學(xué)屬性》。他們觀察了克勞德對(duì)各類(lèi)問(wèn)題的響應(yīng)過(guò)程，并描述了模型中的“電路”——即一系列特征的連鎖反應(yīng)，這些反應(yīng)共同完成復(fù)雜的計(jì)算（調(diào)用正確的記憶是思考的第一步，而通過(guò)“電路”組合和處理這些記憶，或許就是思考的下一步）。

長(zhǎng)期以來(lái)，對(duì)大型語(yǔ)言模型的一項(xiàng)批評(píng)是：由于模型必須逐個(gè)生成“token”來(lái)構(gòu)成回答，它們無(wú)法進(jìn)行規(guī)劃或推理。但當(dāng)你讓克勞德為一首詩(shī)續(xù)寫(xiě)押韻的對(duì)句時(shí)，模型中的某個(gè)“電路”會(huì)先確定新句子的最后一個(gè)詞，以確保押韻，隨后再反向推敲整句內(nèi)容。Anthropic的研究人員認(rèn)為，這一現(xiàn)象證明他們的模型確實(shí)具備規(guī)劃能力。只要稍加觀察，你或許會(huì)第一次感覺(jué)到：我們能窺見(jiàn)“思維”的內(nèi)在運(yùn)作過(guò)程。

不過(guò)，這種“窺見(jiàn)”需要極大的努力。諾曼告訴我：“我擔(dān)心的是，人們的態(tài)度從‘極度懷疑’一下子變成了‘完全不加防備’。還有很多問(wèn)題有待解決?！蔽一蛟S就是諾曼所說(shuō)的這類(lèi)人（或許我太容易被《稀疏分布式記憶》與Anthropic模型之間的“相似性”打動(dòng)）。在過(guò)去一兩年里，我開(kāi)始認(rèn)同杰弗里·辛頓的觀點(diǎn)。辛頓近期因在人工智能領(lǐng)域的研究獲得諾貝爾獎(jiǎng)，他在2020年對(duì)記者卡倫·豪表示：“深度學(xué)習(xí)將無(wú)所不能?！?/p>

但我們也發(fā)現(xiàn)，模型并非越大越好。繪制“模型性能與規(guī)模關(guān)系”的曲線已開(kāi)始趨于平緩。要找到模型尚未消化的高質(zhì)量數(shù)據(jù)變得越來(lái)越難，且計(jì)算成本也日益高昂。今年8月，GPT-5發(fā)布時(shí)，僅實(shí)現(xiàn)了小幅改進(jìn)——這一巨大的失望甚至可能刺破人工智能領(lǐng)域的投資泡沫。當(dāng)下，我們需要一種“適度的懷疑”：既要正視如今人工智能模型的能力，也不能認(rèn)為所有難題都已解決。

在這些待解難題中，最關(guān)鍵的或許是：如何設(shè)計(jì)出能像人類(lèi)一樣高效學(xué)習(xí)的模型。據(jù)估算，GPT-4在訓(xùn)練過(guò)程中接觸了數(shù)萬(wàn)億個(gè)詞；而兒童只需接觸數(shù)百萬(wàn)個(gè)詞就能流暢表達(dá)。認(rèn)知科學(xué)家表示，新生兒的大腦具備某些“歸納偏置”，這些偏置能加速學(xué)習(xí)過(guò)程（當(dāng)然，大腦本身是數(shù)百萬(wàn)年進(jìn)化的產(chǎn)物——進(jìn)化過(guò)程本身也可視為一種“訓(xùn)練數(shù)據(jù)”的積累）。

例如，人類(lèi)嬰兒會(huì)默認(rèn)“世界由物體構(gòu)成”，且“其他生物擁有自己的信念和意圖”。當(dāng)媽媽說(shuō)“香蕉”時(shí)，嬰兒會(huì)將這個(gè)詞與媽媽正看著的整個(gè)黃色物體關(guān)聯(lián)——而非僅僅關(guān)聯(lián)物體的尖端或果皮。嬰兒還會(huì)進(jìn)行“小實(shí)驗(yàn)”：這個(gè)東西能吃嗎？那個(gè)東西能扔多遠(yuǎn)？驅(qū)動(dòng)他們的是欲望、好奇心、挫敗感等情緒。兒童總在嘗試做略微超出自己能力范圍的事。他們的學(xué)習(xí)之所以高效，是因?yàn)檫@種學(xué)習(xí)是“具身的”“自適應(yīng)的”“有意識(shí)的”且“持續(xù)的”。或許，要真正理解世界，就必須親身參與其中。

相比之下，人工智能的“體驗(yàn)”極其匱乏，甚至不配被稱(chēng)為“體驗(yàn)”。大型語(yǔ)言模型的訓(xùn)練數(shù)據(jù)本身已經(jīng)過(guò)高度提煉。加州大學(xué)伯克利分校的神經(jīng)科學(xué)家多麗絲·曹告訴我：“我認(rèn)為這些模型之所以能發(fā)揮作用，是因?yàn)樗鼈兘柚苏Z(yǔ)言的力量?！闭Z(yǔ)言就像“預(yù)先咀嚼過(guò)的體驗(yàn)”，其他類(lèi)型的數(shù)據(jù)則缺乏如此密集的語(yǔ)義信息。哈佛大學(xué)認(rèn)知科學(xué)家格什曼提出疑問(wèn)：“為什么在視頻數(shù)據(jù)推理領(lǐng)域，我們沒(méi)有看到類(lèi)似的突破？目前的視覺(jué)模型在常識(shí)性物理推理方面仍存在困難?！?/p>

深度思維公司近期推出的一款模型，能生成“正確混合顏料”“解決迷宮”的視頻，但視頻中也會(huì)出現(xiàn)“杯子撞擊后沒(méi)有碎裂反而彈起”“繩子被揉成一團(tuán)卻形成結(jié)”等違背物理規(guī)律的畫(huà)面。曾任職于微軟研究院的認(rèn)知神經(jīng)科學(xué)家伊達(dá)·莫門(mén)內(nèi)賈德做過(guò)一項(xiàng)實(shí)驗(yàn)：她讓大型語(yǔ)言模型“虛擬參觀”一棟建筑，隨后詢(xún)問(wèn)模型關(guān)于建筑內(nèi)路線和捷徑的問(wèn)題——這類(lèi)空間推理對(duì)人類(lèi)而言輕而易舉。但除了最簡(jiǎn)單的場(chǎng)景，人工智能要么答錯(cuò)，要么會(huì)編造不存在的路線。她說(shuō)：“它們真的會(huì)規(guī)劃嗎？其實(shí)不會(huì)。”

在與神經(jīng)科學(xué)家交流的過(guò)程中，我能感受到他們的一種擔(dān)憂：人工智能行業(yè)的發(fā)展有些操之過(guò)急，缺乏深思熟慮。普林斯頓大學(xué)認(rèn)知科學(xué)家布倫登·M·萊克告訴我，如果目標(biāo)是打造與人類(lèi)智能相當(dāng)?shù)娜斯ぶ悄?，那么“我們目前的?xùn)練方式是錯(cuò)誤的”。人工智能完成訓(xùn)練后，其神經(jīng)網(wǎng)絡(luò)“大腦”就會(huì)被“凍結(jié)”。即便你告訴模型關(guān)于自己的一些信息，它也不會(huì)調(diào)整內(nèi)部神經(jīng)元的連接方式，而是會(huì)采用一種簡(jiǎn)單的替代方案：記錄一段文字（比如“用戶有一個(gè)學(xué)步兒童，正在學(xué)習(xí)法語(yǔ)”），并在你發(fā)出后續(xù)指令時(shí)參考這段記錄。

人類(lèi)大腦則會(huì)持續(xù)更新自身，關(guān)于這一點(diǎn)，有一個(gè)精妙的理論：睡眠時(shí)，大腦會(huì)將部分情景記憶“回放”給新皮層，以完成對(duì)新皮層的訓(xùn)練?；胤诺挠洃洉?huì)在你的高維思維空間中留下“印記”；醒來(lái)后，你看待世界的方式會(huì)發(fā)生細(xì)微變化。

人工智能領(lǐng)域已對(duì)“飛速進(jìn)展”產(chǎn)生依賴(lài)，且在經(jīng)濟(jì)上投入巨大，以至于有時(shí)會(huì)假裝“進(jìn)步是必然的”“已無(wú)科學(xué)問(wèn)題可解”。但科學(xué)有一個(gè)棘手的特點(diǎn)：它有時(shí)會(huì)陷入停滯。硅谷或許會(huì)將人工智能公司稱(chēng)為“實(shí)驗(yàn)室”，將部分員工稱(chēng)為“研究員”，但從本質(zhì)上講，該行業(yè)的文化是“工程導(dǎo)向”的——即“不管用什么方法，先做出成果再說(shuō)”?？贫鞅硎荆骸皺C(jī)器學(xué)習(xí)領(lǐng)域的研究者很少關(guān)注認(rèn)知科學(xué)的歷史，更談不上尊重，這一點(diǎn)令人震驚?！?/p>

如今的人工智能模型之所以能成功，得益于數(shù)十年前關(guān)于大腦的研究發(fā)現(xiàn)，但它們與大腦仍有本質(zhì)區(qū)別。哪些差異是“非核心的”，哪些是“根本性的”？每個(gè)神經(jīng)科學(xué)研究團(tuán)隊(duì)都有自己偏愛(ài)的理論，而這些理論如今終于有了驗(yàn)證的可能——這在過(guò)去是無(wú)法實(shí)現(xiàn)的。盡管如此，沒(méi)人指望能輕易找到答案。普林斯頓大學(xué)的諾曼表示，要解決人工智能目前面臨的難題，“需要先精準(zhǔn)找出模型在哪些方面未能達(dá)到我們期望的智能水平，然后針對(duì)性地改進(jìn)。而這一過(guò)程，仍需要人類(lèi)科學(xué)家參與。”

20世紀(jì)90年代，數(shù)十億美元被投入“人類(lèi)基因組計(jì)劃”，人們認(rèn)為基因測(cè)序或許能解決醫(yī)學(xué)領(lǐng)域最棘手的問(wèn)題：癌癥、遺傳病，甚至衰老。那是一個(gè)充斥著大話與自信的時(shí)代——多莉克隆羊誕生，《侏羅紀(jì)公園》上映，生物技術(shù)崛起，評(píng)論界開(kāi)始討論“人類(lèi)是否應(yīng)該扮演上帝的角色”。但生物學(xué)家很快發(fā)現(xiàn)，現(xiàn)實(shí)遠(yuǎn)比想象中復(fù)雜。我們沒(méi)有治愈癌癥，沒(méi)有找到阿爾茨海默病或自閉癥的病因。我們意識(shí)到，DNA只是生命故事的一部分。事實(shí)上，有人可能會(huì)說(shuō)，生物學(xué)曾一度陷入“基因狂熱”——因?yàn)槲覀冋莆樟搜芯亢屠斫釪NA的技術(shù)，便過(guò)分關(guān)注DNA。

但沒(méi)人會(huì)認(rèn)為弗朗西斯·克里克錯(cuò)了。1953年，他協(xié)助證實(shí)了DNA的雙螺旋結(jié)構(gòu)，當(dāng)天他走進(jìn)劍橋的一家酒吧，宣稱(chēng)自己“發(fā)現(xiàn)了生命的奧秘”。他和同事對(duì)“揭開(kāi)生命神秘面紗”所做的貢獻(xiàn)，幾乎超過(guò)任何人。在他們的發(fā)現(xiàn)之后的數(shù)十年里，科學(xué)領(lǐng)域取得了前所未有的豐碩成果，充滿活力?！癉NA”成為家喻戶曉的詞匯，每個(gè)高中生都知道雙螺旋結(jié)構(gòu)。

如今，在人工智能領(lǐng)域，我們?cè)俅蜗萑脒@樣一個(gè)“大話與自信并存”的時(shí)代。薩姆·奧爾特曼表示，計(jì)劃籌集5000億美元，在美國(guó)建造名為“星門(mén)”的新一代人工智能數(shù)據(jù)中心集群。人們討論“超級(jí)智能競(jìng)賽”時(shí)，語(yǔ)氣莊重且急迫，這種態(tài)度有時(shí)顯得缺乏依據(jù)，甚至有些荒謬。但我猜想，阿莫代伊、奧爾特曼等人之所以發(fā)表這種“救世主式”的言論，是因?yàn)樗麄兿嘈牛褐悄艿幕驹硪呀?jīng)被破解，剩下的只是細(xì)節(jié)問(wèn)題。

甚至一些神經(jīng)科學(xué)家也認(rèn)為，我們已經(jīng)跨越了一個(gè)關(guān)鍵的門(mén)檻。普林斯頓大學(xué)的尤里·哈森與科恩、諾曼、萊克是同事，他認(rèn)為神經(jīng)網(wǎng)絡(luò)“或許是解釋認(rèn)知的正確模型”。這種觀點(diǎn)既讓他感到興奮，也讓他不安。他說(shuō)：“我的擔(dān)憂與大多數(shù)人相反。我擔(dān)心的不是這些模型與我們相似，而是我們與這些模型相似?！比绻ㄟ^(guò)簡(jiǎn)單的訓(xùn)練技術(shù)，就能讓程序表現(xiàn)出人類(lèi)般的行為，那或許人類(lèi)并不像我們想象的那樣特殊。這是否也意味著，人工智能不僅會(huì)在知識(shí)層面超越我們，還會(huì)在判斷力、創(chuàng)造力、洞察力上超越我們——并因此獲得超越人類(lèi)的權(quán)力？

令我意外的是，哈森告訴我，他“近來(lái)?yè)?dān)心我們可能真的會(huì)弄明白大腦的運(yùn)作方式。對(duì)人類(lèi)而言，探尋這個(gè)問(wèn)題或許是一個(gè)巨大的錯(cuò)誤”。他將人工智能研究者比作20世紀(jì)30年代的核科學(xué)家：“對(duì)這些人來(lái)說(shuō)，這是他們一生中最有趣的時(shí)代。與此同時(shí)，他們也清楚自己正在研究的東西，可能對(duì)人類(lèi)產(chǎn)生嚴(yán)重影響。但出于求知欲，他們無(wú)法停止。”

霍夫施塔特有一本我很喜歡的書(shū)，名為《流動(dòng)的概念與創(chuàng)造性類(lèi)比：思維基本機(jī)制的計(jì)算機(jī)模型》。上大學(xué)時(shí)，這本書(shū)讓我深受觸動(dòng)。它的核心觀點(diǎn)是：“何為思考？”這類(lèi)問(wèn)題并非單純的哲學(xué)問(wèn)題，而是有切實(shí)答案的。1995年該書(shū)出版時(shí)，霍夫施塔特和他的研究團(tuán)隊(duì)只能隱約指出答案可能是什么?；叵脒@本書(shū)，我不禁好奇：看到人工智能研究者或許已經(jīng)實(shí)現(xiàn)了他所渴望的目標(biāo)——用機(jī)械原理解釋思考的基本機(jī)制，霍夫施塔特會(huì)感到興奮嗎？

但在我們的交談中，他卻顯得極為失望，甚至恐懼。他表示，當(dāng)前的人工智能研究“雖然印證了我的許多觀點(diǎn)，卻也剝奪了人類(lèi)的獨(dú)特魅力”?！拔夷贻p時(shí)，非常想知道創(chuàng)造力的基礎(chǔ)是什么，想了解創(chuàng)造力的機(jī)制。這對(duì)我來(lái)說(shuō)是一個(gè)圣杯。但現(xiàn)在，我希望它能一直是個(gè)謎?！被蛟S，思考的奧秘比任何人想象的都要簡(jiǎn)單——簡(jiǎn)單到一個(gè)高中生，甚至一臺(tái)機(jī)器，都能理解。?

說(shuō)明：本號(hào)刊發(fā)來(lái)自各方的文章，是為了獲得更全面的信息，不代表本號(hào)支持文章中的觀點(diǎn)。由于微信公眾號(hào)每天只能推送一次，無(wú)法即時(shí)更新，本站目前在騰訊新聞發(fā)布最新的文章，每天24小時(shí)不間斷更新，請(qǐng)收藏以下地址（請(qǐng)完整復(fù)制），隨時(shí)刷新：

https://news.qq.com/omn/author/8QIf3nxc64AYuDfe4wc%3D