ChatGPT以其驚艷的語(yǔ)言能力俘獲人心已滿三年。OpenAI這項(xiàng)發(fā)明引發(fā)的狂熱如此之盛，以至于如今美國(guó)最大的經(jīng)濟(jì)增長(zhǎng)引擎竟源于對(duì)這項(xiàng)技術(shù)的投資——它甚至許諾能治愈癌癥。

生成式人工智能真能兌現(xiàn)這些宏大承諾嗎？至少對(duì)于那些每天揮擲數(shù)百萬(wàn)美元以維持聊天機(jī)器人運(yùn)轉(zhuǎn)的投資者而言，答案是否定的。一旦業(yè)務(wù)出現(xiàn)崩塌，我們將面臨什么？

OpenAI首席執(zhí)行官山姆·奧特曼因三年前公司推出ChatGPT而聲名鵲起。這場(chǎng)突如其來(lái)的成功，將他推向了科技英雄的精英神壇。面對(duì)全球范圍內(nèi)的聚光燈，他非但沒(méi)有絲毫怯場(chǎng)，反而開(kāi)始發(fā)表愈發(fā)驚世駭俗的言論。

例如，他宣稱(chēng)：“盡管進(jìn)程將循序漸進(jìn)，但氣候問(wèn)題的解決、太空殖民地的建立以及物理學(xué)全領(lǐng)域的探索——這些驚人的成就終將變得司空見(jiàn)慣?！?/strong>

他的豪言壯語(yǔ)更進(jìn)一步：“或許只需10吉瓦的計(jì)算能力，人工智能就能攻克癌癥療法；或者用同樣10吉瓦的算力，就能為地球上每個(gè)學(xué)生提供個(gè)性化教育?！弊鳛閰⒄眨瑩碛?50多萬(wàn)人口的費(fèi)城，其全城電力消耗僅約1吉瓦。

在另一次訪談中，他又表達(dá)了深深的憂慮：“我們非常擔(dān)憂威權(quán)政府會(huì)開(kāi)發(fā)這項(xiàng)技術(shù)?！睙o(wú)論持有樂(lè)觀愿景還是末日論調(diào)，奧特曼都篤定生成式人工智能擁有巨大的力量：一切將從此改變。

最近，他似乎恢復(fù)了些許理性，開(kāi)始降低近年來(lái)被不斷煽高的預(yù)期。在向投資者尋求更多資金時(shí)，奧特曼反思道：“當(dāng)泡沫出現(xiàn)時(shí)，聰明人往往會(huì)對(duì)核心真相過(guò)度熱情?！彼^續(xù)反問(wèn)道：“我們是否正處于投資者普遍對(duì)人工智能過(guò)度熱情的階段？我認(rèn)為是的。但人工智能是否是長(zhǎng)期以來(lái)最重要的事件？在我看來(lái)，亦是如此?！?/p>

究竟是誰(shuí)讓投資者陷入了這種進(jìn)退維谷的境地？

數(shù)據(jù)統(tǒng)計(jì)

如何理解這位科技界領(lǐng)軍人物看似自相矛盾的言論？這些看似雜亂無(wú)章、失衡甚至對(duì)立的表述，實(shí)則暗藏玄機(jī)。但要理解其中的深意，我們需要回溯一些背景。

2022年11月，ChatGPT的橫空出世令我們所有人感到震驚。其卓越的語(yǔ)言能力讓我們猝不及防，人們輕易地相信自己正在與“某人”對(duì)話——某種具有意識(shí)的存在。

我們不必固執(zhí)己見(jiàn)：ChatGPT確實(shí)實(shí)現(xiàn)了更高級(jí)別的交互。雖然人工智能早已存在，但ChatGPT的突破在于它能夠輸出“新”內(nèi)容，或者更準(zhǔn)確地說(shuō)，是以統(tǒng)計(jì)學(xué)概率的方式回收并重組舊內(nèi)容。這就是生成式人工智能的運(yùn)作原理——它不僅能在數(shù)據(jù)中發(fā)現(xiàn)關(guān)聯(lián)性（例如向我們推送“相關(guān)”廣告），更能創(chuàng)造全新的關(guān)聯(lián)。

但必須澄清一點(diǎn)：正如學(xué)者葉夫根尼·莫羅佐夫所言，人工智能既非“智能”也非“人工”。

它之所以不具備智能，是因?yàn)槠浔举|(zhì)上是統(tǒng)計(jì)學(xué)：如果簡(jiǎn)化大型語(yǔ)言模型（當(dāng)前人工智能領(lǐng)域最成熟的模型）的工作原理，可以將其理解為根據(jù)訓(xùn)練時(shí)使用的數(shù)百萬(wàn)個(gè)示例，預(yù)測(cè)某個(gè)詞語(yǔ)接續(xù)另一個(gè)詞語(yǔ)的概率。

另一方面，它也不具備“人工”屬性：因?yàn)槠鋵ふ谊P(guān)聯(lián)的內(nèi)容源自人類(lèi)智慧的結(jié)晶。若無(wú)此基礎(chǔ)，統(tǒng)計(jì)模型便無(wú)法實(shí)現(xiàn)逼真的擬態(tài)。事實(shí)上，中期發(fā)展存在一個(gè)無(wú)法解決的悖論：若人工智能真能取代人類(lèi)，未來(lái)它將不得不接受其他人工智能產(chǎn)出的數(shù)據(jù)進(jìn)行訓(xùn)練，這將加劇本已頻發(fā)的錯(cuò)誤、偏見(jiàn)和幻覺(jué)，形成惡性循環(huán)。

正如凱倫·郝在《人工智能帝國(guó)》一書(shū)中所闡述，OpenAI超越競(jìng)爭(zhēng)對(duì)手的關(guān)鍵發(fā)現(xiàn)在于：當(dāng)數(shù)據(jù)量、參數(shù)和計(jì)算能力呈倍數(shù)增長(zhǎng)時(shí)，結(jié)果的可信度將成比例提升。

此后，西方科技企業(yè)紛紛投入巨資擴(kuò)充這些變量以打造更強(qiáng)大的系統(tǒng)，幾乎停止了對(duì)替代路徑的探索。例如，面對(duì)海量?jī)?nèi)容需求時(shí)，它們不再僅采信可靠來(lái)源，而是不加區(qū)分地抓取網(wǎng)絡(luò)上所有信息——從紅迪網(wǎng)到推特，乃至各類(lèi)雜牌雜志。這導(dǎo)致訓(xùn)練數(shù)據(jù)的平均質(zhì)量持續(xù)惡化，與生成可靠答案的目標(biāo)背道而馳。

對(duì)人工智能而言，世界僅存在概率；真?zhèn)蔚雀拍詈翢o(wú)意義，因?yàn)樗鼰o(wú)法認(rèn)知現(xiàn)實(shí)世界——畢竟“認(rèn)知”本身就意味著某種意識(shí)，而這正是它所欠缺的。

這場(chǎng)變量擴(kuò)張競(jìng)賽的另一惡果，是催生出規(guī)模日益龐大的數(shù)據(jù)中心。成千上萬(wàn)的處理器堆疊運(yùn)行不僅耗能巨大，其配套的冷卻系統(tǒng)更消耗驚人的能源和水資源。這些數(shù)據(jù)中心的能耗堪比數(shù)十萬(wàn)人口的城市，其產(chǎn)生的空氣污染、持續(xù)噪音及周邊水資源短缺等問(wèn)題，正嚴(yán)重危害著周邊居民的健康。

盡管尚無(wú)確切的電力消耗數(shù)據(jù)，但根據(jù)麻省理工學(xué)院的預(yù)測(cè)，若按當(dāng)前速度發(fā)展（除非該行業(yè)加速擴(kuò)張或徹底崩潰），到2030年數(shù)據(jù)中心可能消耗全球21%的電力需求。

原計(jì)劃關(guān)閉的發(fā)電廠將持續(xù)運(yùn)轉(zhuǎn)以滿足增長(zhǎng)需求。這意味著全球?yàn)榉乐巫兣龅呐⒏吨T東流，甚至造成更大的生態(tài)損失。

面對(duì)技術(shù)引發(fā)問(wèn)題的種種鐵證，科技巨頭們卻提出了更多“技術(shù)方案”來(lái)應(yīng)對(duì)。例如，奧特曼輕描淡寫(xiě)地宣稱(chēng)人工智能將能“修復(fù)”氣候問(wèn)題，同時(shí)他又創(chuàng)辦了一家核能公司。盡管人類(lèi)早已掌握了無(wú)需人工智能也能“修復(fù)”全球變暖的方法。

弗雷德里克·詹姆遜關(guān)于“想象地球的終結(jié)比想象資本主義的終結(jié)更容易”的著名論斷，如今已演變?yōu)椤跋胂笕斯ぶ悄軐⒔鉀Q全球變暖，比想象能阻止一個(gè)蓬勃發(fā)展的產(chǎn)業(yè)更容易”。

歸根結(jié)底是經(jīng)濟(jì)問(wèn)題，蠢貨

近年來(lái)，我們聽(tīng)過(guò)太多夸大其詞的承諾：非同質(zhì)化代幣將拯救藝術(shù)家免于饑餓，加密貨幣將實(shí)現(xiàn)貨幣控制的民主化并讓“民眾”擺脫銀行束縛，元宇宙將帶來(lái)前所未有的互聯(lián)網(wǎng)“生活”體驗(yàn)等等。

這些項(xiàng)目（及其他類(lèi)似企劃）皆將過(guò)剩的資本導(dǎo)入看似短期高回報(bào)的項(xiàng)目，而中長(zhǎng)期收益則懸而未決。畢竟，正如那些在科技賭場(chǎng)押注者反復(fù)強(qiáng)調(diào)的——他們同時(shí)將地球生態(tài)系統(tǒng)置于賭局之中——誰(shuí)曾預(yù)料谷歌會(huì)發(fā)展成今日之規(guī)模？無(wú)論如何，關(guān)鍵在于及時(shí)抽身，讓別人買(mǎi)單。這正是病態(tài)資本主義碎片化的體現(xiàn)——它在投機(jī)狂潮中擴(kuò)張，最終以危機(jī)收?qǐng)觥?/p>

山姆·奧特曼玩轉(zhuǎn)這套游戲堪稱(chēng)完美，即便在談?wù)撊斯ぶ悄艿奈ｋU(xiǎn)時(shí)亦是如此。若人工智能能攻克癌癥與全球變暖，正因其是極具顛覆性的技術(shù)。反之，若它演變?yōu)槟芟麥缛祟?lèi)的終結(jié)者，也僅需更多處理器（能源）、數(shù)據(jù)與參數(shù)支撐。

企業(yè)似乎不再需要那些討薪、要求加薪的“煩人”員工。誰(shuí)會(huì)想錯(cuò)過(guò)這樣的機(jī)遇呢？

那些不依賴人工智能謀生卻深入研究該領(lǐng)域的人，則持更懷疑的態(tài)度。他們不認(rèn)為超級(jí)智能——那種擁有模糊的超意識(shí)和全部信息的智能——是統(tǒng)計(jì)學(xué)道路的終點(diǎn)。

哈佛大學(xué)、麻省理工學(xué)院和蘋(píng)果公司等機(jī)構(gòu)的嚴(yán)肅研究表明，盡管人工智能在回答問(wèn)題時(shí)能提供看似可信的結(jié)果，但其中并無(wú)推理的痕跡。面對(duì)邏輯問(wèn)題時(shí)，它們并非運(yùn)用演繹法則，而是基于歷史案例推演概率。

當(dāng)然，在許多領(lǐng)域，精確的統(tǒng)計(jì)推斷往往足夠：例如身為律師，撰寫(xiě)判決書(shū)時(shí)可節(jié)省時(shí)間，但必須仔細(xì)校對(duì)——可惜并非人人如此，有人因懶惰或過(guò)度追求效率而最終付出代價(jià)。因?yàn)槿斯ぶ悄芸梢酝黄平y(tǒng)計(jì)概率的邊界，“發(fā)明”那些“可能”發(fā)生的情況。

谷歌母公司字母表的首席執(zhí)行官桑達(dá)爾·皮查伊在接受《邊緣》雜志采訪時(shí)承認(rèn)：“幻覺(jué)問(wèn)題仍然沒(méi)有解決。某種程度上，這是其固有特性。正是這種特性賦予了模型強(qiáng)大的創(chuàng)造力。”

盡管承認(rèn)可靠性有限，企業(yè)仍在游說(shuō)將高度敏感的任務(wù)——如交通、教育、軍工或醫(yī)療領(lǐng)域——委托給人工智能。

泡沫已現(xiàn)，為何執(zhí)意兜售達(dá)不到預(yù)期承諾的產(chǎn)品？因?yàn)橥顿Y者正變得焦躁不安，渴望獲得切實(shí)可感的回報(bào)信號(hào)。盡管部分人工智能助手的付費(fèi)版本收入在增長(zhǎng)，但增速遠(yuǎn)低于成本上升幅度——尤其隨著數(shù)據(jù)中心規(guī)模持續(xù)擴(kuò)大。

為縮小差距，安索帕等公司不得不限制付費(fèi)用戶訪問(wèn)其編程人工智能“克勞德”的次數(shù)：每月200美元的收費(fèi)無(wú)法覆蓋成本，且似乎無(wú)法大幅提價(jià)。這意味著即便是付費(fèi)客戶也讓企業(yè)蒙受虧損。

但當(dāng)前關(guān)于人工智能的輿論影響力如此之大，以至于所有人都承受著使用它的壓力：或是因?yàn)樯纤疽?，或是為了提升生產(chǎn)力以求生存。教師、建筑師、律師或網(wǎng)紅們，或出于信念、壓力或需求嘗試使用，發(fā)現(xiàn)它或多或少能派上用場(chǎng)，于是因時(shí)間緊迫或單純懶惰而將任務(wù)外包。

企業(yè)的預(yù)期是，遲早認(rèn)知外包會(huì)讓我們依賴這些工具來(lái)處理所有無(wú)法自主完成的工作。

企業(yè)同樣承受著壓力，咨詢公司便以人工智能標(biāo)簽兜售解決方案，至少能緩解他們的“錯(cuò)失恐懼癥”心理，彰顯企業(yè)現(xiàn)代化形象。但實(shí)際成效尚不明朗：麥當(dāng)勞等企業(yè)因系統(tǒng)產(chǎn)生超量訂單而被迫撤回服務(wù)。如今已有專(zhuān)業(yè)人士專(zhuān)門(mén)修復(fù)人工智能產(chǎn)生的錯(cuò)誤。其他領(lǐng)域則討論著通過(guò)特定應(yīng)用提升員工生產(chǎn)力的方案。

關(guān)于勞動(dòng)力替代的最全面研究顯示，22至25歲年輕人的招聘量下降了13%。這一數(shù)字值得關(guān)注，但遠(yuǎn)未達(dá)到廣告宣傳的恐怖規(guī)模。這種替代是否可持續(xù)也尚無(wú)定論。

另一個(gè)不容忽視的問(wèn)題是向在線人工智能服務(wù)共享信息的風(fēng)險(xiǎn)。正如愛(ài)德華·斯諾登所警示的，2024年OpenAI董事會(huì)吸納了前美國(guó)國(guó)家安全局局長(zhǎng)保羅·中曾根將軍——該機(jī)構(gòu)曾于2013年被指控通過(guò)科技公司對(duì)全球民眾實(shí)施大規(guī)模監(jiān)控。這能有什么問(wèn)題？

面對(duì)這種運(yùn)作于黑箱之中、實(shí)現(xiàn)決策自動(dòng)化的技術(shù)，任何理性的反駁都顯得蒼白無(wú)力。

于是，夸大其詞的承諾讓投資者爭(zhēng)相將資金投向這項(xiàng)號(hào)稱(chēng)將徹底改變世界的技術(shù)，股價(jià)水漲船高，而那些眼光敏銳者則能在必要時(shí)將燙手山芋轉(zhuǎn)手他人。

數(shù)百萬(wàn)美元在各方間流轉(zhuǎn)后又回到起點(diǎn)，卻制造了頭條新聞，維持了市場(chǎng)對(duì)芯片的預(yù)期與需求——正是這種需求讓英偉達(dá)市值達(dá)到三年前的十倍。真正的生意不在于經(jīng)營(yíng)烤雞店或網(wǎng)球場(chǎng)，而在于說(shuō)服人們相信這些是好生意，并收取建設(shè)費(fèi)用。至于人工智能真正創(chuàng)造的、支撐這臺(tái)機(jī)器運(yùn)轉(zhuǎn)的實(shí)際收入？這個(gè)問(wèn)題至今無(wú)人能解。

事態(tài)發(fā)展已至如此地步：奧特曼不再談?wù)撝斡┌Y或開(kāi)創(chuàng)物理學(xué)新紀(jì)元，轉(zhuǎn)而熱衷于推出新社交網(wǎng)絡(luò)、在ChatGPT開(kāi)放色情內(nèi)容或開(kāi)發(fā)新型瀏覽器——這些領(lǐng)域早已飽和，如今更難稱(chēng)得上創(chuàng)新或顛覆性。本該改變未來(lái)的科技，如今卻淪為在飽和市場(chǎng)里賺取零碎利潤(rùn)的工具。

騎向懸崖的自行車(chē)

只要資金源源不斷，這些科技巨頭就停不下來(lái)。因此對(duì)許多人而言，問(wèn)題已不再是這種人工智能發(fā)展模式的泡沫何時(shí)會(huì)破裂，而是何時(shí)破裂以及破裂后會(huì)留下什么。它會(huì)像非同質(zhì)化代幣那樣悄無(wú)聲息地消逝，還是像2001年互聯(lián)網(wǎng)泡沫那樣，雖讓投資者損失數(shù)千億美元，卻為幸存者留下了基礎(chǔ)設(shè)施？

但即便泡沫破滅后能建立新事物，經(jīng)驗(yàn)表明技術(shù)往往不會(huì)應(yīng)用于最惠及大眾的領(lǐng)域，而是投向最能盈利的領(lǐng)域。

例如，千禧年伊始，人們投入數(shù)十億美元研發(fā)了極其強(qiáng)大的人工智能工具，并聘請(qǐng)了頂尖專(zhuān)業(yè)人才，但這些技術(shù)并未用于預(yù)防疾病或幫助人們實(shí)現(xiàn)自我，而是被用于投放廣告，讓民眾沉迷于微量多巴胺刺激，對(duì)心理健康造成嚴(yán)重危害。

更糟的是，美國(guó)大部分經(jīng)濟(jì)增長(zhǎng)都源于對(duì)生成式人工智能的投資。英國(guó)央行預(yù)計(jì)該行業(yè)將出現(xiàn)“突然修正”。德意志銀行的一份客戶報(bào)告明確指出：“人工智能泡沫是維系美國(guó)經(jīng)濟(jì)運(yùn)轉(zhuǎn)的唯一支柱”。

失去它，美國(guó)經(jīng)濟(jì)將陷入衰退。正因如此，其他成本更低、危害更小的人工智能形式（所構(gòu)成的威脅，引發(fā)了劇烈震動(dòng)。市場(chǎng)對(duì)此采取否認(rèn)態(tài)度，將價(jià)格維持在遠(yuǎn)低于成本的水平，奉行“繼續(xù)前進(jìn)”的邏輯。

目前，美國(guó)科技企業(yè)與政府之間的共生關(guān)系。但矛盾的是，在放任科技資本自由發(fā)展的過(guò)程中，資源的浪費(fèi)可能導(dǎo)致他們不進(jìn)反退。

事實(shí)上，OpenAI首席財(cái)務(wù)官莎拉·弗里爾在《華爾街日?qǐng)?bào)》舉辦的活動(dòng)中引發(fā)了另一波恐慌，她聲稱(chēng)美國(guó)政府最終應(yīng)為投資提供擔(dān)保。他們是否在預(yù)演2009年奧巴馬式的企業(yè)救助？人工智能領(lǐng)域存在著遠(yuǎn)比美國(guó)企業(yè)選擇的道路更廣闊的探索空間，其價(jià)值更關(guān)乎公共利益而非暴利。

政府通過(guò)合同維持著市場(chǎng)預(yù)期。例如彼得·蒂爾旗下的數(shù)據(jù)處理與軍事承包商帕蘭提爾公司，就為美國(guó)政府提供非法移民追蹤服務(wù)。得益于這些合同，帕蘭提爾的股價(jià)在過(guò)去兩年間大幅攀升。

該公司及其他企業(yè)還承諾將優(yōu)化政府運(yùn)作效率——這些運(yùn)作被封存在人工智能的黑匣子中，不久之后便無(wú)人知曉其運(yùn)作機(jī)制。

正如研究者哈根·布利克斯和英格博格·格利默在《我們?yōu)楹慰謶秩斯ぶ悄堋分兴U釋的，人工智能的統(tǒng)計(jì)錯(cuò)誤——例如將合法移民誤判為非法移民——具有強(qiáng)大的意識(shí)形態(tài)功能，能引發(fā)全民恐慌。面對(duì)運(yùn)行于黑箱中并自動(dòng)化決策的技術(shù)，理性辯論根本無(wú)從談起。

正如他們所言：“人工智能在技術(shù)層面存在缺陷時(shí)，卻能在意識(shí)形態(tài)層面實(shí)現(xiàn)目標(biāo)?！睆倪@個(gè)角度看，生成式人工智能是否會(huì)產(chǎn)生誤報(bào)并不重要——只要所有移民都因恐懼而自我約束，就是成功的。

那么這項(xiàng)技術(shù)是否毫無(wú)價(jià)值？如前所述，生成式人工智能蘊(yùn)含的探索路徑遠(yuǎn)比美國(guó)企業(yè)選擇的道路更為廣闊。存在更精簡(jiǎn)的模型，它們基于可靠數(shù)據(jù)訓(xùn)練，僅定位于自身本質(zhì)：即發(fā)現(xiàn)模式并推測(cè)有用模式的實(shí)用統(tǒng)計(jì)工具。

例如，可以訓(xùn)練系統(tǒng)控制交通信號(hào)燈及其他路標(biāo)，從而優(yōu)化城市交通流；或用于設(shè)計(jì)蛋白質(zhì)，再由專(zhuān)家進(jìn)行分析測(cè)試——這在現(xiàn)實(shí)中已有所實(shí)踐。

我們需要評(píng)估這些潛力巨大的工具所帶來(lái)的影響、經(jīng)濟(jì)成本及環(huán)境損害。但最現(xiàn)實(shí)可持續(xù)的場(chǎng)景與所謂“超級(jí)智能”毫無(wú)關(guān)聯(lián)——后者既不能治愈癌癥，也不會(huì)演變成終結(jié)者。這些服務(wù)于人類(lèi)的現(xiàn)實(shí)人工智能，需要建立優(yōu)先考慮人類(lèi)福祉的政治體系，將環(huán)境代價(jià)置于少數(shù)人短期利益之上。其成果始終需要人類(lèi)的自覺(jué)監(jiān)督，切莫忘記人工智能缺乏判斷力——且種種跡象表明，它永遠(yuǎn)不會(huì)具備這種能力。

埃斯特班·馬格納尼

插圖：塞巴斯蒂安·安格雷薩諾