內(nèi)容來源| 本文摘編自中信出版集團書籍

《人工智能時代與人類價值》

亨利·基辛格、埃里克·施密特、克雷格·蒙迪 著

責編| 賈寧排版| 拾零

第 9408篇深度好文：3597字 | 9 分鐘閱讀

2025年春節(jié)前夕，中國人工智能領(lǐng)域悄然掀起一場革命。DeepSeek以557.6萬美元的超低訓練成本完成V3模型迭代，僅是OpenAI GPT-4o模型訓練成本的不到十分之一。

同時，DeepSeek非?？犊毓奸_源策略，推動人工智能行業(yè)走向更加開放、合作的嶄新時代。

這場技術(shù)突圍恰似數(shù)字時代的“寒武紀大爆發(fā)”，不僅顛覆了“大模型必屬巨頭”的產(chǎn)業(yè)認知，更催化了全球AI競賽格局的重構(gòu)。

然而，自DeepSeek問世起，針對性的高強度網(wǎng)絡(luò)攻擊就不斷爆發(fā)，給人工智能行業(yè)敲響了堅守安全底線的警鐘；各種質(zhì)疑和爭議接踵而至，如DeepSeek與OpenAI之間的“蒸餾”爭議，拋開行業(yè)競爭和地緣因素不談，在某種程度上可以說是觸及了AI技術(shù)的本質(zhì)與“知識所有權(quán)”的倫理困境。

與此同時，OpenAI前首席科學家Ilya Sutskever的離職及其新公司Safe Superintelligence的融資估值突破200億美元，再次將AI安全與倫理問題推上風口浪尖。

在新書《人工智能時代與人類價值》中，亨利·基辛格、埃里克·施密特與克雷格·蒙迪深入探討了這一領(lǐng)域的深層次挑戰(zhàn)。

書中警告，如果技術(shù)繼續(xù)迅猛發(fā)展，而人類未能明確界定與機器的本質(zhì)區(qū)別，我們可能會將決定人類價值的任務(wù)交給機器——這是人類文明面臨的重大考驗，值得每一個科技從業(yè)者和政策制定者深思。

一、消失的邊界：大公司主導的世界

今天，擁有和開發(fā)人工智能的公司將積聚起可碾軋一切的社會、經(jīng)濟、軍事和政治權(quán)力。各國政府則被迫成為私人公司的東道主和啦啦隊長，運用自己的軍事實力、外交資本和經(jīng)濟影響力促進本土利益。

與此同時，各國政府還扮演著平民百姓支持者的角色，而平民百姓則對壟斷集團的貪婪和隱秘疑慮重重。夾在私人公司東道主兼啦啦隊長與平民百姓支持者角色之間的各國政府被迫煞費苦心地左右應(yīng)付。

這對矛盾也許無法化解。人工智能的問世將使任何既有機構(gòu)的治理難上加難。與此同時，大公司或許會結(jié)成同盟，鞏固已很強大的自身實力。這些同盟或靠互補優(yōu)勢和合并而起，或因?qū)﹂_發(fā)和部署人工智能系統(tǒng)有共同理念而興。

這些公司同盟也許會承擔傳統(tǒng)民族國家的職能，不過不會去界定和開拓邊界已劃定的地盤，而是會深耕分散的數(shù)字互聯(lián)網(wǎng)，把它作為自己的領(lǐng)地。

還有一種可能。如果對源代碼的擴散放任不管，有可能會導致冒出一些小團伙或集團。它們擁有的人工智能足以勝任在有限范圍內(nèi)的治理、供給和自衛(wèi)職能。

人類中的有些團體排斥現(xiàn)存權(quán)威機構(gòu)，贊成權(quán)力分散的金融、通信和治理。這類團體也許最終會墜入人類之初那種原始無政府狀態(tài)，抑或這類團體也許會摻入宗教因素。

就影響范圍而言，基督教、伊斯蘭教和印度教的影響畢竟超過了歷史上任何一國的影響，延續(xù)時間也更長。在未來，宗教教派也許比國籍更能界定身份和忠誠。

以上兩種未來無論哪一種，公司同盟主導也好，分散成為結(jié)構(gòu)松散的宗教團體也罷，每個團體爭取的新“地盤”將不再是以尺寸計算的土地，而是顯示個體用戶忠誠的數(shù)字設(shè)備。人工智能將顛覆傳統(tǒng)意義上的公民概念。

對全球科學界而言，當務(wù)之急是找到可以在每一個人工智能系統(tǒng)中加入內(nèi)在安全保障的技術(shù)手段。各國和國際組織一旦達成共識，就必須為監(jiān)督、執(zhí)行和應(yīng)對危機建立新的政治結(jié)構(gòu)。

這需要解決兩個而不是一個“對齊問題”：一個是人類價值觀和意圖與人工智能行動在技術(shù)層面的對齊，另一個是人與人之間在外交層面的對齊。

二、重新分配：從稀缺走向富足

在過去的兩個世紀里，資本主義民主基本上用精英領(lǐng)導的市場取代了種姓制度和俘虜制；教士們提升了高尚的職業(yè)道德所具備的社會價值，學者們則對其加以記錄；工人們也已經(jīng)掌握了談判和罷工的技巧。

但即便如此，無論我們?nèi)祟惖膭趧邮鞘芄陀谏耢`，還是受雇于政府，抑或只是為了保障一份謀生工資，我們在工作方面的身心付出總的來說，與其說是為了我們自己，不如說是為了服務(wù)他人。

地球上相對固定的土地、勞動力和資本供應(yīng)導致了稀缺性——而不是豐裕性，引導了斗爭的發(fā)生。

激烈的斗爭是圍繞如何劃分已經(jīng)創(chuàng)造出來的東西，甚至更多的是為了如何分配所剩無幾的那點東西而展開的。這些摩擦既涉及社會內(nèi)部，也涉及不同社會之間。

即使在和平時期也是如此，公民們爭論著造成社會相對弱勢群體的根源，并呼吁重新分配，以解決普遍存在的苦難這一事實。擴大可用于再分配的財富總量，進而實際擴大再分配財富的數(shù)量，將提高全世界人類的生活水平。

人工智能的出現(xiàn)提供了一個真正的機會，通過將人類的勞動功能轉(zhuǎn)移到機器上，取代了至少一種原始的生產(chǎn)要素。

此外，人工智能還將用于研究和開發(fā)日益廉價與豐富的原材料來源，作為對其自身的投入。

人工智能可以為各種商品生產(chǎn)更具可持續(xù)性的合成替代品，從而開創(chuàng)一個新的富足時代。

即使考慮到目前的一些物理和物質(zhì)限制，人工智能的產(chǎn)出——盡管不是無窮無盡的——也可以達到相當寬裕的程度，足以滿足人類所有基本需求，并實現(xiàn)我們的眾多期待。

這可能會讓我們在心理層面不再那么受制于經(jīng)濟學的稀缺范式，以及我們?yōu)樯嫠榷ぷ魉鶎е碌谋^情緒。

三、超越國界：從零和博弈到全球合作

OpenAI首席執(zhí)行官薩姆·奧爾特曼根據(jù)兩個變量對經(jīng)濟體系進行了分析：增長和包容性。許多社會至少在一個時期內(nèi)能夠?qū)崿F(xiàn)兩者中的一個，但能夠持續(xù)保持兩者的社會則少之又少。

對這種關(guān)系，奧爾特曼寫道：資本主義是經(jīng)濟增長的強大引擎，因為它獎勵人們投資于能夠長期產(chǎn)生價值的資產(chǎn)，這是創(chuàng)造和分配技術(shù)成果的有效激勵制度。但資本主義進步的代價是不平等。

換句話說，人工智能及其帶來的生產(chǎn)力提高可能會自然而然地催化一種長期的增長。但包容性只能通過選擇來實現(xiàn)。

因此，在后人工智能時代，或許解決方案會像奧爾特曼建議的那樣，對兩種“將構(gòu)成那個世界大部分價值的資產(chǎn)”征稅，即公司——尤其是那些建造、維護和使用人工智能的公司。

另一種選項則是從專利制度中汲取靈感：允許對人工智能發(fā)明及其利潤擁有獨家所有權(quán)，以激勵改進，但僅限于有限的一段時間；超過一定期限后，假定其安全性已得到證實，該模型便可以被公布（或者，也許可以在新的地區(qū)制作副本并構(gòu)建基礎(chǔ)設(shè)施），以供共同使用、迭代和獲益。

簡而言之，人工智能的先驅(qū)們可能低估了他們所引發(fā)的經(jīng)濟和政治挑戰(zhàn)所涵蓋的范圍。

沒錯，人工智能幾乎無所不能。未來的決策者必須小心謹慎，避免讓工業(yè)革命時期蔓延開來的各種社會和經(jīng)濟不平等現(xiàn)象再度固化。

但是，正如薩姆·奧爾特曼所說：“它是要做我想做的事，還是要做你想做的事？”

如今，先進人工智能的絕大部分收益和幾乎獨有的控制權(quán)都掌握在極少數(shù)人手中。他們會放棄自己的優(yōu)勢嗎？如果他們這樣做了——而且當更多的利益和更多的控制權(quán)在國家層面共享時——那么要求將兩者全球化的呼聲就會立即響起。

一個國家會將其主權(quán)財富轉(zhuǎn)化為全人類的共同利益嗎？有些人可能會說，一旦這個世界不再是零和博弈，將其視為犧牲的心理障礙就會消失。但這是以一種尚未實現(xiàn)的轉(zhuǎn)變?yōu)榍疤岬模@種轉(zhuǎn)變似乎與今天的現(xiàn)狀背道而馳。

此外，即使我們能夠成功到達一個超越稀缺的世界，也并不清楚屆時應(yīng)如何構(gòu)建全球人類的激勵機制以保持和諧融洽。即使在一個因物質(zhì)豐腴而令物品“價值”不再至關(guān)重要的世界中，依然會充斥著各種“價值觀”。

那些不以金錢為立身之本的人可能會以宗教、種族、家族血統(tǒng)、教育、道德、技能、審美、幽默感或其他類別為基礎(chǔ)進行交流，然后重新部署社會和全球機構(gòu)。那些不為金錢而戰(zhàn)的人也可以為上帝、權(quán)力、榮耀或復(fù)仇而戰(zhàn)。

此外，經(jīng)濟史也證明，人們很難設(shè)計出既連貫又有效的系統(tǒng)。我們必須承認，人類在預(yù)測技術(shù)的長期影響方面一直不甚擅長；就人工智能而言，我們的樂觀可能毫無道理，我們的擔憂也可能是杞人憂天。

未來，人工智能將成為世界秩序中的一個關(guān)鍵因素。零恐懼、零偏袒的人工智能為客觀的戰(zhàn)略決策引入了一種新的可能。

人工智能將縮小最初意圖與終極結(jié)果之間的差距，包括動用致命武器。

無論是陸地上的無人機“蜂群”，還是海上部署的機器軍團，或者也許是星際艦隊，機器將擁有精確的殺人能力，不會有什么意外，而且造成的后果無法估量。潛在毀滅的規(guī)模大小將完全取決于人和機器的意志與克制。

在核時代，在某種意義上我們其實已經(jīng)步入這一階段。隨著人工智能證實自己作為一種戰(zhàn)爭武器的價值，這一階段的動態(tài)趨勢和意義會變得越來越清晰。

盡管如此，我們?nèi)韵嘈牛斯ぶ悄芸梢宰鳛閯?chuàng)造人類財富和福祉的新基準，而這種可能性本身就敦促我們朝著這個方向努力。

*文章為作者獨立觀點，不代表筆記俠立場。

好文閱讀推薦：

“子彈筆記”是筆記俠的矩陣公眾號，聚焦職場效率追求、人際關(guān)系與高潛成長者，幫你3分鐘吃透核心觀點和方法論。歡迎關(guān)注～

分享、點贊、在看，3連3連！