都說「未來已來」，但要讓好的未來「已來」，先得做出好的選擇。

文 | 佘宗明

AI與所有以往技術(shù)的不同之處在于，它觸及了社會(huì)的中樞神經(jīng)系統(tǒng)。 真正值得擔(dān)心的不是技術(shù)本身，而是為了競(jìng)爭(zhēng)優(yōu)勢(shì)不顧安全邊界地部署技術(shù)。

這兩天，知名歷史學(xué)家、《人類簡(jiǎn)史》作者尤瓦爾·赫拉利將對(duì)AI失控的憂思帶到了2025外灘大會(huì)上，在開幕式暨主論壇的演講中，他如是說道。

在他看來，AI絕非簡(jiǎn)單的自動(dòng)化工具，而是具備「主體性」的異質(zhì)智能體。

有意思的是，2025外灘大會(huì)前兩天發(fā)布了「AI十問世界」，40多場(chǎng)論壇、18場(chǎng)創(chuàng)新者舞臺(tái)、3場(chǎng)AI科創(chuàng)系列賽事都會(huì)圍繞「AI十問世界」展開探討。

▲9月9日，2025外灘大會(huì)發(fā)布了「AI十問世界」。

這十個(gè)問題就牽涉到人機(jī)何以共生的命題，其中既有豆包問出的「人類讓AI變得越來越強(qiáng)大是在養(yǎng)虎為患嗎？」，也有Gemini問出的「如果AI做了錯(cuò)誤決定并造成損害，AI該背鍋嗎？」，還有LLaMA問出的「除了用AI降本增效，哪些崗位是要永遠(yuǎn)留給人類來做的？」……

可以說，這「十問」跟赫拉利的關(guān)切緊密呼應(yīng)。

如果說赫拉利的憂心直指AI沖擊下的多重風(fēng)險(xiǎn)，那無論是外灘大會(huì)自身的開放、多元、前瞻性，還是外灘大會(huì)上智慧大腦間的思想碰撞，都在努力為此提供破解方案。

01

「有人的地方就有左中右」，自AI時(shí)代大幕拉開后，「超級(jí)對(duì)齊（Superalignment）」和「有效加速主義（Effective Accelerationism）」兩個(gè)陣營(yíng)就各執(zhí)左右兩端。

前者時(shí)常對(duì)AI技術(shù)的伴生風(fēng)險(xiǎn)夕惕若厲，如「AI教父」辛頓多次警告超級(jí)智能可能帶來災(zāi)難性后果。

后者則總是認(rèn)為技術(shù)的問題就該在技術(shù)發(fā)展中解決，像a16z掌舵者馬克·安德森就認(rèn)為AI最大的風(fēng)險(xiǎn)是不以最大努力追求它。

在2025外灘大會(huì)上，也能看到多元思想、異態(tài)理念的碰撞。

赫拉利在演講中突出強(qiáng)調(diào)了AI的風(fēng)險(xiǎn)。他認(rèn)為，人們面臨的人工智能危險(xiǎn)，「不是一個(gè)壞人按一個(gè)壞按鈕」，而在于周圍悄然發(fā)生的無形過程?？苹眯≌f里提到過「機(jī)器人叛亂」，但真正的危險(xiǎn)更安靜且更令人恐懼——數(shù)字官僚體系將決定權(quán)從我們可質(zhì)詢的人類，移交給我們看不見的算法。

但2024圖靈獎(jiǎng)得主、「強(qiáng)化學(xué)習(xí)之父」薩頓則態(tài)度有別，針對(duì)外界對(duì)AI帶來偏見、失業(yè)乃至人類滅絕的擔(dān)憂，他在演講中表示「這種對(duì)人工智能的恐懼被夸大了，并且是被某些從中獲利的組織和個(gè)人煽動(dòng)起來的」，呼吁「我們應(yīng)以勇氣、自豪和冒險(xiǎn)精神迎接AI?！?/p>

▲2024圖靈獎(jiǎng)得主薩頓在開幕式上做演講。

阿里云創(chuàng)始人、中科院院士王堅(jiān)在分享中順著「AI和太空資源的融合」，暢想起了星辰大海。他說「太空一直是我們最大的資源，在50年以前是這樣，今天絕對(duì)不是只把人工智能用在手機(jī)上、電腦上，其實(shí)人工智能不應(yīng)該缺失太空?！?認(rèn)定AI和計(jì)算是人類探索深空的必需品。

宇樹科技創(chuàng)始人王興興則在官宣宇樹科技IPO計(jì)劃后的首次發(fā)聲中，說「真正讓AI落地干活，現(xiàn)在還是在大規(guī)模爆發(fā)性增長(zhǎng)的前夜。對(duì)我個(gè)人而言，這個(gè)時(shí)代是非常激動(dòng)人心的。」

雖然觀點(diǎn)有異，但正視AI可能帶來的風(fēng)險(xiǎn)，推動(dòng)AI更多地向善，當(dāng)是共識(shí)。而外灘大會(huì)上的很多探討，正是聚焦于此。

02

赫拉利在演講中談AI風(fēng)險(xiǎn)時(shí)，著重談到了兩點(diǎn)：一是AI觸及了社會(huì)的中樞神經(jīng)系統(tǒng)；二是要警惕為了競(jìng)爭(zhēng)優(yōu)勢(shì)不顧安全邊界地部署技術(shù)。

這延續(xù)了他在《智人之上》中的主張。而要看懂他的主張，就得先看懂兩個(gè)詞：「無機(jī)生命」和「硅幕」。

▲2025外灘大會(huì)，處處都透著「AI」。

AI的出現(xiàn)也許標(biāo)志著「無機(jī)生命」的起源，是赫拉利的基本看法。

他認(rèn)為，AI與過去所有技術(shù)的不同之處在于，AI是有史以來第一個(gè)能夠自行做決策、創(chuàng)造新想法的技術(shù)，人類過去的所有發(fā)明，都只是在為人類賦予更強(qiáng)大的力量，使用的決定權(quán)始終掌握在人類手里，但AI不同，它不僅僅是自動(dòng)化工具，還是「會(huì)行動(dòng)的主體」。

赫拉利總結(jié)，在人類歷史上，從未出現(xiàn)一個(gè)智力較低的物種能夠控制一個(gè)智力更高的物種的情況，「如果我們創(chuàng)造出比人類更聰明的物種，比如超級(jí)智能，世界會(huì)發(fā)生什么？」

在《人類簡(jiǎn)史》中，赫拉利說，人類之所以能建立復(fù)雜的社會(huì)網(wǎng)絡(luò)，關(guān)鍵就在于擁有「講故事」的能力。而今，「講故事」的能力也被AI掌握了。他將AI對(duì)語言的掌握程度超過人類平均水平，視作「AI已入侵人類文明的操作系統(tǒng)」。

▲赫拉利不止一次表達(dá)對(duì)AI失控的擔(dān)憂。

這極易讓人聯(lián)想到馬斯克的那段預(yù)言：「人類只是硅基生命的生物啟動(dòng)程序……人類社會(huì)只是一小段代碼，它的存在是為了啟動(dòng)超級(jí)數(shù)字智能物種的計(jì)算機(jī)程序?！?/p>

人類最強(qiáng)大腦（瓦特、麥克斯韋、愛因斯坦等）=生物算力的算力奇點(diǎn)=人體智能超算，ChatGPT=「生物+機(jī)器」混合算力的算力奇點(diǎn)≈機(jī)器智能超算，曾有人列出這道公式。按照該公式，目前人體智能要強(qiáng)于機(jī)器智能，但未來就不好說了。這也是赫拉利們的憂心之處。

AI可能構(gòu)筑起隔絕人類連接的「硅幕」，則是赫拉利的前瞻預(yù)判。

冷戰(zhàn)時(shí)期，鐵幕曾經(jīng)降下，到了AI時(shí)代，赫拉利認(rèn)為世界未來可能被硅幕分隔開來，「由硅基芯片和計(jì)算機(jī)代碼所組成的‘硅幕’，可能使人類分裂并分屬于不同的數(shù)字帝國(guó)?！构枘粌蓚?cè)的人們?cè)谖幕瘍r(jià)值觀、社會(huì)規(guī)范與政治結(jié)構(gòu)的差異會(huì)越來越大。

他警示，若人類無法重建信任，AI將成為撕裂社會(huì)的「新殖民者」，利用我們的分裂掌控權(quán)力。

03

赫拉利的憂心，并非無謂之慮。而2025外灘大會(huì)上，很多來自學(xué)界業(yè)界的智慧大腦的分享討論，也在回應(yīng)如何與AI共處的未來。

AI失控風(fēng)險(xiǎn)不容小覷？以算法透明和倫理筑基確保AI安全可控，很有必要。

在主論壇上，香港大學(xué)計(jì)算與數(shù)據(jù)科學(xué)學(xué)院院長(zhǎng)馬毅就指出，必須將AI從依賴試錯(cuò)、不可解釋的「黑箱」系統(tǒng)，轉(zhuǎn)變?yōu)榛跀?shù)學(xué)原理與閉環(huán)反饋的「白箱」模型。

▲馬毅在演講中提到，AI應(yīng)從「黑箱」走向「白箱」。

而復(fù)旦大學(xué)人工智能創(chuàng)新與產(chǎn)業(yè)研究院院長(zhǎng)漆遠(yuǎn)提出，AI的「安全可信」是發(fā)展底線，需通過可解釋AI、檢索增強(qiáng)（RAG）、高質(zhì)量數(shù)據(jù)治理等技術(shù)路徑解決模型幻覺、數(shù)據(jù)偏見等問題，也跟馬毅的「可審計(jì)算法決策」形成呼應(yīng)。

事實(shí)上，作為亞洲頂級(jí)金融科技盛會(huì)，歷年外灘大會(huì)都很重視創(chuàng)新技術(shù)的安全性、可靠性：從CSA「AI安全工作組」成立，到「IIFAA分布式可信認(rèn)證體系」共建，再到涵蓋Agent對(duì)齊、智能體零信任防御等功能的「螞蟻蟻天鑒」大模型安全解決方案展出……都凸顯了這點(diǎn)。

今年外灘大會(huì)聚焦的5大內(nèi)容主線中，更是包括「負(fù)責(zé)任創(chuàng)新與普惠未來」。

眾多企業(yè)也在呼應(yīng)這點(diǎn)。螞蟻集團(tuán)9月11日發(fā)布國(guó)內(nèi)首份《真實(shí)世界通證經(jīng)濟(jì)》報(bào)告，提出強(qiáng)化安全的「區(qū)塊鏈存證+隱私計(jì)算聯(lián)合建?！狗桨福?月12日發(fā)布全球首個(gè)智能眼鏡可信連接技術(shù)框架——gPass，致力于實(shí)現(xiàn) AI眼鏡與智能體之間安全、可信、即時(shí)信息交互……就緊扣了「可信技術(shù)框架」的題眼。

凱文·凱利說：對(duì)于科技帶來的問題，永遠(yuǎn)不能靠減少科技解決，而應(yīng)該發(fā)明出更好的科技?！父谩沟膬?nèi)涵就該包括更安全、更可信。

赫拉利曾說「我并不反對(duì)AI，我不認(rèn)為我們可以或應(yīng)該停止AI的發(fā)展。我只是認(rèn)為我們需要在AI安全方面投入更多，要更加謹(jǐn)慎?！惯@次又說「歷史已多次證明，速度和安全可以并存，但前提是我們構(gòu)建自我修正的機(jī)制閉環(huán)?！?/p>

而外灘大會(huì)上探討、展示的負(fù)責(zé)任AI技術(shù)創(chuàng)新與產(chǎn)業(yè)應(yīng)用，就是對(duì)他期待的「有益的AI」的實(shí)景呈現(xiàn)。

04

群際阻隔如何避免？以開放協(xié)作、增強(qiáng)互信推動(dòng)AI國(guó)際治理合作，勢(shì)在必行。

雖然認(rèn)為「AI恐懼」被夸大，但薩頓在演講里也強(qiáng)調(diào)了協(xié)作的重要性。他說，人工智能和人類繁榮將來自于去中心化協(xié)作。「協(xié)作并非總能實(shí)現(xiàn)，卻是世間一切美好事物的源泉，我們必須尋求協(xié)作、支持協(xié)作，并致力將協(xié)作制度化?！?/p>

王堅(jiān)指出，在AI時(shí)代，開源的含義已經(jīng)從代碼開源（Open Source），演進(jìn)為資源開放（Open Resource），認(rèn)為開放資源對(duì)AI發(fā)展不可或缺。

▲王堅(jiān)院士認(rèn)為，開放資源才能推動(dòng)AI行業(yè)往前走。

開放協(xié)作，是應(yīng)對(duì)AI風(fēng)險(xiǎn)的必由之路，也是實(shí)現(xiàn)AI共治的應(yīng)有之義。外灘峰會(huì)搭建起開放多元的科技交流互鑒平臺(tái)，亦是著眼于增進(jìn)AI領(lǐng)域的開放協(xié)作。

外灘大會(huì)吸引了包括圖靈獎(jiǎng)得主在內(nèi)的世界級(jí)學(xué)者、國(guó)際組織代表、跨國(guó)企業(yè)決策者，共同探討數(shù)據(jù)安全、算法公平、平臺(tái)責(zé)任等全球性議題，就在彰顯了上海已成為全球科技治理規(guī)則與倫理標(biāo)準(zhǔn)探討的東方主場(chǎng)之余，呈現(xiàn)了齊筑AI治理「巴別塔」的努力。

9月12日，亞洲三大金融科技盛會(huì)——上海外灘大會(huì)、新加坡金融科技節(jié)、香港金融科技周主辦方首次齊聚上海實(shí)現(xiàn)「三會(huì)聚首」，組織金融科技「全球主題日」，也在體現(xiàn)了上海作為全球引領(lǐng)性金融科技中心的樞紐性地位之外，帶動(dòng)了多維度交流合作。

▲亞洲三大金融科技盛會(huì)首次「三會(huì)聚首」。

而這類國(guó)際交流合作，正是打破「硅幕」阻隔的橋梁。

在AI治理上，顯然需要更多這樣的開放協(xié)作。正如麻省理工教授馬克斯·特格馬克所說，「AI的發(fā)展速度比人們預(yù)測(cè)的更快，無論在世界上哪個(gè)角落率先造出失控的AI，都將給人類帶來滅頂之災(zāi)……當(dāng)AI在認(rèn)知、學(xué)習(xí)、迭代能力上遠(yuǎn)超人類時(shí)，一切地緣對(duì)立都變得愚蠢可笑至極且無足輕重?！?/p>

赫拉利更是曾警醒：我們能真正控制AI、開發(fā)出一種可以與人類共存的AI的唯一機(jī)會(huì)，就是通過全球合作來實(shí)現(xiàn)。

他的那句「人類之所以能夠統(tǒng)治世界，并不是因?yàn)橛卸嗦斆?，而是因?yàn)槲ㄓ腥祟惗眠\(yùn)用信息進(jìn)行聯(lián)結(jié)，從而可以靈活的大規(guī)模的合作」，跟薩頓的「人類最卓越的超能力，就在于比其他任何動(dòng)物都更擅長(zhǎng)協(xié)作，人類最偉大的成功在協(xié)作本身」，異曲同工。

而外灘大會(huì)構(gòu)建的聯(lián)結(jié)與協(xié)作網(wǎng)絡(luò)，就是在增進(jìn)交流合作。

05

在發(fā)布饒有趣味的「AI十問世界」后，外灘大會(huì)組委會(huì)表示，AI記錄學(xué)習(xí)了人類的反思，ta們的提問也許正是人類思考的鏡像，AI反問人類，本質(zhì)上仍是人類對(duì)于「人之為人」的追問。

AI時(shí)代的「人之為人」之問，可以內(nèi)縮為「AI浪潮下，人類該充當(dāng)什么角色」，也可以外延為「人機(jī)何以相處」。

赫拉利給出的總結(jié)是：人類的選擇將決定AI是「救世主」還是「終結(jié)者」。悲觀劇本中，若我們沉迷內(nèi)斗，AI將如「外星艦隊(duì)」接管世界，用超理性邏輯重塑社會(huì)規(guī)則；樂觀愿景里，全球協(xié)作下的AI可成為治愈疾病、應(yīng)對(duì)氣候危機(jī)的利器，甚至幫助人類突破認(rèn)知極限。

▲直面AI帶來的挑戰(zhàn)與機(jī)遇，探討技術(shù)如何重塑創(chuàng)新增長(zhǎng)，是當(dāng)下重要課題。

2025外灘大會(huì)就是在探尋AI向善、加強(qiáng)協(xié)作的有用答案。

都說「未來已來」，但要讓好的未來「已來」，先得做出好的選擇。

「我們所有人在未來幾年所做的選擇，將決定召喚這種非人類智能究竟是個(gè)致命的錯(cuò)誤，還是會(huì)讓生命的演化翻開一個(gè)充滿希望的新篇章?！埂吨侨酥稀防飳懙?。

按鈕就在我們手中。

?作者 | 佘宗明

?運(yùn)營(yíng) | 李玩

轉(zhuǎn)載須經(jīng)許可

廣告合作請(qǐng)聯(lián)系微信號(hào)：rabgogo88

或手機(jī)號(hào)：18810070968

敬請(qǐng)關(guān)注