內(nèi)容來源| 本文摘編自中信出版集團(tuán)書籍

《人工智能時(shí)代與人類未來》

亨利·基辛格、埃里克·施密特、丹尼爾·胡滕洛赫爾 著

責(zé)編| 賈寧排版| 拾零

第 9469篇深度好文：3305字 | 9 分鐘閱讀

你好，我是筆記君。

不知道你有沒有注意到一個(gè)現(xiàn)象：

每次技術(shù)大變革，市面上就會冒出一堆書。有的教你“三天入門”，有的告訴你“未來已來”，還有的給你打雞血“抓住風(fēng)口”。

但有一種書，很少有人寫。那就是讓人停下來、往回看、往深想的書。

最近我讀完了《人工智能時(shí)代與人類未來》這本書。合上書的那一刻，后背發(fā)涼。

今天，我想和你聊聊，為什么一本講AI的書，能讓人讀出這種感覺。

一、寫這本書的，是三個(gè)“老頭”

先說說作者陣容。

這本書的三個(gè)作者，年紀(jì)加起來超過200歲。

第一位，亨利·基辛格，美國前國務(wù)卿，活了100歲，見過二戰(zhàn)后的整個(gè)世界格局變遷。他總能在別人熱血沸騰時(shí)，問出那個(gè)最冷靜的問題。

第二位，埃里克·施密特，谷歌前CEO，在硅谷摸爬滾打幾十年，親眼看著互聯(lián)網(wǎng)從無到有，又看著AI一步步走進(jìn)我們的工作生活里。

第三位，丹尼爾·胡滕洛赫爾，麻省理工學(xué)院的教授，一個(gè)真正懂技術(shù)的學(xué)者。

這三個(gè)老頭湊在一起，本身就很有意思：一個(gè)搞政治的，一個(gè)搞商業(yè)的，一個(gè)搞技術(shù)的。他們不是來給你普及“什么是深度學(xué)習(xí)”的，也不是來預(yù)測“AI會取代哪些工作”的。

他們坐在一起，只討論一個(gè)問題：當(dāng)一種全新的智能形態(tài)出現(xiàn)在地球上，人類該怎么辦？

二、AI的真正可怕之處，不是“像人”

我們普通人聊AI，最常問的問題是：它能不能像人一樣思考？它有沒有意識？它會不會愛上我？

這三個(gè)老頭說：你們問錯問題了。

書里有一個(gè)核心觀點(diǎn)，我讀到時(shí)愣了一下：AI最令人不安的特征，不是它變得越來越像人，而是它正在變得越來越不像人，卻能在越來越多的領(lǐng)域超越人類。

什么意思？

你想想看。以前的機(jī)器，是“力氣大”——比人跑得快，比人搬得重?，F(xiàn)在的AI，是“腦子怪”——它處理信息的方式，和人類完全不同。

人類是怎么思考的？我們有直覺，有經(jīng)驗(yàn)，有情感，有偏見。我們會走捷徑，會憑感覺判斷，會在信息不全的時(shí)候做決策。這是我們幾百萬年進(jìn)化出來的生存策略。

但AI看世界的方式，是純粹的概率、統(tǒng)計(jì)、模式匹配。它能在圍棋中擊敗人類，但它不知道“圍棋”是什么。它能寫詩，但它不懂什么是“憂傷”。

書里把這種現(xiàn)象叫作“認(rèn)知鴻溝”——人類和AI之間，正在出現(xiàn)一條無法彌合的鴻溝。AI越來越聰明，但那種聰明，不是我們熟悉的那種聰明。

這就帶來一個(gè)問題：當(dāng)AI做出一個(gè)決策時(shí)，我們可能根本無法理解它是怎么得出這個(gè)結(jié)論的。

書里舉了一個(gè)例子：在醫(yī)療領(lǐng)域，AI可以通過醫(yī)學(xué)影像診斷疾病，準(zhǔn)確率超過人類醫(yī)生。但有時(shí)候，AI判斷一張片子“有問題”，依據(jù)的可能是片子上某個(gè)人類醫(yī)生根本不會注意的細(xì)微特征。它說對了，但沒人知道它為什么對。

你能接受一個(gè)“說不清理由但結(jié)果正確”的診斷嗎？

這個(gè)問題，比“AI會不會搶我工作”難回答得多。

三、第二次“啟蒙運(yùn)動”

書的第一章有個(gè)觀點(diǎn)說：“由于AI的出現(xiàn)，假定的人類理性優(yōu)越性遭遇了部分顛覆，而能夠匹敵或超越人類智能的機(jī)器卻在激增，這預(yù)示著一場可能比啟蒙運(yùn)動更為深遠(yuǎn)的變革即將到來”。

什么是啟蒙運(yùn)動？簡單說，就是18世紀(jì)那幫哲學(xué)家喊出的口號：人類可以依靠理性，理解世界，掌控命運(yùn)。

康德說：要有勇氣運(yùn)用你自己的理性！

笛卡爾說：我思故我在。

牛頓說：我能用幾條簡單的定律，描述整個(gè)宇宙的運(yùn)行。

這個(gè)信念，支撐了人類過去三百年的狂奔。我們相信世界是有規(guī)律的，規(guī)律是可以被理解的，理解之后是可以被利用的。

但AI的出現(xiàn)，正在動搖這個(gè)信念。

為什么？因?yàn)锳I正在創(chuàng)造一個(gè)“人類無法完全理解的世界”。

你看，這不是技術(shù)問題了。這是哲學(xué)問題，是人類身份認(rèn)同的問題。

如果我們生活在一個(gè)由AI驅(qū)動、但AI的邏輯我們無法完全理解的世界里，我們還是這個(gè)世界的“主人”嗎？

啟蒙運(yùn)動說：人類是理性的主體。

AI說：也許理性不需要主體，算法自己就夠了。

這句話，足夠讓任何一個(gè)對人類文明有感情的人，后背發(fā)涼。

四、戰(zhàn)爭、外交與“黑箱決策”

三個(gè)老頭里有一位是基辛格，所以這本書不可避免地會聊到政治和戰(zhàn)爭。

這一部分，讀起來更是讓人頭皮發(fā)麻。

想象一下：未來的戰(zhàn)場上，AI系統(tǒng)可以在一毫秒內(nèi)做出決策——識別目標(biāo)、評估威脅、選擇打擊方案。人類指揮官根本沒時(shí)間干預(yù)，甚至沒時(shí)間理解AI為什么要這么選。

這還不是最可怕的。

最可怕的是，如果對手也用AI呢？兩個(gè)AI系統(tǒng)在戰(zhàn)場上“對話”，它們的決策邏輯人類根本看不懂。一場戰(zhàn)爭的走向，可能由兩個(gè)“黑箱”之間的博弈決定。

基辛格在書里問了一個(gè)問題：在這樣的世界里，威懾、談判、投降，這些概念還成立嗎？

傳統(tǒng)的戰(zhàn)爭，是有“語言”的。一方做出一個(gè)動作，另一方看懂了這個(gè)動作的含義，然后做出回應(yīng)。這是一種“對話”。

但如果動作是由AI做出的，含義是AI賦予的，對手也是AI在解讀，人類的意志被跳過了。那這還是“戰(zhàn)爭”嗎？還是變成了某種人類無法參與的、機(jī)器之間的博弈？

外交也是一樣。施密特在書里提到，未來的外交官，可能不僅要理解對方國家的文化和利益，還要理解對方國家AI系統(tǒng)的“思維模式”。

聽起來像科幻小說？但如果你關(guān)注近幾年的AI發(fā)展，就知道這些已經(jīng)不是純理論推演了。

五、我們該怎么辦？

聊了這么多讓人擔(dān)憂的問題，你一定想問：那怎么辦？

這本書沒有給出一個(gè)“三步走解決方案”。這可能是讓一些讀者失望的地方。但我想，這正是這本書的誠懇之處。面對真正復(fù)雜的問題，那些告訴你“按這幾個(gè)步驟就能搞定”的人，往往是在騙你。

但這本書確實(shí)給出了一些思考的方向。

第一，保持人的判斷力。

書里反復(fù)強(qiáng)調(diào)一個(gè)詞：human judgment（人的判斷）。AI可以輔助決策，可以提供信息，可以預(yù)測結(jié)果，但最終的價(jià)值判斷，必須由人來做。

因?yàn)閮r(jià)值判斷，需要的是“意義感”，而不是“最優(yōu)解”。而意義感，是人獨(dú)有的。

第二，重新思考教育。

如果我們生活的世界，越來越多地由AI參與構(gòu)建，那么下一代需要學(xué)什么？還像我們一樣背公式、記知識點(diǎn)嗎？可能不是。也許未來的教育，核心是培養(yǎng)人與AI協(xié)作的能力，是在信息過載中保持清醒的能力，是在算法推薦之外做出獨(dú)立選擇的能力。

第三，建立“可解釋性”的底線。

不是所有領(lǐng)域都可以讓AI“黑箱操作”。有些決策，必須能夠被人類理解，必須能夠被追溯，必須有“人”站出來負(fù)責(zé)。這個(gè)底線劃在哪里，需要全社會一起討論。

讀完《人工智能時(shí)代與人類未來》，我想說一句：所有偉大的技術(shù)，最終拷問的都是人——我們是誰，我們要去哪，我們還想不想做自己的主人。

這本書，不是一本讓你“看懂AI”的書。它是一本讓你“看清自己”的書。

它寫的不是代碼、算法、模型。它寫的是當(dāng)人類這個(gè)物種，第一次面對另一種智能形態(tài)時(shí)，那種混合著好奇、興奮、不安、敬畏的復(fù)雜心情。

書里寫的那些問題，沒有一個(gè)有現(xiàn)成答案。而且，那個(gè)“沒有答案”的狀態(tài)，可能就是我們未來的常態(tài)。

我認(rèn)為，AI最值得聊的，不是技術(shù)本身，而是技術(shù)把人逼到了墻角，逼著人重新問那些古老的問題：什么是理解？什么是理性？什么是人？

這些問題，兩千年前柏拉圖問過，五百年前笛卡爾問過，今天，輪到我們了。