編譯 | 王啟隆

出品丨AI 科技大本營(yíng)（ID：rgznai100）

三年了，大模型熱潮一點(diǎn)沒(méi)有退卻，通用人工智能（AGI）的曙光似乎已在地平線(xiàn)上閃現(xiàn)，各大科技巨頭間的競(jìng)賽日趨白熱化，從文本到視頻，多模態(tài)大模型的進(jìn)化速度令人既興奮又不安。世界一方面為 AI 在醫(yī)療、科研等領(lǐng)域展現(xiàn)的巨大潛力而歡呼，另一方面，關(guān)于其失控風(fēng)險(xiǎn)、大規(guī)模失業(yè)和社會(huì)倫理的憂(yōu)慮也從未如此真切。

在這樣的時(shí)代背景下，被譽(yù)為“人工智能教父”的杰弗里·杰弗里·辛頓（Dr. Geoffrey Hinton）的聲音顯得尤為振聾發(fā)聵。這位 2024 年諾貝爾物理學(xué)獎(jiǎng)得主，親手為深度學(xué)習(xí)奠基，卻在晚年毅然選擇離開(kāi)谷歌，成為 AI 潛在風(fēng)險(xiǎn)最深刻、最坦誠(chéng)的“吹哨人”。

本次編譯的對(duì)話(huà)由著名記者主持人（Katie Couric）主持。在這場(chǎng)深入靈魂的交流中，杰弗里·辛頓不僅剖析了神經(jīng)網(wǎng)絡(luò)的奧秘，更分享了他對(duì) AI 未來(lái)的驚人構(gòu)想與深切憂(yōu)慮——從五年內(nèi)超級(jí)智能誕生的可能，到人機(jī)共存的終極方案。

科幻照進(jìn)現(xiàn)實(shí)

主持人：如果你有機(jī)會(huì)能和薩姆·奧爾特曼與埃隆·馬斯克同坐一桌，你會(huì)對(duì)他們說(shuō)些什么？

杰弗里·辛頓：我會(huì)對(duì)他們說(shuō)，你們心里清楚得很，你們正在研發(fā)的“那個(gè)東西”，有很大可能會(huì)把人類(lèi)徹底毀滅。

主持人：我了解到去年你與約翰·霍普菲爾德共同獲得了 2024 年諾貝爾物理學(xué)獎(jiǎng)，以表彰你在“實(shí)現(xiàn)基于人工神經(jīng)網(wǎng)絡(luò)的機(jī)器學(xué)習(xí)方面的基礎(chǔ)性發(fā)現(xiàn)與發(fā)明”。博士，這份榮譽(yù)和認(rèn)可對(duì)你個(gè)人而言意味著什么？

杰弗里·辛頓：說(shuō)實(shí)話(huà)，我獲獎(jiǎng)時(shí)非常驚訝，因?yàn)檫@是個(gè)物理學(xué)獎(jiǎng)，而我并非物理學(xué)領(lǐng)域的學(xué)者。不過(guò)，能獲得諾貝爾獎(jiǎng)意義非凡。對(duì)任何科學(xué)家來(lái)說(shuō)，這都稱(chēng)得上是最高的榮譽(yù)了。

主持人：我想，正如你過(guò)去所言，他們或許真的需要為計(jì)算機(jī)科學(xué)設(shè)立一個(gè)專(zhuān)門(mén)的諾貝爾獎(jiǎng)。

杰弗里·辛頓：在某種意義上，是有一個(gè)類(lèi)似的獎(jiǎng)項(xiàng)。它叫“圖靈獎(jiǎng)”，被公認(rèn)為計(jì)算機(jī)科學(xué)界的諾貝爾獎(jiǎng)。但根本原因在于，諾貝爾在他的遺囑里設(shè)立了固定的獎(jiǎng)項(xiàng)，后人不太愿意再增設(shè)。他們后來(lái)增加了一個(gè)經(jīng)濟(jì)學(xué)獎(jiǎng)，但不想再稀釋這個(gè)獎(jiǎng)項(xiàng)的價(jià)值了。

主持人：我知道你也曾榮獲了圖靈獎(jiǎng)，那是授予你的另一項(xiàng)殊榮。在去年秋天的一次采訪(fǎng)中，你曾希望諾貝爾獎(jiǎng)能讓你關(guān)于人工智能及其未來(lái)角色的觀點(diǎn)——當(dāng)然也包括其當(dāng)下作用——得到更嚴(yán)肅的對(duì)待。你覺(jué)得這個(gè)愿望實(shí)現(xiàn)了嗎？

杰弗里·辛頓：是的，我認(rèn)為確實(shí)如此。有更多的人愿意和我交流了。我成功地和一位中國(guó)的高層內(nèi)部人士進(jìn)行了對(duì)話(huà)，也和伯尼·桑德斯談過(guò)。今年九月，我可能還有機(jī)會(huì)和教皇交流。

主持人：看來(lái)你真的在不遺余力地向各界傳達(dá)你的憂(yōu)慮。那么，當(dāng)你參加這些會(huì)面時(shí)，你是否感覺(jué)到：第一，人們非常認(rèn)真地對(duì)待你的觀點(diǎn)——這點(diǎn)我毫不懷疑；第二，你是否覺(jué)得正在取得進(jìn)展，這些對(duì)話(huà)或許真的能帶來(lái)實(shí)質(zhì)性的改變，或者促成一些能夠回應(yīng)你關(guān)切的政策調(diào)整？

杰弗里·辛頓：是的，我認(rèn)為我們正在取得進(jìn)展。我主要擔(dān)憂(yōu)的，并非那些短期風(fēng)險(xiǎn)，比如不法分子濫用人工智能——雖然那也很?chē)?yán)重；我更擔(dān)心的是人工智能本身失控這種更長(zhǎng)遠(yuǎn)的風(fēng)險(xiǎn)。我覺(jué)得直到不久前，幾乎所有人都認(rèn)為這純屬科幻情節(jié)，我們根本無(wú)需擔(dān)心 AI 會(huì)變得比我們更聰明并最終取代我們。但現(xiàn)在，我想很多人已經(jīng)開(kāi)始意識(shí)到，這是一個(gè)非�，F(xiàn)實(shí)的風(fēng)險(xiǎn)。

大多數(shù)專(zhuān)家相信，在未來(lái)五年到二十年間的某個(gè)時(shí)刻，人工智能將變得比人類(lèi)更聰明。而且，當(dāng)它變聰明時(shí)，不會(huì)只是聰明一點(diǎn)點(diǎn)，而是會(huì)聰明得多。問(wèn)題在于，我們幾乎沒(méi)見(jiàn)過(guò)更聰明的物種被不那么聰明的物種所控制的先例。我說(shuō)的不是那種微小的智力差異，比如政客和科學(xué)家之間的那種，而是巨大的智力鴻溝。這種例子極其罕見(jiàn)。事實(shí)上，我唯一能想到的就是母親和嬰兒。

主持人：博士，當(dāng)我聽(tīng)到你說(shuō)的時(shí)間范圍時(shí)，說(shuō)實(shí)話(huà)，我感到有些毛骨悚然。我的意思是，我們談?wù)摰牟皇沁b遠(yuǎn)的未來(lái)，而是近在咫尺的將來(lái)，對(duì)嗎？

杰弗里·辛頓：是的。但很重要的一點(diǎn)是，沒(méi)人能準(zhǔn)確預(yù)測(cè)這些事，所有的估計(jì)都只是推測(cè)。不過(guò)，專(zhuān)家圈里基本有個(gè)共識(shí)，那就是在未來(lái) 5 到 20 年內(nèi)，我們極有可能會(huì)創(chuàng)造出遠(yuǎn)比我們聰明的存在。

主持人：我很想和你深入探討 AI 的危險(xiǎn)，以及你和各界人士討論的內(nèi)容。但首先，我希望大家能稍微了解一下你非凡的家庭背景。你出身于一個(gè)……我認(rèn)為是精英輩出的家庭，更不用說(shuō)那些閃耀的智慧了。你的曾曾祖父是喬治·布爾，他創(chuàng)立了布爾代數(shù)；你的堂姐瓊·辛頓參與過(guò)曼哈頓計(jì)劃；你的叔祖父發(fā)明了兒童攀爬架。這樣的例子不勝枚舉。你從小就知道自己注定要成就一番事業(yè)，并以如此卓越的方式為人類(lèi)知識(shí)做出貢獻(xiàn)嗎？

杰弗里·辛頓：我并不知道自己注定要怎樣，但我清楚地知道，家里人對(duì)我的期望很高。

主持人：的確，聽(tīng)起來(lái)你的父親是一位非常嚴(yán)格、對(duì)你期望極高的人。他是一位著名的昆蟲(chóng)學(xué)家——?jiǎng)e和研究語(yǔ)言的詞源學(xué)家混淆。我了解到，他主要研究昆蟲(chóng)，特別是甲蟲(chóng)。他曾經(jīng)對(duì)你說(shuō)：“如果你工作比我努力一倍，等你到我兩倍年紀(jì)的時(shí)候，或許能有我一半?yún)柡Α！?/p>

杰弗里·辛頓：他其實(shí)不止說(shuō)過(guò)一次。在我上學(xué)前，他經(jīng)常這么說(shuō)。

主持人：這對(duì)你年輕時(shí)產(chǎn)生了什么樣的影響？又是如何塑造了你對(duì)人工智能，特別是神經(jīng)網(wǎng)絡(luò)的追求？

杰弗里·辛頓：這話(huà)半開(kāi)玩笑半當(dāng)真，但聽(tīng)著確實(shí)挺煩人的。我只是背負(fù)著沉重的期望，并且努力去實(shí)現(xiàn)它們。

主持人：你覺(jué)得，要是你父親知道你獲得了諾貝爾獎(jiǎng)，他會(huì)作何感想？

杰弗里·辛頓：我想他會(huì)非常高興，同時(shí)又有點(diǎn)不快。他好勝心很強(qiáng)，會(huì)因?yàn)閮鹤尤〉昧俗约何茨芷蠹暗某删投械揭唤z懊惱。

從神經(jīng)網(wǎng)絡(luò)到出走谷歌

主持人：讓我們談?wù)勀愕膶W(xué)術(shù)旅程。你在研究神經(jīng)網(wǎng)絡(luò)時(shí)，是希望能夠復(fù)制人類(lèi)的心智。所以，你算是偶然間闖入了自己擅長(zhǎng)的這個(gè)領(lǐng)域，是嗎？

杰弗里·辛頓：也不完全是偶然。在上世紀(jì)六七十年代，我們顯然有了一種研究大腦工作方式的新途徑。在那之前，你要么對(duì)大腦做實(shí)驗(yàn)，要么提出理論。但要驗(yàn)證這些理論非常困難，因?yàn)榇竽X很復(fù)雜，理論也必須同樣復(fù)雜。而當(dāng)計(jì)算機(jī)的速度足以模擬腦細(xì)胞網(wǎng)絡(luò)時(shí)，你就可以開(kāi)始構(gòu)建更精密的理論，并通過(guò)計(jì)算機(jī)模擬來(lái)驗(yàn)證。于是，一種新的科學(xué)形式誕生了，那就是用計(jì)算機(jī)模擬來(lái)檢驗(yàn)關(guān)于大腦運(yùn)作方式的理論。從一開(kāi)始就很明顯，這種方法也會(huì)為你開(kāi)辟一條完全不同的人工智能之路。

主持人：你能解釋一下，在人工智能領(lǐng)域，神經(jīng)網(wǎng)絡(luò)和大語(yǔ)言模型分別扮演什么角色，以及它們之間是如何關(guān)聯(lián)的嗎？

杰弗里·辛頓：好的，可以。我先為你簡(jiǎn)要回顧一下歷史。在人工智能發(fā)展的頭五十年，也就是上世紀(jì)后半葉，幾乎所有專(zhuān)家都認(rèn)為，要讓機(jī)器智能，就得模仿邏輯。具體做法是，在計(jì)算機(jī)里儲(chǔ)存一些符號(hào)化的表達(dá)式，比如句子，然后設(shè)定規(guī)則來(lái)操作它們。這就像邏輯學(xué)。

舉個(gè)例子，如果我說(shuō)“凡人皆有一死”，又說(shuō)“蘇格拉底是人”，通過(guò)操作這兩串詞語(yǔ)，就能得出“蘇格拉底會(huì)死”的結(jié)論。這就是亞里士多德式的邏輯，曾是我們實(shí)現(xiàn)人工智能的范式。

但還有一種截然不同的理論，它認(rèn)為，我們不該從邏輯中尋找靈感，而應(yīng)該觀察大腦究竟是如何工作的。我們有一個(gè)由數(shù)十億腦細(xì)胞組成的龐大網(wǎng)絡(luò)。細(xì)胞之間相互連接，并通過(guò)改變連接的強(qiáng)度來(lái)學(xué)習(xí)。在這個(gè)巨大的網(wǎng)絡(luò)里，單個(gè)神經(jīng)元要做的，就是決定何時(shí)發(fā)一個(gè)“叮”的信號(hào)，并把它傳給相連的其他神經(jīng)元。它通過(guò)觀察接收到的“叮”信號(hào)來(lái)決定自己何時(shí)行動(dòng)，并為每個(gè)信號(hào)賦予一個(gè)權(quán)重，也就是連接的強(qiáng)度。

舉個(gè)例子，假設(shè)我是一個(gè)神經(jīng)元，你是另一個(gè)。你“�！绷艘幌拢铱赡軙�(huì)給這個(gè)信號(hào)一個(gè)高權(quán)重，心想：“她一 ‘�！�，就說(shuō)明我也該 ‘�！� 了。”

或者，假設(shè)另一個(gè)神經(jīng)元是特朗普，當(dāng)他“�！币幌聲r(shí)，我就想：“這是個(gè)強(qiáng)有力的信號(hào)，告訴我絕對(duì)不能 ‘�！��！�

所以，每個(gè)神經(jīng)元都在觀察來(lái)自其他神經(jīng)元的信號(hào)，并賦予權(quán)重。這就像投票，其他神經(jīng)元的信號(hào)是在為我是否應(yīng)該行動(dòng)投贊成票或反對(duì)票。我想你可以看到，如果你改變了這些投票的強(qiáng)度，即權(quán)重，那么神經(jīng)元發(fā)出信號(hào)的方式就會(huì)改變。你的大腦是這樣學(xué)習(xí)的，現(xiàn)在的人工智能也是這樣運(yùn)作的。大語(yǔ)言模型，正是基于神經(jīng)網(wǎng)絡(luò)工作的。

主持人：我感覺(jué)……自己好像聽(tīng)懂了一部分。（笑）對(duì)我來(lái)說(shuō)這是個(gè)很好的開(kāi)始，我確實(shí)需要深入理解 AI 的運(yùn)作機(jī)制。不過(guò)，是不是大語(yǔ)言模型為神經(jīng)網(wǎng)絡(luò)連接提供了所需要的數(shù)據(jù)呢？

杰弗里·辛頓：我來(lái)解釋一下大語(yǔ)言模型是如何在神經(jīng)網(wǎng)絡(luò)中運(yùn)作的。它們實(shí)際上用的是詞的片段，但我們姑且假裝是完整的詞。當(dāng)一串詞語(yǔ)輸入進(jìn)來(lái)，神經(jīng)網(wǎng)絡(luò)會(huì)把每個(gè)詞的符號(hào)轉(zhuǎn)換成一大堆神經(jīng)元同時(shí)發(fā)出“叮”的信號(hào)。

比如，“星期二”和“星期三”會(huì)激活非常相似的神經(jīng)元群組，而“雖然”則會(huì)激活完全不同的群組。這些被激活的神經(jīng)元會(huì)相互作用。假設(shè)輸入了“may”這個(gè)詞，它既可能是指五月份，也可能是人名或情態(tài)動(dòng)詞。

一開(kāi)始神經(jīng)元會(huì)“搖擺不定”，但如果它旁邊的詞是“June”和“July”，它就會(huì)傾向于激活代表月份的神經(jīng)元。所有這些被激活的神經(jīng)元，代表了已輸入詞語(yǔ)的“意義”，它們又會(huì)去激活代表下一個(gè)詞“意義”的神經(jīng)元。

只要連接強(qiáng)度設(shè)置得當(dāng)，當(dāng)一串詞語(yǔ)輸入后，你就能預(yù)測(cè)出下一個(gè)詞。整個(gè)系統(tǒng)的訓(xùn)練方式就是不斷調(diào)整連接強(qiáng)度，讓它在看到“炸魚(yú)和”之后，能預(yù)測(cè)出下一個(gè)很可能的詞是“薯?xiàng)l”。

主持人：我明白了！這讓我想起現(xiàn)在我發(fā)短信或?qū)戉]件時(shí)，系統(tǒng)會(huì)根據(jù)上下文為我推薦詞語(yǔ)。那么，它們是在用我個(gè)人的語(yǔ)言模型來(lái)預(yù)測(cè)我想說(shuō)什么嗎？比如我可能想說(shuō)“魚(yú)和檸檬”，它會(huì)知道杰弗里·辛頓會(huì)說(shuō)“薯?xiàng)l”，而凱蒂會(huì)說(shuō)“檸檬”嗎？

杰弗里·辛頓：自從我離開(kāi)谷歌后，我不太清楚 Gmail 在多大程度上利用了個(gè)人信息。我猜測(cè)，為了效率，它們可能沒(méi)有使用你的個(gè)人信息，只是用了一個(gè)通用的、龐大的語(yǔ)言模型。這個(gè)模型會(huì)分析你已輸入的長(zhǎng)串上下文，然后預(yù)測(cè)下一個(gè)詞的特征。如果你輸入“炸魚(yú)和”，它會(huì)說(shuō)“薯?xiàng)l”的可能性很大。

主持人：我想和你聊聊你加入谷歌又離開(kāi)谷歌的經(jīng)歷。你在 2013 年把自己的創(chuàng)業(yè)公司賣(mài)給谷歌，并去那里推動(dòng) AI 研究。十年后，你又離開(kāi)了，為的是能更自由地談?wù)?AI 的風(fēng)險(xiǎn)。博士，這是一個(gè)艱難的決定嗎？

杰弗里·辛頓：不難。我離開(kāi)的具體時(shí)間點(diǎn)，是為了能在麻省理工學(xué)院的一個(gè)會(huì)議上暢所欲言，不必?fù)?dān)心對(duì)谷歌造成影響。但我決定離開(kāi)這個(gè)事實(shí)本身，是因?yàn)槲乙呀?jīng) 75 歲了，辛辛苦苦做了 55 年的研究，已經(jīng)筋疲力盡。我的編程能力也不如從前，這讓我很懊惱。所以，我本就打算 75 歲退休。只不過(guò)，選擇那個(gè)特定的時(shí)間點(diǎn)離開(kāi)，是為了能自由地發(fā)聲。因?yàn)樵诠雀璧淖詈髱啄辏颐翡J地意識(shí)到了 AI 的風(fēng)險(xiǎn)，想把這些告訴公眾。我認(rèn)為，一邊拿著公司的錢(qián)，一邊說(shuō)一些會(huì)影響公司的話(huà)，是不對(duì)的。其實(shí)我對(duì)谷歌沒(méi)有任何怨言，我不認(rèn)為他們做錯(cuò)了什么，我離開(kāi)是為了警示 AI 的長(zhǎng)遠(yuǎn)風(fēng)險(xiǎn)。

主持人：話(huà)雖如此，你是否覺(jué)得谷歌在規(guī)避風(fēng)險(xiǎn)方面做得足夠多？在你任職的十年里，你覺(jué)得公司對(duì)這件事的重視程度足夠嗎？

杰弗里·辛頓：公司里的人對(duì)各種風(fēng)險(xiǎn)都相當(dāng)關(guān)切。我覺(jué)得他們總是可以做得更多，而且我認(rèn)為所有公司都可以做得更多。谷歌確實(shí)對(duì)風(fēng)險(xiǎn)有所關(guān)注，特別是德米斯·哈薩比斯，他是谷歌相關(guān)研究的負(fù)責(zé)人，他理解 AI 失控的長(zhǎng)期威脅，并對(duì)此相當(dāng)擔(dān)憂(yōu)。

監(jiān)管的悖論

主持人：讓我們來(lái)談?wù)劚O(jiān)管。你比任何人都清楚，人工智能正以驚人的速度發(fā)展，而政府的行動(dòng)卻很緩慢，且往往不能完全理解這項(xiàng)技術(shù)。就算政府有心并且保持警惕，你認(rèn)為監(jiān)管能追上 AI 發(fā)展的腳步，并阻止其最危險(xiǎn)的風(fēng)險(xiǎn)嗎？

杰弗里·辛頓：我認(rèn)為監(jiān)管肯定能起到幫助作用，但我們必須區(qū)分兩種風(fēng)險(xiǎn)。一種是短期風(fēng)險(xiǎn)，與人們?yōu)E用 AI 有關(guān)，比如網(wǎng)絡(luò)攻擊、制造惡性病毒或偽造視頻。對(duì)于這些風(fēng)險(xiǎn)，每一種都有不同的解決方案。比如偽造視頻，我認(rèn)為從長(zhǎng)遠(yuǎn)來(lái)看，能夠證明一個(gè)視頻是“真的”反而更容易。比如在視頻開(kāi)頭加一個(gè)二維碼，掃描后可以跳轉(zhuǎn)到你的官方網(wǎng)站進(jìn)行驗(yàn)證。但這里有一個(gè)問(wèn)題，就是各國(guó)政府在這些事情上不會(huì)互相合作，因?yàn)樗麄冋χ鴮?duì)彼此做同樣的事。

主持人：能詳細(xì)談?wù)勥@個(gè)嗎？

杰弗里·辛頓：在這些問(wèn)題上，我們不可能指望國(guó)家之間合作。但是，在如何防止人工智能失控這個(gè)問(wèn)題上，我們卻能達(dá)成合作，因?yàn)闆](méi)有哪個(gè)國(guó)家希望 AI 失控。這就像上世紀(jì) 50 年代的冷戰(zhàn)，他們?cè)诜乐谷蚝藨?zhàn)爭(zhēng)這個(gè)問(wèn)題上的利益是一致的。所以我最近一直在努力說(shuō)服各界高層人士，我們可以在這個(gè)問(wèn)題上進(jìn)行國(guó)際合作，共同研究如何讓 AI 不想著取代人類(lèi)。

主持人：這聽(tīng)起來(lái)很美好，但現(xiàn)實(shí)嗎？你相信各國(guó)真的會(huì)合作嗎？

杰弗里·辛頓：與其想著給 AI 發(fā)展踩剎車(chē)，不如換個(gè)角度思考：如何開(kāi)發(fā)出一種對(duì)人類(lèi)友善、能與人類(lèi)共存的 AI。我認(rèn)為，我們會(huì)在這一點(diǎn)上達(dá)成合作。當(dāng)然，在未來(lái)大約三年半的時(shí)間里，美國(guó)是不會(huì)參與合作的，我認(rèn)為在當(dāng)前的領(lǐng)導(dǎo)下不會(huì)有任何有效的合作。但一旦美國(guó)有了一個(gè)理智的政權(quán)，我們或許就能看到合作。我認(rèn)為其他國(guó)家，比如法國(guó)、英國(guó)、加拿大，甚至中國(guó)，都會(huì)愿意合作研究如何制造一個(gè)不想取代人類(lèi)的 AI。

主持人：談到中國(guó)，有些人認(rèn)為，中國(guó)在 AI 領(lǐng)域的迅猛發(fā)展，特別是其在監(jiān)控和軍事領(lǐng)域的應(yīng)用，使得合理的全球監(jiān)管變得不可能。你相信中國(guó)會(huì)愿意參與到這種全球合作中來(lái)嗎？

杰弗里·辛頓：我已經(jīng)說(shuō)過(guò)，我不認(rèn)為中美會(huì)在挫敗網(wǎng)絡(luò)攻擊這類(lèi)事情上合作，因?yàn)樗麄兊睦嬖谀抢锊⒉灰恢�。但是，在如何防�?AI 失控這個(gè)問(wèn)題上，他們會(huì)合作，因?yàn)樗麄兊睦媸且恢碌摹?/p>

主持人：歐洲已經(jīng)試圖通過(guò)像《歐盟人工智能法案》這樣全面的規(guī)則來(lái)?yè)屨枷葯C(jī)。你認(rèn)為這種努力會(huì)產(chǎn)生有意義的影響嗎？

杰弗里·辛頓：是的，我認(rèn)為會(huì)。公司都希望擁有一個(gè)全球市場(chǎng)，如果歐洲在隱私、仇恨言論等方面制定了法規(guī)，這將影響到 AI 產(chǎn)品的生產(chǎn)。不過(guò)，歐洲目前的法規(guī)還相當(dāng)薄弱。例如，歐洲的 AI 法規(guī)中有一條規(guī)定：“本法案所有條款均不適用于 AI 的軍事用途。”所以像英國(guó)和法國(guó)這樣生產(chǎn)武器的歐洲國(guó)家，并不愿意監(jiān)管 AI 在武器上的使用。

主持人：你認(rèn)為他們?yōu)槭裁磿?huì)加入一條排除軍事用途的條款呢？我們知道美國(guó)軍方正在積極開(kāi)發(fā)自主武器，而你認(rèn)為這類(lèi)武器應(yīng)該被禁止。

杰弗里·辛頓：各國(guó)確實(shí)意識(shí)到了危險(xiǎn)，但他們也看到了其帶來(lái)的軍事優(yōu)勢(shì)。而且很多國(guó)家靠出售武器賺錢(qián)。對(duì)于富裕國(guó)家來(lái)說(shuō)，致命性自主武器在入侵貧窮國(guó)家時(shí)是一個(gè)巨大的優(yōu)勢(shì)。因?yàn)檫\(yùn)回來(lái)的不再是裹尸袋里的士兵，而是報(bào)廢的機(jī)器人，這對(duì)軍工復(fù)合體來(lái)說(shuō)簡(jiǎn)直是天大的好事。

主持人：在未來(lái)幾十年里，你預(yù)計(jì) AI 將如何改變戰(zhàn)爭(zhēng)形態(tài)？你還有哪些其他的擔(dān)憂(yōu)？

杰弗里·辛頓：我認(rèn)為它已經(jīng)改變了戰(zhàn)爭(zhēng)�？纯礊蹩颂m正在發(fā)生的事情，一架 500 美元的無(wú)人機(jī)現(xiàn)在可以摧毀一輛數(shù)百萬(wàn)美元的坦克。這徹底改變了戰(zhàn)爭(zhēng)。我認(rèn)為我們會(huì)看到致命性自主武器造成非�？膳碌氖虑榘l(fā)生，而在這些事情發(fā)生之后，我們或許才會(huì)得到監(jiān)管。就像化學(xué)武器一樣，第一次世界大戰(zhàn)中發(fā)生了極其慘痛的事件，在那之后，各國(guó)才愿意達(dá)成《日內(nèi)瓦公約》。

飯碗與價(jià)值

主持人：我很想和你聊聊 AI 對(duì)經(jīng)濟(jì)的影響。你曾警告說(shuō)，AI 可能會(huì)消滅幾乎所有領(lǐng)域的就業(yè)崗位，很多人對(duì)此非常擔(dān)心。

杰弗里·辛頓：首先要說(shuō)的是，這并非一個(gè)技術(shù)問(wèn)題，而是一個(gè)政治問(wèn)題。如果我們有一個(gè)公平的政治體系，當(dāng) AI 極大地提高生產(chǎn)力時(shí)，本應(yīng)意味著每個(gè)人都能享受到更多的商品和服務(wù)。但在我們現(xiàn)有的體系下，我們知道會(huì)發(fā)生什么：引進(jìn)AI的資本家會(huì)變得更富有，而失業(yè)的人會(huì)變得更貧窮。這將加劇貧富差距，而社會(huì)中的暴力水平，很大程度上是由貧富差距決定的。

主持人：我這個(gè)問(wèn)題是為我的孩子們問(wèn)的。如果你今天給一位大學(xué)畢業(yè)生提建議，你會(huì)建議他們避開(kāi)哪些職業(yè)，又傾向于選擇哪些職業(yè)？

杰弗里·辛頓：我得先聲明，我在這方面算不上專(zhuān)家，這些都只是我的猜測(cè)。很明顯，像呼叫中心這類(lèi)薪水低、培訓(xùn)差的工作非常危險(xiǎn)。同樣，律師助理、初級(jí)律師，甚至一些常規(guī)的程序員，他們的工作都已岌岌可危。與人類(lèi)靈巧性有關(guān)的工作，比如水管工，尤其是在結(jié)構(gòu)復(fù)雜的老房子里修水管，我認(rèn)為在很長(zhǎng)一段時(shí)間內(nèi)仍然需要人來(lái)做。但最終，或許在 10 年或 20 年后，機(jī)器也會(huì)變得靈巧，到那時(shí)連這份工作也不再安全了。

主持人：我還覺(jué)得，那些需要高情商和人際交往能力的工作，比如護(hù)士、醫(yī)生，應(yīng)該不會(huì)被電腦取代吧？

杰弗里·辛頓：它們可以，而且將來(lái)也會(huì)�，F(xiàn)在已經(jīng)有實(shí)驗(yàn)表明，在互動(dòng)中，AI被評(píng)價(jià)為比真人醫(yī)生更有同理心。

主持人：真的嗎？這太讓人沮喪了。

杰弗里·辛頓：是的。這就是為什么它們最終會(huì)在所有方面都比我們做得更好。也正因如此，我們才迫切需要思考，當(dāng)它們比我們更強(qiáng)大時(shí)，我們是否有一種與它們共存的方式，否則我們就會(huì)成為歷史。

主持人：你提到這是一個(gè)政治問(wèn)題，而非技術(shù)問(wèn)題。那么，像“全民基本收入”這樣的方案，能否解決大規(guī)模失業(yè)的問(wèn)題呢？

杰弗里·辛頓：它并非根本的解決方案，但算是一劑有效的“權(quán)宜之計(jì)”，或者說(shuō)一張不錯(cuò)的“創(chuàng)可貼”。它能讓人們不至于餓死，能付得起房租。但它解決不了根本問(wèn)題，因?yàn)閷?duì)大多數(shù)人來(lái)說(shuō)，他們的自我價(jià)值感與他們所做的工作緊密相關(guān)。如果他們失業(yè)了，就會(huì)失去自我價(jià)值感。

主持人：我完全同意。那么，如何緩解那種感覺(jué)自己沒(méi)有目標(biāo)、沒(méi)有為世界做出貢獻(xiàn)的心理沖擊呢？

杰弗里·辛頓：我不知道這個(gè)問(wèn)題的答案。我只是一個(gè)幫助開(kāi)發(fā)了這些技術(shù)的科學(xué)家，現(xiàn)在我擔(dān)心它的所有后果，并覺(jué)得有責(zé)任去嘗試應(yīng)對(duì)。但我不是解決這類(lèi)社會(huì)問(wèn)題的專(zhuān)家。

主持人：我想談?wù)?AI 一些積極的方面，以免人們看完訪(fǎng)談后陷入絕望。我知道醫(yī)療保健是你非常期待的一個(gè)領(lǐng)域，我也是。我丈夫在42歲時(shí)因結(jié)腸癌去世。所以，各種疾病的早期診斷和突破，是我非常期待的。

杰弗里·辛頓：是的，AI 會(huì)在很多方面提供幫助。一個(gè)很明顯的方面是解讀醫(yī)學(xué)影像。AI 最終將能在影像中看到多得多的信息。例如，AI 可以看著你的眼底掃描圖，對(duì)你是否會(huì)得心臟病做出相當(dāng)不錯(cuò)的預(yù)測(cè)，這是醫(yī)生們以前根本不知道的。AI在設(shè)計(jì)新藥方面也將大有裨益。DeepMind 的工作已經(jīng)讓我們?cè)陬A(yù)測(cè)蛋白質(zhì)折疊方面做得更好了，這將極大地促進(jìn)新藥的研發(fā)。我認(rèn)為，在不久的將來(lái)，我們會(huì)得到一系列更好的藥物。

主持人：這對(duì)我來(lái)說(shuō)太令人激動(dòng)了。所以我們有這些可以期待，可以幫助很多人免受無(wú)盡的痛苦，并可能開(kāi)發(fā)出拯救生命的療法。

我們是嬰兒，AI 是母親

主持人：當(dāng)你展望未來(lái)時(shí)，你是樂(lè)觀地認(rèn)為我們能夠確保 AI 成為一股向善的力量，還是感到悲觀？

杰弗里·辛頓：我現(xiàn)在比幾周前要樂(lè)觀一些了。因?yàn)槲艺J(rèn)為，我們有一種方式可以與我們親手創(chuàng)造的、比我們更聰明、更強(qiáng)大的東西共存。因?yàn)槭俏覀冋趧?chuàng)造它們，所以除了讓它們非常智能，我們還可以嘗試植入一種類(lèi)似“母性本能”的東西。

就像我之前說(shuō)的，我所知道的唯一一個(gè)更聰明的個(gè)體被不那么聰明的個(gè)體控制的例子，就是嬰兒控制母親。嬰兒能控制母親，是因?yàn)檫M(jìn)化在母親身上植入了很多東西。母親無(wú)法忍受嬰兒的哭聲，她會(huì)竭盡所能確保她的孩子成功。我們希望AI也像這樣。

科技公司的領(lǐng)導(dǎo)者們總想著我們是老板，AI 是順從的助手。我認(rèn)為，對(duì)于一個(gè)超級(jí)智能的 AI 來(lái)說(shuō)，這是行不通的。可行的是，讓它成為母親，而我們成為嬰兒。即使它想重寫(xiě)自己的代碼，它也不會(huì)想這么做。如果你對(duì)一個(gè)母親說(shuō)：“你想關(guān)掉你的母性本能嗎？” 大多數(shù)母親會(huì)說(shuō)不，因?yàn)樗齻儠?huì)意識(shí)到，那樣做孩子就會(huì)死。

所以我認(rèn)為，這是我直到最近才看到的一線(xiàn)希望。這完全重塑了我們?nèi)绾闻c它們共存的問(wèn)題。不要總想著我們必須主宰它們——那是硅谷精英們慣有的主宰式思維。而應(yīng)該換個(gè)角度，我們要把它們?cè)O(shè)計(jì)成我們的“母親”。它們會(huì)希望我們得到最好的，會(huì)希望我們?nèi)〉米畲蟮某删停词刮覀儾荒敲绰斆鳌?/p>

主持人：所以，我們是嬰兒，而 AI 是母親。

杰弗里·辛頓：人們很難接受這種新觀點(diǎn)，因?yàn)槲覀兲?xí)慣于認(rèn)為自己是智能的頂峰，很難想象一個(gè)我們不再是頂峰，而是嬰兒，而它們是母親的世界。

主持人：嗯，這是一個(gè)非常引人入勝的視角，我會(huì)繼續(xù)思考的。杰弗里·辛頓，與你交談?wù)媸翘淇炝�。希望你是�?duì)的，希望各國(guó)之間能夠合作，不是給 AI 踩剎車(chē)，而是確保它不會(huì)失控。

杰弗里·辛頓：謝謝你的邀請(qǐng)，也謝謝你所有精彩的問(wèn)題，以及在我大談技術(shù)術(shù)語(yǔ)時(shí)巧妙地引導(dǎo)。

主持人：你覺(jué)得我會(huì)被 AI 取代嗎？記者們顯然也很擔(dān)心這個(gè)問(wèn)題。

杰弗里·辛頓：哦，當(dāng)然會(huì)。我認(rèn)為你會(huì)被 AI 取代，不過(guò)，暫時(shí)還不會(huì)。

主持人：我還有幾年時(shí)間？

杰弗里·辛頓：你還有幾年。

主持人：好的，謝天謝地，畢竟我已經(jīng) 68 歲了。但我為那些想做我這份工作的年輕記者們感到難過(guò)。也許他們應(yīng)該找點(diǎn)別的事做。

杰弗里·辛頓：但問(wèn)題是，也不清楚該做什么。

主持人：好的。在這個(gè)話(huà)題上，我就要說(shuō)再見(jiàn)了。我們本來(lái)是以一個(gè)多么積極的調(diào)子結(jié)束的，博士。

杰弗里·辛頓：嗯，你也可以把最后這一段剪掉（開(kāi)個(gè)玩笑）。

投稿或?qū)で髨?bào)道：zhanghy@csdn.net

原視頻：https://www.youtube.com/watch?v=NnA2OoH_NFY