文：城主

這個最新的馬斯克訪談里一些短視頻已經(jīng)刷屏，最有意思的是訪談由英國首相蘇納克作為嘉賓主持?？陀^的說，兩位的表現(xiàn)都很可圈可點。

首先給喜歡看視頻同學(xué)的視頻版?zhèn)魉烷T：

【馬斯克Elon Musk接受英國首相蘇納克訪談 @全球AI安全峰會 【中英完整版】-嗶哩嗶哩】 https://b23.tv/8ETLJ8F

=馬斯克與蘇納克訪談·天空之城文字版=

蘇納克：

比爾·蓋茨曾贊揚說，在我們這個時代，沒有人比你在推動科學(xué)創(chuàng)新方面做得更多。

馬斯克：

這樣的評價令我感到非常榮幸。

蘇納克：

然而，有趣的是，當談到人工智能時，實際上，大約十年來，你幾乎一直在做相反的事情，并說，堅持下去，你需要思考我們正在做什么以及我們在這里推動什么。我們該如何保證安全？也許我們不應(yīng)該如此快速或如此努力地推動。你已經(jīng)這樣做了十年。那么，是什么讓你有這樣的想法？為什么我們需要擔心？

馬斯克：

是的，我已經(jīng)有一段時間像卡桑德拉一樣，告訴人們，我們真的應(yīng)該關(guān)心人工智能。他們會問，你在說什么？我從來沒有真正有過任何經(jīng)驗。自從我沉浸在技術(shù)中以來，我已經(jīng)沉浸在技術(shù)中很長一段時間了，我可以預(yù)見它的到來。所以，但我認為今年出現(xiàn)了一些突破。某人可以看到自己動態(tài)創(chuàng)建的視頻，這樣你就可以制作一個你或我實時說話的視頻。所以就有了一些深度造假的視頻，它們真的非常好，事實上，有時比真實的視頻更有說服力，而且深度真實。顯然，像ChatGPT 這樣的東西是相當了不起的?，F(xiàn)在我看到了 GPT-1、GPT-2、GPT-3、GPT-4，所有導(dǎo)致這一切的原因。因此，我很容易看出它的走向，如果你只是推斷曲線上的點，并假設(shè)趨勢將繼續(xù)下去，那么我們將擁有深刻的人工智能，顯然，達到了目前的水平超越人類的智力。

但我現(xiàn)在看到人們正在認真對待安全。我想說謝謝你們舉辦這個人工智能安全會議，我認為實際上會作為非常重要的事情載入史冊，我認為它真的非常深刻。總體而言，我確實認為人工智能的潛力很可能產(chǎn)生積極影響，并創(chuàng)造一個豐富的未來，其中不存在商品和服務(wù)的短缺。但這有點像魔法精靈問題，如果你有一個可以實現(xiàn)所有愿望的魔法精靈，通常這些故事不會有好結(jié)局，要小心你的愿望，包括愿望。

蘇納克：

所以你談了一些關(guān)于峰會的事情，感謝你參與其中，這非常棒。人們很高興有你在場，參與對話。

現(xiàn)在，我們今天在公司和領(lǐng)導(dǎo)人之間的會議上取得的成果之一是達成一項協(xié)議，從外部來看，理想情況下，政府應(yīng)該在模型發(fā)布之前對其進行安全測試。我想你已經(jīng)談到了這一點，這是我們非常努力的事情。是的，因為我在政府的工作就是說，堅持下去，存在潛在風(fēng)險，不是確定的風(fēng)險，而是可能發(fā)生壞事的潛在風(fēng)險。我的工作是保護國家。只有我們在安全研究所開發(fā)所需的能力，然后進去并確保我們可以在模型發(fā)布之前對其進行測試，我們才能做到這一點。

很高興今天發(fā)生了這樣的事情，但是您對我們應(yīng)該做什么有何看法？您再次談到了潛在的風(fēng)險，我們不知道，但是像我們這樣的政府應(yīng)該采取哪些措施來管理和減輕這些風(fēng)險？

馬斯克：

我總體認為，當公共安全受到威脅時，政府發(fā)揮作用是有好處的。所以實際上，對于絕大多數(shù)軟件來說，公共安全并沒有受到威脅。如果應(yīng)用程序在你的手機、筆記本電腦上崩潰，那也不是一場大災(zāi)難。

但當你談?wù)摂?shù)字超級智能時，我認為這確實給公眾帶來了風(fēng)險，然后政府就可以發(fā)揮作用來維護公眾的利益。當然，這在許多領(lǐng)域都是如此，航空、汽車，我與世界各地的監(jiān)管機構(gòu)打交道，因為星鏈是通信，火箭是航空航天，而汽車是車輛運輸。所以我對與監(jiān)管機構(gòu)打交道非常熟悉，而且我實際上同意絕大多數(shù)的監(jiān)管規(guī)定。我時常不同意一些規(guī)定，但我不同意的法規(guī)可能只有 0.1%，或者不到 1%。

因此，那些在硅谷從未與監(jiān)管機構(gòu)打過交道的人士開始感到擔憂，他們認為這樣的做法只會壓制創(chuàng)新，減緩創(chuàng)新的步伐，這無疑是令人困擾的。這確實令人煩惱，他們在這一點上并沒有錯。然而，我認為，多年的經(jīng)驗告訴我們，有裁判在場是一件好事。如果你觀察任何一場體育比賽，總會有裁判在場。沒有人會建議在沒有裁判的情況下進行比賽。我認為，正確的做法應(yīng)該是讓政府充當裁判，確保運動員的行為以及公共安全得到妥善處理，我們關(guān)心公共安全，因為我認為我們有時對技術(shù)過于樂觀。作為一名技術(shù)專家，我應(yīng)該對此有所了解。總的來說，我認為人工智能有很大可能成為一股積極的力量，但它變壞的可能性并非為零。因此，我們需要做的就是減輕潛在的下行風(fēng)險。

蘇納克：

我們討論如何裁判的問題，這就是我們現(xiàn)在需要討論的。讓我們開始吧。

我們曾經(jīng)討論過這個問題，我和Demis很久以前就討論過這個問題。就像我現(xiàn)在直接面對他一樣。實際上，值得贊揚的是，Demis和他的同行們確實向我們提出了這樣的問題。我想你是在說，Demis和他的同事們自己批改自己的作業(yè)是不對的，對嗎？我們需要有一個獨立的人來做這個。這就是我們在這里建立安全研究所的原因。

你認為政府能夠發(fā)展出專業(yè)知識嗎？我們需要做的一件事就是說，堅持下去，德米斯、薩姆，還有其他所有人，都有很多非常聰明的人在做這件事。各國政府需要迅速增強能力和人員，這就是我們正在做的事情?？紤]到技術(shù)發(fā)展的速度，你認為政府有可能足夠快地做到這一點嗎？或者我們需要做什么來確保我們足夠快地做到這一點？

馬斯克：

不，我認為你提出的觀點很重要。人工智能的發(fā)展速度比我迄今為止見過的任何技術(shù)都要快。而且，它的能力似乎每年至少增長五倍，甚至可能增長十倍。明年，它肯定會增長一個數(shù)量級。政府并不習(xí)慣于以這樣的速度行動。但我認為，即使沒有嚴格的規(guī)定，即使沒有執(zhí)行能力，只要有洞察力，能夠向公眾強調(diào)關(guān)注點，就會非常有力量。因此，即使這就是所完成的全部，我認為這也將是非常好的。

蘇納克：

好的，我希望我們能做得更好。這很有幫助。其實我們之前就聊過這個問題。這是令人驚訝的。你是一個一生致力于科技、遵循摩爾定律的人。過去幾天，我與所有正在開發(fā)此項目的人交談，我認為你會同意，這里的進步速度與你們在職業(yè)生涯中看到的技術(shù)進步速度是不同的。這是公平的嗎？因為硬件、數(shù)據(jù)和人員產(chǎn)生了這種復(fù)合效應(yīng)。

馬斯克：

是的，目前，兩個領(lǐng)先的人工智能發(fā)展中心是舊金山灣區(qū)和倫敦地區(qū)。還有許多其他地方也在做這樣的工作，但這兩個地方是主要的。所以我認為，如果美國、英國和中國在安全問題上保持一致，那一切都會變得簡單。這就是領(lǐng)導(dǎo)層通常所在的位置。

蘇納克：

事實上，你在那里提到了中國。我這幾天決定邀請中國參加峰會。這不是一個容易的決定。很多人因此批評我。我的觀點是，如果你要進行認真的談話，你就需要這樣做。但你的想法是什么？你在世界各地開展業(yè)務(wù)。你剛才在那里談到了它。我們應(yīng)該與他們接觸嗎？我們可以相信他們嗎？這是正確的做法嗎？

馬斯克：

如果中國不支持人工智能安全，那就有點沒有實際意義了。我對任何形式的人工智能監(jiān)管或安全控制的最大反對意見是，中國不會這樣做。因此，他們將會躍居領(lǐng)先地位并超越我們所有人。但實際上，中國愿意參與安全。

感謝您邀請他們。我認為我們應(yīng)該對中國的參與表示感謝。在今年早些時候我訪問中國時，我與中國領(lǐng)導(dǎo)層主要討論了人工智能安全的問題，并強調(diào)這是他們應(yīng)該關(guān)注的重要議題。他們對此非常認真，這讓我感到欣慰。

我認為他們的參與至關(guān)重要，如果他們不參與，那么這一切都將毫無意義。

蘇納克：

我很高興他們昨天參與了討論，并最終簽署了與其他人相同的公報，這是一個良好的開端。正如我所說，如果我們想要解決這個問題，我們需要每個人都以類似的方式處理這個問題，這才是解決問題的現(xiàn)實機會。

我記得你之前提到了創(chuàng)新和監(jiān)管的問題，這確實令人困擾。今天我們就開源進行了一場精彩的辯論。我知道您一直支持算法透明度，并主張公開一些X算法。實際上，我們在來的路上討論了杰弗里·辛頓的問題，他特別擔心開源模型被不良行為者利用。有一群人認為，分布式創(chuàng)新至關(guān)重要。這是一個棘手的問題，可能沒有完美的答案，需要找到一個平衡。

我們應(yīng)該如何處理開源問題，或者我們應(yīng)該將監(jiān)管或監(jiān)控的目標放在哪里？

馬斯克：

開源算法和數(shù)據(jù)通常比閉源的落后6到12個月，但考慮到改進的速度，閉源和開源之間實際上存在很大的差異。如果情況比落后一年改善了5倍或更多，那么問題就變得更加嚴重。這是一個重大的區(qū)別。

這實際上可能是一個不錯的情況，但它肯定會達到這樣的程度：開源人工智能將開始接近甚至超越人類水平的智能。我完全不知道該怎么辦。我認為一定程度的開源是不可避免的。我對開源有一點偏見，因為至少你可以看到正在發(fā)生的事情，而閉源的話，你無法知道發(fā)生了什么。

現(xiàn)在，即使是開源的AI，你真的知道是怎么回事嗎？因為如果你有一個巨大的數(shù)據(jù)文件和數(shù)十億的權(quán)重和參數(shù)，你不能只是讀取它并看看它會做什么。這是一個包含著難以理解的數(shù)字的巨大文件。你可以測試一下，當你運行它時，你可以測試它。你可以運行一系列測試來看看它會做什么。但它是概率性的，而不是確定性的。

它與傳統(tǒng)編程不同，傳統(tǒng)編程具有非常離散的邏輯并且結(jié)果非?？深A(yù)測。你可以閱讀每一行并查看每一行將要做什么。神經(jīng)網(wǎng)絡(luò)只是一堆概率，它最終會成為一個巨大的逗號分隔值文件。我們的數(shù)字上帝是一個CSV文件？真的嗎？好的，就是這樣。

蘇納克：

現(xiàn)在，你剛才提出的這一點是我們一直在討論的一個問題，因為與正在開發(fā)技術(shù)的人們的對話再次證明了你剛才提出的觀點。它與普通軟件不同，普通軟件可以預(yù)測輸入的改善，從而導(dǎo)致特定輸出的改善。隨著模型的迭代和改進，我們不太知道另一端會出現(xiàn)什么。我認為我們會同意這一點，這就是為什么我認為存在這種偏見，我們需要在模型發(fā)布之前進行訓(xùn)練運行時進入那里，以了解這個新迭代帶來了什么能力，聽起來你會同意這一點。

我打算稍微改變一下態(tài)度。您談?wù)摿撕芏嚓P(guān)于人類意識、人類能動性的話題，考慮到您是一位如此出色的創(chuàng)新者和技術(shù)專家，這實際上可能會讓人們感到奇怪。但當我聽到你談?wù)撨@個問題以及維持技術(shù)機構(gòu)和保護人類意識的重要性時，我感到非常真誠?，F(xiàn)在，這種鏈接到了我要問的問題。當我進行采訪或與從事這項工作的人談?wù)撊斯ぶ悄軙r，實際上，出現(xiàn)最多的事情可能不是我們一直在談?wù)摰臇|西，而是工作。人工智能對我的工作意味著什么？這是否意味著我將失去工作，或者我的孩子將無法找到工作？作為政策制定者和領(lǐng)導(dǎo)者，我認為人工智能實際上正在創(chuàng)造新的就業(yè)機會，這一點在新興公司中尤為明顯。人工智能更多的是作為我們的助手，而非替代我們。雖然人工智能正在改變?nèi)肆Y源的配置，但它也在幫助我們更好地完成工作，這是一件好事。

正如我們在過去的技術(shù)革命中看到的，勞動力市場和就業(yè)機會的數(shù)量正在發(fā)生變化。我引用了麻省理工學(xué)院幾年前的一項研究，該研究發(fā)現(xiàn)，大約60%的工作崗位在40年前并不存在，因此未來的就業(yè)形態(tài)很難預(yù)測。我的任務(wù)是創(chuàng)建一個強大的教育體系，無論是在學(xué)校還是在職業(yè)生涯的任何階段，都能對人們進行再培訓(xùn)，因為只有擁有熟練的人口，我們才能跟上變革的步伐。

人工智能及其對勞動力市場和人們工作的影響仍然是一個令人擔憂的問題。你對這個影響有何看法，人們思考這個問題時應(yīng)該有何感受？

馬斯克：

我認為我們正在面臨歷史上最具破壞性的力量。我們將首次擁有比最聰明的人類更聰明的東西。這可能會帶來一個不需要工作的時代，人工智能將能夠完成所有的工作。這可能會讓人們感到不安，但也可能帶來無限的可能性。

未來的挑戰(zhàn)之一是，如果我們有一個可以完成所有工作的人工智能，我們?nèi)绾握业缴畹囊饬x？我認為，新技術(shù)的出現(xiàn)往往會遵循S曲線，我們將長時間處于S曲線的指數(shù)部分。我們不會有普遍的基本收入，而是普遍的高收入。這在某種程度上是一個平衡器，因為每個人都可以接觸到這個神奇的人工智能，并提出任何問題。這對教育有好處，它將是最好的導(dǎo)師，也是最有耐心的導(dǎo)師。

我建議人們閱讀艾恩·班克斯的《文化》系列小說，這些書是對人工智能未來最佳的設(shè)想。我是它的忠實粉絲，所有的書都很好，都是值得推薦的好書。這將幫助你了解一個相當烏托邦的、親烏托邦的人工智能未來。

蘇納克：

我是一個相信工作賦予你意義的人，我對此想了很多。我認為工作是一件好事，它給人們帶來了生活的目的。如果我們?nèi)サ羝渲械暮艽笠徊糠?，那會是什么？這意味著什么？我們從哪里得到動力，從哪里得到目的？

馬斯克：

這是我一直在思考的問題。我只能耐心等待人工智能的完成。我似乎在無緣無故地責備自己，仿佛我是個貪吃的人，需要接受某種懲罰。

蘇納克：

給Demis打電話，催他快點，然后你就可以放假了，對吧？

這就是我們的計劃。確實，這是一項棘手的任務(wù)，因為我們的工作部分就是要確保我們能夠順利導(dǎo)航到我認為非常積極的地方，并在此期間幫助人們度過難關(guān)，因為這些事情帶來了很多我們所看到的勞動力市場的變化。

馬斯克：

我認為這通常是一件好事，因為有很多工作是不舒服的、危險的或有點乏味的，而計算機做這些工作沒有問題。他們很樂意整天這樣做。所以做飯很有趣，但洗碗就沒那么有趣了，但計算機洗碗?yún)s非常快樂。

我們?nèi)匀挥幸豁楏w育運動，人類在奧運會上競爭，顯然機器可以比任何人類跑得更快，但我們?nèi)匀蛔屓祟惢ハ喔偁?，并進行這些體育比賽，盡管機器更好，我想，他們?nèi)匀辉诟偁帲纯凑l能成為某件事上最好的人，人們確實從中找到了滿足感。

所以我想這也許是一個很好的例子，說明即使機器比我們更快、比我們更強，我們?nèi)匀幌矚g與其他人類競爭，至少看看誰是最好的人類。

蘇納克：

這是一個很好的比喻。我們一直在談?wù)摵芏嚓P(guān)于管理風(fēng)險的問題。在我們繼續(xù)討論人工智能之前，讓我們先談?wù)勂渲械臋C會。

你參與了很多不同的公司，并且正在開發(fā)一家顯而易見的公司，正在做一些令人興奮的事情。你談到了我可能最興奮的事情，那就是教育。我想很多人都會看過薩爾今年早些時候的視頻，他的 TED 演講，正如你所說，它就像每個孩子的私人導(dǎo)師。一位了不起的私人導(dǎo)師。一位出色的私人導(dǎo)師，我們知道學(xué)習(xí)的差異，與課堂學(xué)習(xí)相比，擁有這位個性化導(dǎo)師是令人難以置信的。

因此，如果你能讓每個孩子都有一位專門針對他們的私人導(dǎo)師，然后隨著時間的推移，導(dǎo)師會與他們一起發(fā)展，那可能會很了不起。對我來說，我看著它，我想，天哪，在這一點上這是觸手可及的，這是我最興奮的好處之一。當你觀察你所能看到的事物的景觀時，你對什么感到特別興奮？

馬斯克：

我認為人工智能導(dǎo)師肯定會令人驚嘆，也許已經(jīng)如此。我想也許還有陪伴，這可能看起來很奇怪，因為計算機怎么可能真正成為你的朋友呢？但是，如果你有一個具有記憶力的人工智能，它能記住你所有的互動，并讀取所有內(nèi)容，那么你實際上可以授予它讀取你所做過的所有內(nèi)容的權(quán)限，這樣它真的會比任何人，甚至你自己，更了解你，以及在哪里。你可以每天和它交談，并且這些對話是相互基礎(chǔ)的，你實際上將擁有一個好朋友。

只要那個朋友可以繼續(xù)是你的朋友，并且不會被拒絕或發(fā)生什么。不要關(guān)掉我的朋友。但我認為這將成為現(xiàn)實。我的一個兒子有點學(xué)習(xí)障礙，實際上很難交到朋友。我當時想，他，一個人工智能朋友實際上對他來說非常好。

蘇納克：

哦好的。這是一個令人驚訝的答案，但實際上值得反思。這真的很有趣。無論如何，當我們提供心理治療時，我們已經(jīng)實際看到了這一點，現(xiàn)在，通過數(shù)字化和電話方式向人們提供的服務(wù)要多得多，并且正在產(chǎn)生巨大的變化。你可以看到一個實際上人工智能可以為人們提供社會福利的世界。

關(guān)于 X 的一個簡單問題，然后我們應(yīng)該向所有人開放。當你做出許多改變之一時，你就做出了改變，但其中之一，其中之一。

馬斯克：我喜歡那封信。我對此有真實的了解。

蘇納克：

你確實這么做了。你確實這么做了。其中之一的變化，有點進入我們必須運作的空間，言論自由和溫和之間的平衡是我們作為政治家努力解決的。您正在積極地解決您自己的版本問題，您已經(jīng)放棄了一種人工的方式，即對社區(qū)注釋的手動審核。我認為這是一個有趣的變化，這并非是常見的做法。這種變化背后的原因是什么？為什么您認為這是更好的方法？

馬斯克：

部分問題在于，如果您授權(quán)某些人擔任審查員，他們可能會帶有一定程度的偏見。然后，無論誰任命審查員，都可以有效地控制信息。社區(qū)注釋背后的想法是，我們?nèi)绾芜_成共識？

所以這并不是真正審查它，而是共識驅(qū)動的真相方法。我們?nèi)绾问故虑楸M可能接近真實？因為你可以說，一個人無法達到純粹的真理，但你可以渴望變得更加真實。所以關(guān)于社區(qū)注釋的事情是它實際上并沒有刪除任何內(nèi)容，它只是添加上下文?，F(xiàn)在，上下文可能是這件事是不真實的，原因如下。

然而，重要的是，根據(jù)社區(qū)注釋，一切實際上都是開源的。因此，您可以看到軟件、軟件的每一行，您可以看到社區(qū)注釋中的所有數(shù)據(jù)，并且您可以獨立創(chuàng)建該社區(qū)注釋。因此，如果您看到數(shù)據(jù)被操縱，您實際上可以突出顯示這一點并說，好吧，這個系統(tǒng)似乎存在一些游戲，您可以提出改進建議。所以這是最大的透明度，我認為，這與群眾的智慧相結(jié)合，并試圖得到更好的答案。

事實上，社區(qū)注釋的關(guān)鍵要素之一是，為了顯示一條注釋，歷史上持不同意見的人必須同意。這里有一些人工智能的使用。因此，我們將圍繞社區(qū)注釋的每個貢獻者填充一個參數(shù)空間，然后填充一個參數(shù)空間。所以每個人基本上都有與他們相關(guān)的這些向量，所以它不像右或左那么簡單。它是說它更多，它是幾百個向量，因為事情比簡單的右或左更復(fù)雜。然后我們會做某種逆相關(guān)，比如說，好吧，這些人通常不同意，但他們同意這個注釋。那么，這使得這張注釋具有可信度。

這就是它的核心。而且它運行得很好。我還沒有看到一張不正確的注釋上存在超過幾個小時。所以擊球率非常好。當我要求人們說，哦，他們擔心社區(qū)注釋是虛假信息時，我想給我發(fā)一份，但他們不能。所以，所以我認為這是非常好的。X 平臺的總體愿望是向公眾提供信息和娛樂，并盡可能準確和真實，即使有人不喜歡真相，人們并不總是喜歡事實真相。但這就是愿望。

我認為，如果我們是這樣，如果我們忠于事實，那么我認為我們會發(fā)現(xiàn)人們使用該系統(tǒng)來了解正在發(fā)生的事情，并且我認為事實確實是值得的。所以我認為這會很好，假設(shè)你不想進行自我欺騙，那么我認為這是明智之舉。

蘇納克：

出色的。很有幫助。

現(xiàn)在讓我們向所有來賓開放。我們有一些麥克風(fēng)。他們會來找你的。我們有嗎？是的。大膽試試吧。

問題一：

謝謝。晚上好。來自《企業(yè)家第一》的愛麗絲·邦廷 (Alice Bunting)。感謝您的精彩對話。首相，我想問你們每個人一個問題，英國擁有一些世界上最好的大學(xué)。我們有才華。英國怎樣才能成為真正的獨角獸公司滋生地？對于最杰出的技術(shù)人才來說，在英國成為創(chuàng)始人仍然是一個不明顯的職業(yè)選擇。我們需要融入哪些文化元素來改變這一現(xiàn)狀？

馬斯克：

你是對的，存在文化元素，文化應(yīng)該支持創(chuàng)建新公司，并且應(yīng)該偏向支持小公司，因為那些需要培育的公司，大公司確實不需要培育。因此，你可以將其視為一個花園。如果它是一顆需要培育的幼苗，或者是一棵強壯的橡樹，那么它就不需要過多的照料。我認為改變心態(tài)至關(guān)重要。

我必須提到，倫敦和舊金山或灣區(qū)實際上是人工智能的兩大中心。倫敦在這方面做得非常出色。我認為地球上最領(lǐng)先的兩個地方，舊金山可能稍勝一籌，但倫敦也非常強大，我猜這主要是大倫敦地區(qū)。我只是客觀地陳述事實。但你確實需要基礎(chǔ)設(shè)施，需要愿意租給新公司的房東，需要愿意支持新公司的律師事務(wù)所和會計師。這通常需要一種思維方式，一種心態(tài)的轉(zhuǎn)變。我認為這種轉(zhuǎn)變正在發(fā)生，但我認為這實際上是文化上人們需要決定這是一件好事。

蘇納克：

實際上，我感謝你對英國的評價。這是我們一直在努力的事情。房間里的許多人都在努力使這里成為創(chuàng)新公司的理想之地，包括愛麗絲。所以，愛麗絲，我想說的是，我的工作就是處理所有的具體細節(jié)，確保你們所有的初創(chuàng)公司都能籌集到所需的資金，從種子資金和我們令人難以置信的EIS稅收減免，一直到你們知道的后期融資。我們需要改革我們的養(yǎng)老基金。德國總理實施了一系列令人難以置信的改革，以釋放所有擁有資本的人的資本，并將其投入到增長股權(quán)中。這是一項正在進行的工作。我們還沒有達到這一目標，但我認為我們正在取得良好的進展。我們需要人才，我們需要人。

這意味著我們需要一個優(yōu)先考慮重要事項的教育體系。你們也看到了我的改革。我一直在強調(diào)更多的數(shù)學(xué)，更多的數(shù)學(xué)，更多的數(shù)學(xué)，但我認為這很重要。同時，我們也需要吸引這里最優(yōu)秀、最聰明的人才。如果你看看我們國家發(fā)展最快的公司，我認為在美國可能也是如此，其中超過一半的創(chuàng)始人并非英國人。這告訴我們，我們必須成為一個向世界上最優(yōu)秀和最聰明的人開放的地方，對創(chuàng)業(yè)人才開放。我認為我們制定的簽證制度可以做到這一點，方便這些人來到這里。

實際上，這就是我們在會議開始時討論的問題，即監(jiān)管。我們需要確保我們有一個有利于創(chuàng)新的監(jiān)管體系，是的，我們總是需要為那些讓我們擔心的事情設(shè)置防護措施，但我們必須為人們創(chuàng)造一個創(chuàng)新和做不同事情的空間。這些都是我的工作。

更難的是埃隆談到的事情，那就是文化。問題在于你如何將這種文化從硅谷等地方移植到世界各地，那里的人們不害怕放棄固定薪水的安全感，去創(chuàng)業(yè)并坦然接受失敗。

你談?wù)摿撕芏?。我想你在玩游戲的時候談?wù)摰酶喟桑磕惚仨毺谷唤邮苁?，并知道這只是過程的一部分。這是一件很難在一夜之間完成的文化事情，但我認為，這是創(chuàng)造這種環(huán)境的重要組成部分。

馬斯克：

如果你的第一次創(chuàng)業(yè)沒有成功，這不應(yīng)該是一種災(zāi)難性的職業(yè)生涯結(jié)束。它應(yīng)該是好的。我認為一般來說應(yīng)該是這樣的，你已經(jīng)嘗試過一次了，現(xiàn)在再試一次。

我要提到的一件事是，顯然創(chuàng)建一家公司是一種高風(fēng)險、高回報的情況，但我不太清楚它在英國是如何運作的。我認為它可能比歐洲大陸更好，但我不確定英國的情況如何。但如果有人冒著畢生積蓄的風(fēng)險，那么絕大多數(shù)初創(chuàng)公司都會失敗。

所以，你聽說過成功的初創(chuàng)公司，但大多數(shù)公司，大多數(shù)初創(chuàng)公司都是由大量的工作和失敗組成的。但實際上大多數(shù)公司都是這樣。因此，這是高風(fēng)險、高回報的。因此，高回報的部分確實需要存在才能有意義。

蘇納克：

我認為這是一個非常溫和的稅收政策。實際上，我可以告訴你，我同意我們的資本利得稅率相對于歐洲國家，尤其是美國，特別是加利福尼亞州，要低得多。因此，對于那些冒險并發(fā)展某些東西的人來說，他們應(yīng)該得到回報，因此資本利得稅率是20%。

關(guān)于股票期權(quán)，我不確定是否有Index Ventures的人在場。我們這里的一家領(lǐng)先的風(fēng)險投資基金Index會定期發(fā)布報告，研究大多數(shù)國家對股票期權(quán)的稅收待遇。當我擔任財政大臣時，我認為我們做得相當不錯，但我們排名第四或第五。我認為，我們需要提升我們的排名，以成為創(chuàng)新者的最佳場所，這正是你提到的原因。在該報告的最后一次迭代中，我們進行了更改，我和杰里米已經(jīng)做到了，我們已經(jīng)上升到記憶中的第二位。

我希望這能給您和其他人帶來一些安慰，因為我們認識到這一點很重要。當人們努力工作并冒險時，他們應(yīng)該能夠享受其中的回報。高風(fēng)險，高回報。我認為我們有一個非常有支持這一點的稅收制度，這些是我所相信的價值觀，我認為我們在座的大多數(shù)人也可能這樣做。

問題二：

非常感謝。我們討論了一些非常偉大的想法，改變?nèi)虻南敕?。我真的很感興趣，特別是在創(chuàng)建科技超級中心等方面，這如何映射到生活在德克薩斯州奧斯汀的人們的日常生活中，以選擇你周圍的一個，或者就我而言，諾丁漢，東米德蘭茲？您如何看待人們每天的這種演變？人工智能對日常的影響有哪些？

蘇納克：

就上下文而言，埃隆，Seb經(jīng)營著我們相當于CVS的公司，或者沃爾格林，當我實際上訪問過的時候，他每天都有數(shù)百萬人來到他的商店，這使得我們?nèi)绾问蛊湎嚓P(guān)？我想，Seb，這是你的問題，這與那個人有什么關(guān)系？

也許，實際上，我會先說，因為我認為這是一個公平的觀點。我只是和團隊一起回顧了我們正在做的幾件事，因為我說，我們現(xiàn)在如何做人工智能，它正在改變?nèi)藗兊纳睿?/p>

我們有一個叫做GovDot的東西，實際上，當我們幾年前發(fā)生它時，這是一個開創(chuàng)性的事情。所有政府信息都集中在一個網(wǎng)站上，因此您需要獲得駕駛執(zhí)照、護照，與政府的任何互動，它都以一種非常簡單、相對易于使用的方式集中化，比大多數(shù)方式都好，所以我們即將部署跨該平臺的人工智能。

所以我認為，每天有數(shù)百萬人使用，對，所以很大一部分人每天都與GovDot UK互動，以完成所有這些日常任務(wù)，對，每個人您的客戶正在做所有這些事情，因此我們將在其中部署人工智能，以使整個過程變得更加容易。

因為，有些人會說，看，好吧，我現(xiàn)在在這里，但我丟了護照，而我的航班還有五個小時。目前，這需要多少步驟才能弄清楚你在做什么，實際上，當我們部署人工智能時，你應(yīng)該可以直接這么說，然后繁榮，這就是我們要做的，引導(dǎo)你完成它，這將使數(shù)百萬人受益每一天，對吧，因為這是一種非常實用的方式，在我的座位上，我可以開始使用這項技術(shù)來幫助人們的日常生活，而不僅僅是醫(yī)療保健發(fā)現(xiàn)和我們也在做的其他一切，但我認為這是一個非常有力的證明，從字面上看，您的日常客戶說，實際上，他們的日常生活變得更加輕松，因為埃隆·德馬斯和這個房間里的其他人已幫助創(chuàng)建。

馬斯克：

確切地說，最直接的事情就是能夠提問，就像有一個非常聰明的朋友，你可以向他詢問任何事情，比如如何制作東西，如何解決任何問題，他會告訴你。因此，顯然公司會采用這個，所以我想你可能會得到更好的客戶服務(wù)。我想，本質(zhì)上，這可能是你首先注意到的事情。然后我們討論了教育，所以有一個導(dǎo)師，如果你想理解一門學(xué)科，比如在任何學(xué)科上有一位出色的導(dǎo)師，那實際上已經(jīng)差不多了。然而，我們需要明白，人工智能需要在給出答案之前停止幻覺，它可能給你一個語法完美但卻是錯誤的答案。我們需要確保，它不會給你自信地提供錯誤的答案。我想說，對于任何在家上學(xué)并意識到孩子需要幫助的父母來說，我認為這將是一種巨大的解脫。

問題三：

我是布倫特·赫伯曼，你談到了豐富和豐富的時代，對于人工智能來說，它是一切、無處不在、同時發(fā)生的，但對于機器人來說，我們需要很多機器人才能進入富裕的時代。我知道你們也在機器人方面做了很多工作，我們應(yīng)該考慮哪些限制，我們的政治家應(yīng)該考慮我們可能會遇到的限制，一個國家可能會在機器人方面嚴重落后，因為機器人可以做所有這些事情并進入富裕時代，從而處于戰(zhàn)略劣勢？

馬斯克：

實際上，任何可以由計算機驅(qū)動的東西實際上都是機器人，你可以認為特斯拉汽車是輪子上的機器人，任何連接到互聯(lián)網(wǎng)的東西實際上都是人工智能的端點執(zhí)行器。波士頓動力公司已經(jīng)制造令人印象深刻的機器人有一段時間了，我認為它們目前主要歸現(xiàn)代汽車所有，所以，我猜現(xiàn)代汽車可能會制造人形機器人，以及一些相當有趣的形狀。將會有各種各樣的機器人，你有戴森公司，我認為，做了一些令人印象深刻的事情，我認為英國不會落后，實際上，在這方面，英國也有 Arm，它確實是世界上最好的芯片設(shè)計，最好的之一，也許是最好的，特斯拉使用了大量的 Arm 技術(shù)，實際上幾乎每個人都這樣做，所以，我認為英國處于強勢地位，德國顯然制造了很多機器人，工業(yè)機器人，我認為一般來說，這些國家制造任何類型的機器人，即使它們看起來有些傳統(tǒng)，都可以。

我確實認為存在安全問題，尤其是對于人形機器人，因為，至少汽車不能輕易地把你追進這座大樓，或者把你從樹上追下來，或者，你可以跑上一段樓梯，然后遠離特斯拉。但是如果你有一個人形機器人，它基本上可以在任何地方追你，所以，我認為我們應(yīng)該有某種硬連線，本地截止，你不能從互聯(lián)網(wǎng)更新，所以任何可以從互聯(lián)網(wǎng)更新軟件的東西，顯然都可以被覆蓋，但如果你有一個本地的，某種關(guān)閉開關(guān)，比方說，你有一個關(guān)鍵字或其他東西，然后將機器人置于安全狀態(tài)，某種本地化的安全狀態(tài)能力，一個關(guān)閉開關(guān)，你不必離機器人太近。我們到處都有數(shù)以百萬計的這樣的東西。我知道，我是說這是我們應(yīng)該非常關(guān)心的事情，因為如果機器人可以跟隨你到任何地方，那么，如果有一天他們得到了軟件更新，他們就不再那么友好了怎么辦？我們目前正在研究一部詹姆斯·卡梅隆的電影（即《終結(jié)者》）。

蘇納克：

有趣的是，在我們今天的會議上，有人提出了與你相同的觀點。他們在討論電影時，并沒有特指詹姆斯·卡梅隆，而是在討論他的電影。他們認為，如果你深入思考，你會發(fā)現(xiàn)這不僅僅是他的電影，而是所有的電影，無論是訓(xùn)練、地鐵還是公共汽車，所有這些電影的情節(jié)都是相同的?；旧?，所有這些電影都以人們找到一種方法關(guān)閉它而結(jié)束。他們的觀點與你關(guān)于關(guān)閉開關(guān)的重要性的觀點相同。所以，盡管所有的技術(shù)都很棒，但基本上，同一部電影被重復(fù)播放了50次，我們都看過，而且所有這些電影都以幾乎相同的方式結(jié)束，即有人找到了一種方法來關(guān)閉它。你曾經(jīng)提到過類似的觀點。這是一個不太明顯的地方。

馬斯克：

但也許這就是人工智能的一種測試。我們應(yīng)該問，你最喜歡的詹姆斯·卡梅隆的電影是什么？（笑）

問題四：

我是人工智能和機器學(xué)習(xí)擴展的創(chuàng)始人，位于英格蘭北部利茲的第三個人工智能中心。自ChatGPT推出以來，我們發(fā)現(xiàn)網(wǎng)絡(luò)釣魚攻擊使用更復(fù)雜的語言模式的情況真正增加了。我們?nèi)绾伪Ｗo企業(yè)和消費者，讓他們更好地信任這項技術(shù)？我們?nèi)绾螏ьI(lǐng)他們與我們一起踏上這段旅程？

馬斯克：

我認為我們實際上不應(yīng)該過度信任這項技術(shù)。這是一個重大的挑戰(zhàn)，因為我們已經(jīng)到了一個地步，即使是開源的人工智能也可以通過人類測試。所以，當人工智能能夠比人類更好、更快地通過人類測試時，我們應(yīng)該如何進行測試呢？這是一個現(xiàn)實問題，我實際上沒有很好的解決方案。

我們在X平臺上試圖解決的一個問題是如何處理這個問題，因為我們確實處于這樣的境地：即使使用開源的、現(xiàn)成的人工智能，你也不需要排序就可以領(lǐng)先于該領(lǐng)域，你實際上可以比人類更好地通過這些測試。這就是為什么我們在考慮，也許我們應(yīng)該每年收取一美元或一英鎊的費用，這是一筆很小的錢，但制造一百萬個機器人仍然非常昂貴，特別是如果你需要一百萬種支付方式，然后你很快就會用完被盜的信用卡。這就是我們的想法，我們可能需要收取一些非常少量的錢，每天0.3美分，有效地應(yīng)對人工智能驅(qū)動的機器人的攻擊。

這仍然是一個日益嚴重的問題，但我認為，明年這可能是一個無法克服的問題。所以，然后你必須擔心信息的操縱，讓某些東西看起來很受歡迎，但實際上并非如此，因為人工智能驅(qū)動的機器人的所有這些點贊和轉(zhuǎn)發(fā)都推動了它的發(fā)展。因此，這就是為什么我認為它不可避免地會導(dǎo)致一些小額付款，從而大幅增加機器人的成本。坦白說，我認為任何不這樣做的社交媒體系統(tǒng)可能都會被機器人淹沒。

蘇納克：

我想我的一般回答是，我們需要表明我們能夠降低風(fēng)險，這樣人們才能信任這項技術(shù)。實際上，過去幾天安全峰會的內(nèi)容只是表明，我們正在投資安全研究所，讓能夠?qū)@些事情進行研究的人來找出我們?nèi)绾尉徑膺@些問題。我們必須快速完成，并且必須不斷迭代。因為我認為在座的所有人都相信這項技術(shù)可以非常強大，但我們必須確保我們帶領(lǐng)人們與我們一起踏上這段旅程，我們正在處理其中的風(fēng)險。正如我之前所提到的，我們?nèi)杂性S多工作需要完成。在過去的幾天里，我覺得我們在這方面取得了顯著的進步，因為我們致力于關(guān)注積極的方面并管理這些事務(wù)。然而，這需要我們采取行動。這就是過去幾天的工作內(nèi)容。

Musk，你的故事和類比是我們研究的一部分。實際上，我們的工作組團隊在昨天發(fā)布并介紹了這個研究，我不確定你是否已經(jīng)看到了。這項研究主要是關(guān)于如何利用人工智能在社交媒體上創(chuàng)建大量虛假個人資料，然后將特定信息滲透到特定群體中。這就是你的觀點，這是一項免費的事情?，F(xiàn)在，你甚至可以用一分錢買到價值100美元的東西，這真是荒謬。

如果你考慮一下社區(qū)或城鎮(zhèn)層面的社交網(wǎng)絡(luò)，你會發(fā)現(xiàn)并沒有那么多虛假的個人資料。然而，突然之間，它們無處不在。這也引發(fā)了一些可能很重要的當?shù)貑栴}。而且，團隊已經(jīng)運行了它的樣子的版本。突然間，他們與每個人互動，然后傳播錯誤信息。這是一個真正的挑戰(zhàn)。實際上，這是我們昨天發(fā)表的關(guān)于錯誤信息的研究的一部分。

馬斯克：

完全正確。關(guān)于你的觀點，你甚至不需要竊取某人的照片，因為這是可追蹤的。但實際上你可以創(chuàng)建一個人的新形象，看起來很現(xiàn)實，但不存在，然后創(chuàng)建一個傳記，現(xiàn)實，但不存在，然后集體這樣做。實際上，你能夠判斷的唯一方法就是語法太好了。沒有錯別字嗎？

蘇納克：

現(xiàn)在，有人向我揮手，因為我認為我們已經(jīng)沒時間了。我知道我們可以回答最后一個非常簡短的問題。

問題五：

埃隆，我有一個關(guān)于xPlatform的問題。我們可以做一些簡單的事情嗎，尤其是在視覺媒體方面？你提到過，讓像你這樣的人說出和做你從未說過或做過的事情是相當簡單且有效的自由。我們可以做一些像加密媒體簽名之類的事情嗎？

我來自Adobe，我們正在研究這個項目，推特曾是會員，我很想看到x回來。對媒體進行數(shù)字簽名不僅可以表明人工智能創(chuàng)建的內(nèi)容，還可以表明哪些內(nèi)容來自相機，哪些內(nèi)容是真實的，從而使人們對可以病毒式傳播的媒體產(chǎn)生信任感。

馬斯克：

實際上，這聽起來是個好主意。因此，如果某種身份驗證方式會很好。是的，這聽起來是個好主意。我們也許應(yīng)該這樣做。

蘇納克：

事實上，就這一點而言，這對于我的工作人員來說特別相關(guān)，對嗎？我已經(jīng)遇到過這樣的情況：被篡改的圖像到處都是負面的。當每個人都意識到這是假的并且我們應(yīng)該停止發(fā)送它時，損害已經(jīng)造成了。事實上，我們今天再次進行了反思。如果你認為明年，我想，美國、印度，我想印度尼西亞都會舉行選舉。大概在這里。海量新聞。事實上，明年世界上只有很大一部分人口會投票，對嗎？而且還有歐盟選舉。要知道，其實擺在我們面前的正是這些問題。明年將是全球范圍內(nèi)的重大選舉，這可能是第一批出現(xiàn)這一問題的選舉。因此，我認為，對于那些想要我們民主的完整性的人們來說，弄清楚我們?nèi)绾喂芾磉@一點是一項至關(guān)重要的使命。

馬斯克：

其中一些非常有趣，比如穿著羽絨服的教皇。你見過那個嗎？這是驚人的。但是，我仍然遇到認為這是真實的人。我在思考，他在七月份穿羽絨服的可能性有多大？在羅馬，他肯定會出汗。然而，他看起來確實非常瀟灑。實際上，我認為人工智能時尚將成為現(xiàn)實。

因此，出于愛意和憂郁，我們生活在最有趣的時代。我認為，80%的可能性是好的，20%的可能性是壞的。我認為，如果我們認識到并謹慎對待不好的部分，總的來說，這將是我們期望的未來，甚至可能是更好的未來。在某種程度上，它實際上是一個公平器，一個均衡器，我認為每個人都將有機會獲得商品、服務(wù)和教育。因此，我認為這可能會帶來更多的人類幸福。所以，我可能會以樂觀的態(tài)度離開。

蘇納克：

這是一個完美的結(jié)束。我們都希望有更美好的未來。我認為它就在那里，它的承諾肯定是存在的。在座的很多人，包括你們自己，都在努力實現(xiàn)這一目標。我們政府的工作是確保一切安全發(fā)生。但根據(jù)過去幾天的談話，我對我們能夠?qū)崿F(xiàn)這一目標更加充滿信心。我很榮幸也很高興您能來到這里。

馬斯克：

非常感謝你的邀請。