未經(jīng)授權(quán)不得轉(zhuǎn)載，保留原文出處和公眾號傳送按鈕

文：天空之城·城主

在5月11號的著名投資人播客All-In Postcast訪談中，OpenAI的首席執(zhí)行官Sam Altman深入探討了人工智能的發(fā)展現(xiàn)狀和未來趨勢。這次訪談的主持人們水平確實很高--都是資深科技行業(yè)投資人，頻頻出臺的Sam這次算是聊出了不少新內(nèi)容：）

（城主注：看了很多科技訪談，注意到一個很明顯的特點(diǎn)，一場科技訪談質(zhì)量除了和嘉賓咖位有關(guān)，另一個重要因素是提問者 -- 很多時候，科技大佬的訪談很可惜的成了雞肋的原因正是主持人不懂該問什么，浪費(fèi)了寶貴的機(jī)會）

重要的是，這是OpenAI倍受矚目的5月13號新發(fā)布會前夕的訪談，我們可以從中一窺這位全球最高關(guān)注度CEO的最新表態(tài)和思考。

而且，這次訪談里Sam難得的首次正面講述了去年底被董事會解雇的一些經(jīng)歷和內(nèi)幕。

B站傳送：精?！縎am Altman最新5月播客長篇訪談 | @All-In播客 2024.5.11【中英】-嗶哩嗶哩】

https://b23.tv/85KHdUL

在這次訪談里， Sam指出，ChatGPT的人氣和影響力正在與日俱增，并已成為家喻戶曉的名字。這款聊天機(jī)器人在短短兩個月內(nèi)就吸引了1億用戶，創(chuàng)下了科技產(chǎn)品發(fā)展史上的新紀(jì)錄。ChatGPT不僅改變了OpenAI的工作方式和效率，也為公司帶來了巨大的商業(yè)成功。

Sam透露，OpenAI計劃在今年夏天推出更先進(jìn)的GPT-5模型，并可能采用與以往不同的發(fā)布策略。他強(qiáng)調(diào)，OpenAI的根本使命是讓AI造福全人類，因此他們致力于開發(fā)免費(fèi)或低成本的AI工具，讓每個人都能輕松獲取并從中受益。同時，OpenAI也希望通過ChatGPT等產(chǎn)品，提高全社會對AI的認(rèn)知和理解，推動這一領(lǐng)域的健康發(fā)展。

在Sam看來，未來的AI發(fā)展不應(yīng)是一場數(shù)據(jù)和算力的軍備競賽。他認(rèn)為，真正的突破需要在算法效率、芯片性能、能源供給等方面取得根本性進(jìn)展。OpenAI期待在算法上實現(xiàn)重大創(chuàng)新，以提高模型的運(yùn)行效率。同時，他們也密切關(guān)注芯片技術(shù)和能源供應(yīng)的發(fā)展，相信只要AI能夠帶來足夠大的社會價值，這些問題就一定能迎刃而解。

Sam還就AI對人機(jī)交互的影響進(jìn)行了展望。他認(rèn)為，未來的AI設(shè)備應(yīng)該是始終在線、無縫連接的，能夠通過語音或文本等自然交互方式準(zhǔn)確理解用戶需求，并提供個性化的智能服務(wù)。OpenAI正在探索如何將AI模型高效地部署到移動設(shè)備上，以及如何通過語音交互等創(chuàng)新方式來革新人機(jī)界面。不過，他們也意識到，在公共場合使用AI設(shè)備可能引發(fā)一些社會問題，需要審慎對待。

此外，Sam還對AI與人類的關(guān)系進(jìn)行了哲學(xué)層面的思考。他提出，AI的未來發(fā)展可能呈現(xiàn)兩種形態(tài)：一種是作為人類智慧和能力的延伸，無縫融入我們的工作和生活；另一種則是作為獨(dú)立的智能agent，在理解和服務(wù)人類的同時保持自身的判斷力和主體性。Sam更傾向于后一種模式，期待AI能夠不斷進(jìn)化，最終成為與人類平等對話、智慧互鑒的伙伴。

Sam還就AI可能帶來的種種變革進(jìn)行了深入探討。他設(shè)想，AI將徹底重塑我們使用Instacart、Uber、DoorDash等服務(wù)的方式，因此OpenAI需要重新審視對應(yīng)用開發(fā)和用戶體驗的理解，以適應(yīng)這個"AI+行業(yè)"的新時代。OpenAI的目標(biāo)是打造一個人機(jī)共生的智能世界，讓AI系統(tǒng)具備可解釋性和可控性，并能夠與人類進(jìn)行流暢、高效、透明的交互與協(xié)作。

在談到AI監(jiān)管問題時，Sam呼吁業(yè)界和政策制定者采取務(wù)實、審慎的態(tài)度。一方面，要建立必要的倫理和法律邊界，避免AI被濫用或造成危害；另一方面，也要給予AI初創(chuàng)企業(yè)一定的成長空間，不能一刀切地禁止或過度監(jiān)管。他建議對大型AI系統(tǒng)開展嚴(yán)格的安全評估和監(jiān)督，但對中小型AI企業(yè)可以適當(dāng)放寬要求，以減輕其合規(guī)負(fù)擔(dān)。監(jiān)管的重點(diǎn)應(yīng)該是AI系統(tǒng)的輸出結(jié)果，而非內(nèi)部運(yùn)作機(jī)制。

Sam還就AI可能帶來的就業(yè)沖擊發(fā)表了看法。他提出"普惠計算"的概念，即讓每個人都能分享AI發(fā)展的紅利，通過普及計算資源來促進(jìn)社會公平。

Sam還坦誠地分享了他在OpenAI的個人經(jīng)歷，包括曾被解雇又重新上任的曲折過程。但他對公司的使命始終堅定不移，那就是要創(chuàng)造出造福人類的通用人工智能（AGI）。盡管AGI可能引發(fā)某些恐慌和爭議，但Sam相信，這是科技發(fā)展的必然趨勢，也是人類社會進(jìn)步的根本驅(qū)動力。

=以下是訪談全文的天空之城書面文字版，不區(qū)分多個主持人=

主持人：

我第一次遇見我們即將介紹的嘉賓Sam Altman是在大約20年前，那時他正在開發(fā)一款名為Loop的本地移動應(yīng)用程序。我們都得到了紅杉資本的支持，實際上，我們都是紅杉資本的第一批童子軍。

他投資了一家名不見經(jīng)傳的金融科技公司Stripe，而我投資了Uber。在那個小實驗中...

Sam：

你投資了Uber？我以前從未聽說過。

是的，我想是的。

-你應(yīng)該寫一本書，Jacob。

我和Sam作為童子軍參與的那個小型實驗基金是紅杉資本回報率最高的基金。我聽說，幾百萬美元變成了超過2億美元。他還曾在Y Combinator工作過一段時間，并在2014年至2019年擔(dān)任總裁。2016年，他與他人共同創(chuàng)立了OpenAI，其目標(biāo)是確保通用人工智能造福全人類。2019年，他離開YC，全職加入OpenAI擔(dān)任首席執(zhí)行官。

2022年11月30日，事情變得非常有趣。那天是OpenAI推出ChatGPT的日子。2023年1月，微軟投資了100億美元。2023年11月，在瘋狂的五天時間里，Sam被OpenAI解雇。每個人都要去微軟工作。一堆心形表情符號在X和Twitter上瘋傳，人們開始猜測該團(tuán)隊已經(jīng)達(dá)到了通用人工智能。世界末日就要來臨了。突然間，幾天后，他又回到了OpenAI的首席執(zhí)行官的位置。

據(jù)報道，2023年2月，Sam正在尋求為一個AI芯片項目籌集7萬億美元。此前有報道稱，Sam正在尋求從Masayoshi San那里籌集10億美元，與iPhone的聯(lián)合創(chuàng)始人Johnny Ive一起打造一款iPhone殺手。

與此同時，ChatGPT變得越來越好，并成為家喻戶曉的名字。它對我們的工作方式和工作完成方式產(chǎn)生了巨大影響。據(jù)報道，它是歷史上在短短兩個月內(nèi)用戶數(shù)量達(dá)到1億的最快產(chǎn)品。

看看OpenAI的瘋狂收入增長。據(jù)報道，去年他們的ARR達(dá)到了20億美元。歡迎收聽全能播客，

我觀察到整個行業(yè)都在緊張地期待GPT-5的發(fā)布。據(jù)我了解，它可能會在今年夏天的某個時候推出，但這個時間窗口相當(dāng)寬泛。你能否為我們具體化一些？

Sam：

我們會花費(fèi)一些時間來發(fā)布這個主要的新模型。我相信，當(dāng)我們這樣做的時候，一定會非常棒。我們會仔細(xì)考慮如何進(jìn)行。可能會以一種與我們發(fā)布以前模型不同的方式來發(fā)布它。另外，我甚至不確定我們是否會稱之為GPT-5。

我想說的是，自從我們發(fā)布了GPT-4以來，尤其是在過去的幾個月里，很多人都注意到了它的優(yōu)秀表現(xiàn)。我認(rèn)為這更好地揭示了世界的本質(zhì)，它并不是簡單的1、2、3、4、5、6、7，而是一個使用AI系統(tǒng)的過程，整個系統(tǒng)會持續(xù)地變得越來越好。我認(rèn)為這既是一個更好的技術(shù)方向，也更容易讓社會適應(yīng)，我相信這就是我們的發(fā)展方向。

主持人

那么，這是否意味著我們不會有漫長的訓(xùn)練周期，而是會不斷地重新訓(xùn)練或訓(xùn)練子模型，Sam？也許你可以和我們分享一下未來大型模型在架構(gòu)上可能會發(fā)生哪些變化。

Sam：

你可以想象的一種情況就是我們一直在訓(xùn)練一個模型。這對我來說似乎是一種合理的做法。

我們這次討論的是不同的發(fā)布方式。你是在考慮先向付費(fèi)用戶發(fā)布，還是放慢發(fā)布速度以讓紅隊緊張，因為現(xiàn)在風(fēng)險太大了。實際上，你有如此多的付費(fèi)用戶，而且大家都在關(guān)注著你的每一步。你現(xiàn)在必須更加深思熟慮，對嗎？

是的，目前GPT-4仍然只對付費(fèi)用戶開放，但我們真正想做的一件事情是弄清楚如何讓免費(fèi)用戶也能使用更先進(jìn)的技術(shù)。我認(rèn)為這是我們使命中非常重要的一部分。我們的目標(biāo)是構(gòu)建人工智能工具并使其廣泛可用，無論是免費(fèi)的還是不那么昂貴的，無論它是什么，這樣人們就可以使用它們?nèi)?chuàng)造未來，而不是讓天空中的神奇AGI創(chuàng)造未來并將其傾瀉在我們身上。這似乎是一條更好的道路，也是一條更鼓舞人心的道路。我堅信事情確實在朝著這個方向發(fā)展。所以我很遺憾，我們還沒有想出如何讓免費(fèi)用戶使用GPT-4級別的技術(shù)。這是我們真正想做的事情。我必須承認(rèn)，這非常昂貴。

Sam，我認(rèn)為人們經(jīng)常討論的兩個大因素可能是潛在成本和延遲，這在某種程度上限制了殺手級應(yīng)用的速率。然后我認(rèn)為第二個因素是人們在開源世界與閉源世界中構(gòu)建的長期能力。我認(rèn)為，這個領(lǐng)域的狂熱之處在于其開源社區(qū)的熱情。一個令人難以置信的例子是，我們?yōu)镈evon做了一個非常瘋狂的演示，這是在五六周前，效果非常出色。然后，一些年輕人根據(jù)MIT的開放許可證（如OpenDevon）發(fā)布了這個項目。它的表現(xiàn)非常好，幾乎可以與其他閉源的項目相媲美。因此，也許我們可以從這個問題開始討論，即，保持這些模型閉源的商業(yè)決策是什么？你認(rèn)為未來幾年會有怎樣的發(fā)展？

對于你的問題的第一部分，速度和成本，這些對我們來說非常重要。我不想給出一個時間表，說明我們何時可以大幅降低延遲，因為研究很難，但我相信我們能夠做到。我們希望大幅降低延遲，大幅降低成本。我相信這會發(fā)生。我們?nèi)蕴幱诳茖W(xué)發(fā)展的早期階段，無法理解其工作原理。此外，我們擁有所有工程方面的順風(fēng)。所以我不知道什么時候我們才能獲得便宜到無法計量的智能，而且速度如此之快，以至于我們和其他所有人都覺得它是即時的。但我相信我們可以達(dá)到相當(dāng)高的智能水平。這對我們很重要，對用戶來說也很重要，它將解鎖很多東西。

關(guān)于開源和閉源，我認(rèn)為兩者都有其優(yōu)點(diǎn)。我認(rèn)為，我們已經(jīng)開源了一些項目，將來我們會開源更多的項目。但實際上，我們的使命是朝著人工智能的方向發(fā)展，并想辦法廣泛地分配它的好處。我們有一個策略，似乎引起了很多人的共鳴。顯然，它并不適合所有人。而且這是一個龐大的生態(tài)系統(tǒng)。還會有開源模型和以這種方式構(gòu)建的人。

我個人對開源特別感興趣的一個領(lǐng)域是，我想要一個盡可能好的開源模型，可以在我的手機(jī)上運(yùn)行。我認(rèn)為，世界還沒有足夠好的技術(shù)來開發(fā)出一個好的版本。但這似乎是一件非常重要的事情，在某個時候要做。

你會這樣做嗎？你會發(fā)布嗎？

我不知道我們會不會，或者有人會。

Llama 3怎么樣？

Llama 3在手機(jī)上運(yùn)行？

我想也許有70億參數(shù)（手機(jī)）版本。

是的。我不知道那是否適合手機(jī)，但是……

那應(yīng)該適合手機(jī)。

但是我不知道，我不確定那是否適合，我還沒有玩過。我不知道它是否足以完成我在這里考慮的事情。

因此，當(dāng)Llama 3發(fā)布時，我認(rèn)為很多人最大的收獲是，哇，他們已經(jīng)趕上了GPT-4。我認(rèn)為它并不是在所有方面都平等，但總的來說，它非常非常接近。我想問題是，你們不久前發(fā)布了4，你們正在開發(fā)5，或者對4進(jìn)行更多升級。我想聽聽你的觀點(diǎn)，即如何在開源環(huán)境中保持領(lǐng)先，你有何看法？這通常是一項極具挑戰(zhàn)性的任務(wù)，你怎么看？

我們的目標(biāo)并不是制造出我們能制造的最智能的權(quán)重集，而是制造出一個有用的智能層供人們使用。模型只是其中的一部分。我相信我們將在這方面保持領(lǐng)先，我希望我們在這方面能夠遠(yuǎn)遠(yuǎn)領(lǐng)先于世界其他國家。但整個系統(tǒng)還有很多其他工作，不僅僅是模型權(quán)重。我們必須像其他任何企業(yè)一樣，以傳統(tǒng)方式建立持久價值。我們必須想出一個偉大的產(chǎn)品和堅持下去的理由，并以優(yōu)惠的價格交付它。

當(dāng)你創(chuàng)立這個組織時，你所說的目標(biāo)或討論的部分內(nèi)容是，這對任何一家公司來說都太重要了，因此，它需要開放。然后轉(zhuǎn)變?yōu)?，任何人都看不到它太危險了，我們需要把它鎖定，因為你對此有些擔(dān)心。我想知道，這是真的嗎？因為憤世嫉俗的一方會說，這是一種資本主義的舉動。然后，我很好奇從開放開始的決定是什么。世界需要看到這一點(diǎn)。關(guān)閉真的很重要。只有我們才能看到。那么，你是怎么得出這個結(jié)論的呢？

我們發(fā)布ChatGPT的部分原因是我們希望全世界都能看到這一點(diǎn)。我們一直在試圖告訴人們?nèi)斯ぶ悄苷娴暮苤匾?。如果你回?022年10月，那時并沒有那么多人認(rèn)為人工智能會那么重要，或者它真的發(fā)生了。我們試圖做的很大一部分就是把技術(shù)交到人們手中。現(xiàn)在，再次重申，有不同的方法可以做到這一點(diǎn)。我認(rèn)為確實有一個重要的角色，就是說，比如，這是實現(xiàn)它的方法。

但事實上，我們有這么多人使用ChatGPT的免費(fèi)版本，我們不投放廣告，我們也不會試圖從中賺錢。我們只是因為我們希望人們擁有這些工具而推出它。我認(rèn)為它做了很多工作，提供了很大的價值，教人們?nèi)绾吾烎~，也讓世界真正思考這里發(fā)生的事情?，F(xiàn)在，我們?nèi)匀粵]有找到所有答案。我們和其他人一樣，正在摸索著前行。我認(rèn)為，隨著我們學(xué)習(xí)新事物，我們會多次改變策略。

當(dāng)我們創(chuàng)辦OpenAI時，我們真的不知道事情會如何發(fā)展，不知道我們會制作語言模型，不知道我們會制作產(chǎn)品。我清楚地記得第一天，我們當(dāng)時想，好吧，現(xiàn)在我們都在這里。要把這一切準(zhǔn)備好很困難。但現(xiàn)在會發(fā)生什么？也許我們應(yīng)該寫一些論文。也許我們應(yīng)該圍著白板站著。我們一直在努力，一步一步地弄清楚下一步是什么，下一步是什么，下一步是什么。我想我們會繼續(xù)這樣做。

我可以再次確認(rèn)一下，以確保我沒有聽錯嗎？我理解您的觀點(diǎn)是，無論是開源還是閉源，所有這些模型，無論您做出何種業(yè)務(wù)決策，都將逐步提高其準(zhǔn)確度。并非所有的公司都有足夠的資本，但假設(shè)有四到五家，比如Meta、谷歌、微軟等，或者可能還有一家初創(chuàng)公司。這些公司都在開放網(wǎng)絡(luò)上運(yùn)作。然后很快，這些模型的準(zhǔn)確性或價值可能會轉(zhuǎn)移到這些專有的訓(xùn)練數(shù)據(jù)源，這些數(shù)據(jù)源你可能可以獲取，也可能無法獲取，或者別人可以獲取而你無法獲取。

您認(rèn)為事情的發(fā)展趨勢是這樣的嗎？開放網(wǎng)絡(luò)使每個人都達(dá)到一定的門檻，然后就變成了一場爭奪數(shù)據(jù)的軍備競賽？

我并不這么認(rèn)為。我堅決認(rèn)為這不會變成一場爭奪數(shù)據(jù)的軍備競賽，因為當(dāng)模型變得足夠智能時，它不應(yīng)該只是關(guān)于獲取更多的數(shù)據(jù)，至少不是用于訓(xùn)練的數(shù)據(jù)。數(shù)據(jù)可能很重要，因為它有其價值。我從這一切中學(xué)到的最重要的一件事是，很難對未來幾年的走向做出自信的預(yù)測，所以我現(xiàn)在不想嘗試。我想說的是，我期待世界上出現(xiàn)許多非常有能力的模型。我覺得我們剛剛偶然發(fā)現(xiàn)了一個新的自然或科學(xué)事實，或者你可以稱之為我們可以創(chuàng)造的事實。我不認(rèn)為這是字面意思，但它就像一個精神點(diǎn)。智能只是物質(zhì)的這種突現(xiàn)屬性，這就像物理規(guī)則之類的東西。所以人們會弄清楚的。但是會有所有這些不同的系統(tǒng)設(shè)計方法。人們會做出不同的選擇，想出新的想法。我敢肯定，就像任何其他行業(yè)一樣，我預(yù)計會有多種方法，不同的人喜歡不同的方法。有些人喜歡 iPhone，有些人喜歡 Android 手機(jī)。我認(rèn)為會有這樣的效果。

讓我們回到第一部分，只討論成本和速度。你們所有人的NVIDIA吞吐量都受到了一點(diǎn)比特率限制，我認(rèn)為您和大多數(shù)人都已經(jīng)宣布了可以獲得多少產(chǎn)能，因為這是他們能夠生產(chǎn)的最大產(chǎn)能?；迳闲枰l(fā)生什么才能真正降低計算成本、加快計算速度、獲得更多能源？您如何幫助行業(yè)解決這些問題？

我們肯定會在算法上取得巨大進(jìn)步。我不想低估這一點(diǎn)。我對芯片和能源非常感興趣。但是，如果我們能夠使相同質(zhì)量的模型效率提高一倍，那就相當(dāng)于我們的計算能力提高了一倍。我認(rèn)為那里有大量的工作要做。我希望我們能真正看到這些結(jié)果。除此之外，整個供應(yīng)鏈非常復(fù)雜。有邏輯工廠的產(chǎn)能。世界可以生產(chǎn)多少HBM。你可以快速獲得許可證、澆筑混凝土、建立數(shù)據(jù)中心，然后安排人員將所有線路全部連接起來。最后是能源，這是一個巨大的瓶頸。但我認(rèn)為，當(dāng)它對人類有如此大的價值時，世界就會有所作為。我們將致力于讓這一目標(biāo)更快地實現(xiàn)?？赡苄缘拇_存在，我無法給出具體的概率，但我相信，正如你所說，這是一個巨大的基礎(chǔ)性突破。我們已經(jīng)擁有了更高效的計算方式，然而，我并不喜歡過度依賴它，也不愿意花費(fèi)過多的時間去思考它。

在設(shè)備方面，你提到了可以安裝在手機(jī)上的模型。顯然，無論是LLM還是SLM等，我相信你都在考慮這個問題。但是，設(shè)備本身會發(fā)生變化嗎？它是否需要像iPhone一樣昂貴？

我對此非常感興趣。我喜歡新的計算形式，每一次重大的技術(shù)進(jìn)步似乎都會帶來新的事物。手機(jī)的優(yōu)秀程度令人難以置信，因此我認(rèn)為這里的門檻非常高。我個人認(rèn)為，iPhone是人類歷史上最偉大的技術(shù)產(chǎn)品，它真的是一個非常棒的產(chǎn)品。

那么，接下來會是什么呢？

我不知道。如果能超越它，那將是非常棒的事情，但我認(rèn)為門檻非常高。

我一直在與約翰尼·艾維合作，我們一直在討論各種想法，但我不確定，是不是新的設(shè)備必須更復(fù)雜，或者實際上只需要更便宜、更簡單？幾乎每個人都愿意為手機(jī)付費(fèi)，所以如果你能制造出一種更便宜的設(shè)備，我認(rèn)為攜帶第二件設(shè)備或使用第二件設(shè)備的障礙就相當(dāng)高了。因此，我認(rèn)為，考慮到我們都愿意為手機(jī)付費(fèi)，或者我們大多數(shù)人都愿意，我認(rèn)為更便宜并不是解決問題的答案。

那么，答案有什么不同呢？

是否會有一種專門的芯片可以在手機(jī)上運(yùn)行，并且能夠很好地驅(qū)動手機(jī)大小的AI模型？

可能會有，但手機(jī)制造商肯定會這樣做，這并不需要新的設(shè)備。我認(rèn)為你必須找到一些技術(shù)所能實現(xiàn)的真正不同的交互范式。如果我知道它是什么，我會很高興現(xiàn)在就開始研究它。

現(xiàn)在，你可以在應(yīng)用程序中使用語音。事實上，我將手機(jī)上的操作按鈕設(shè)置為直接進(jìn)入ChatGPT的語音應(yīng)用程序，我和我的孩子一起使用它，他們喜歡和它交談。它有延遲問題，但它真的很棒。

我們會做得更好。我認(rèn)為語音是下一個事物的暗示。比如，如果你能讓語音交互變得非常好，那感覺就像是一種使用電腦的不同方式。

然而，就像我們已經(jīng)遇到的問題，比如，為什么它沒有響應(yīng)？而且，感覺就像CB，就像一遍又一遍。用起來真的很煩人，但是當(dāng)它給你正確的答案時，它也很出色。

我們正在努力解決這個問題?，F(xiàn)在它很笨重，很慢，感覺不太流暢、不真實或不自然。我們會讓這一切變得更好。

關(guān)于計算機(jī)視覺呢? 你可以選擇佩戴相關(guān)設(shè)備。你可以將視覺或視頻數(shù)據(jù)與語音數(shù)據(jù)結(jié)合起來。

如今，人工智能已經(jīng)能夠了解你周圍發(fā)生的一切。你可以像使用多模態(tài)設(shè)備那樣詢問ChatGPT，例如：“我正在看什么？”或者“這是什么植物？”我必須承認(rèn)，這種能力非常強(qiáng)大。這顯然是另一個暗示。

然而，無論人們是選擇佩戴眼鏡，還是在需要時使用某種設(shè)備，都會引發(fā)許多社會人際問題，佩戴電腦設(shè)備會變得非常復(fù)雜。

我們在谷歌眼鏡的使用中已經(jīng)看到了這一點(diǎn)。在執(zhí)行任務(wù)時，人們可能會遭遇困擾。我忘記了一些具體的情況。

如果人工智能無處不在，例如在人們的手機(jī)上，那么它可以解鎖哪些應(yīng)用程序呢？你有沒有這種感覺？你希望看到什么？

我想我需要的就是一種始終在線、超低摩擦的設(shè)備，我可以通過語音或文本，或者理想情況下通過其他方式與它交互。它只需要知道我想要什么，有一種持續(xù)的存在幫助我度過一天。它擁有盡可能多的背景信息，就像世界上最偉大的助手。正是這種存在讓我變得越來越好。

當(dāng)你聽到人們談?wù)撊斯ぶ悄艿奈磥頃r，他們可能會想象出兩種不同的方式，雖然聽起來沒有什么不同。但我認(rèn)為，在實踐中，我們在設(shè)計系統(tǒng)時會有很大的不同。我想要一個能延伸自我，像一個幽靈或另一個自我，或者這個真正屬于我的東西，代表我行事，回復(fù)電子郵件，甚至不需要告訴我這件事。它有點(diǎn)像我，變得越來越像我。另一方面，我想要一個優(yōu)秀的高級員工。它可能會非常了解我，我可能會委托它。你可以訪問我的電子郵件，我會告訴你限制。但我認(rèn)為它是一個獨(dú)立的實體。我個人更喜歡獨(dú)立實體的方式，并認(rèn)為這就是我們要去的地方。

所以從這個意義上說，它不是你，而是一個隨時可用、總是很棒、超級能干的助理主管。

在某種程度上，它就像一個代理人，它代表你工作，了解你想要什么，預(yù)測你想要什么，這就是我對你所說的話的理解。

我認(rèn)為會有代理人的行為，但高級員工和代理人之間是有區(qū)別的。

我想要它，我認(rèn)為我喜歡高級員工的一點(diǎn)是他們會反駁我。他們有時不會做我要求的事情，或者有時會說，如果你想的話，我可以做那件事。但如果我這么做了，我認(rèn)為會發(fā)生以下情況。然后這樣，然后那樣，

你真的確定嗎？

我絕對想要那種氛圍，而不僅僅是我給它一個任務(wù)，它盲目地去做。它可以推理，并且反駁。它能夠推理，它與我的關(guān)系就像我期望與一個真正有能力的人共事時所建立的關(guān)系，這與諂媚者不同。

確實，如果我們擁有像賈維斯 (Jarvis) 這樣具有推理能力的工具，它可能會對我們今天使用的許多極具價值的產(chǎn)品界面產(chǎn)生影響。以Instacart、Uber和DoorDash為例，這些服務(wù)并非旨在成為管道，而是提供一組API給一群無處不在的智能代理，這些代理代表著全球80億人工作。那么，我們需要思考的是，我們應(yīng)該如何改變對應(yīng)用程序工作方式、整個體驗基礎(chǔ)設(shè)施的理解，以適應(yīng)這個你以代理方式與世界交互的新世界？

我個人對設(shè)計一個人類和人工智能都能使用的世界非常感興趣。我喜歡它的可解釋性，喜歡交接的流暢性，喜歡我們能夠提供反饋的能力。例如，DoorDash可以向我未來的人工智能助手公開一些API，使其能夠下訂單等。我可以拿著手機(jī)說：“好的，AI助手，請在DoorDash上下這個訂單?！蔽铱梢钥吹綉?yīng)用程序打開，看到東西在點(diǎn)擊，我可以說：“嘿，不，不是這個?！痹O(shè)計一個人類和AI都可以同樣使用的世界，我認(rèn)為這是一個有趣的概念。

出于同樣的原因，我對人形機(jī)器人比對其他形狀的機(jī)器人更感興趣。這個世界是為人類設(shè)計的，我認(rèn)為我們應(yīng)該保持這種狀態(tài)。共享界面是一個好主意。

因此，你會看到語音、聊天等模式正在取代應(yīng)用程序。你只需告訴它你想要壽司，它知道你喜歡什么壽司，知道你不喜歡什么，并會盡最大努力去滿足你。

我很難想象，我們進(jìn)入了一個完全不同的世界，你會說：“嘿，ChatGPT，給我點(diǎn)壽司。”它會回答：“好的，你想從這家餐廳點(diǎn)嗎？什么種類，什么時間，隨便什么?！蔽艺J(rèn)為用戶，我認(rèn)為可視化用戶界面對很多事情都非常好。我很難想象一個你從不看屏幕，只使用語音模式的世界。但我可以想象很多事情都是這樣的。

蘋果嘗試過Siri。據(jù)說你可以用Siri自動訂購Uber。我認(rèn)為沒有人這樣做過，因為……你為什么要冒險不把它放在手機(jī)里？正如你所說，質(zhì)量不好。但是當(dāng)質(zhì)量足夠好時，你實際上會更喜歡它，因為它更輕。你不必拿出手機(jī)。你不必搜索你的應(yīng)用程序并按下它。哦，它會自動將你注銷。哦，等等，重新登錄。這真是太痛苦了。

這就像用Siri設(shè)置計時器一樣。我每次都會這樣做，因為它真的很好用，很棒。而且我不需要更多信息。但是訂購Uber時，我想查看幾個不同選項的價格。我想探究一下，這個技術(shù)的應(yīng)用范圍有多廣。我甚至想要了解他們在地圖上的具體位置，因為我可能會選擇步行去某個地方。我認(rèn)為，通過查看Uber訂單屏幕，我可以在更短的時間內(nèi)獲取更多信息，而如果我必須通過音頻通道來獲取這些信息，那么所需的時間將會更長。我喜歡你提出的這種觀察事物發(fā)生的想法，這真的很酷。我認(rèn)為這將會帶來一些變化，我們會為不同的任務(wù)使用不同的界面。我相信這種趨勢會持續(xù)下去。

在所有在OpenAI上構(gòu)建應(yīng)用程序和體驗的開發(fā)人員中，有沒有一些讓你印象深刻的？你是否覺得這是一個非常有趣的方向，即使它只是一個玩具應(yīng)用程序。但是，你們是否有指出并說這真的很重要的？

今天早上，我遇到了一家新公司，實際上，它甚至還不能算作一家公司。這就像兩個人將在一個暑期項目中工作，試圖最終真正成為人工智能導(dǎo)師。我一直對這個領(lǐng)域很感興趣。在我們的平臺上，有很多人做出了很棒的事情。但如果有人能以你真正喜歡的方式交付，他們用了一句我喜歡的話，那就是這將像蒙特梭利級別的再造，讓人們學(xué)習(xí)事物的方式。但如果你能找到這種新方法讓人們自己探索和學(xué)習(xí)新的方式，我個人對此感到非常興奮。

德文，你之前提到的很多與編碼相關(guān)的東西，我認(rèn)為那就像一個非?？岬奈磥碓妇?。我認(rèn)為，醫(yī)療保健應(yīng)該因此而發(fā)生相當(dāng)大的變化。但我個人最興奮的是更快、更好地進(jìn)行科學(xué)發(fā)現(xiàn)。盡管GPT-4顯然沒有在很大程度上發(fā)揮作用，但它可能會通過提高科學(xué)家的生產(chǎn)力來加速事情的發(fā)展。

Sam……那將是一個勝利。這些模型的訓(xùn)練和構(gòu)建方式與語言模型不同。對一些人來說，顯然，有很多相似之處。但是有許多模型都具有一種從頭開始的架構(gòu)，它們被應(yīng)用于這些特定的問題集、這些特定的應(yīng)用，例如化學(xué)相互作用建模。你肯定會需要其中的一些。

我認(rèn)為，對于我們討論的許多事情，我們普遍缺少的是能夠進(jìn)行推理的模型。一旦你有了推理能力，你就可以將其連接到化學(xué)刺激器或其他任何東西上。

是的，這是我今天想討論的重要問題，即模型網(wǎng)絡(luò)的概念。人們經(jīng)常談?wù)摯?，就好像有一組線性的調(diào)用函數(shù)在發(fā)生。但在生物學(xué)中出現(xiàn)的一件事是具有交叉相互作用的系統(tǒng)網(wǎng)絡(luò)，系統(tǒng)的聚合……網(wǎng)絡(luò)的聚合產(chǎn)生輸出，而不是一個東西調(diào)用另一個東西，那個東西調(diào)用另一個東西。我們是否看到這種架構(gòu)中出現(xiàn)了專門的模型或網(wǎng)絡(luò)模型，它們共同解決更大的問題集，使用推理？有計算模型可以做化學(xué)或算術(shù)之類的事情，還有其他模型可以做，而不是一個純粹泛化的模型來統(tǒng)治它們。

我并不確定有多少推理能夠轉(zhuǎn)化為一種廣泛推廣的形式。我對此持懷疑態(tài)度，這更多的是一種直覺和期望，如果真能如此，那將是極好的。我并不確定……

讓我們以蛋白質(zhì)建模為例。我們有大量的訓(xùn)練數(shù)據(jù)、蛋白質(zhì)圖像以及序列數(shù)據(jù)，基于這些數(shù)據(jù)，我們建立了一個預(yù)測模型，并且我們有一套流程和步驟來實現(xiàn)這一目標(biāo)。

你是否曾設(shè)想過存在一種通用的人工智能或偉大的推理模型，它能夠找出如何構(gòu)建子模型，并通過獲取必要的數(shù)據(jù)來解決問題，然后解決問題……

實現(xiàn)這一目標(biāo)的方法有很多。也許它會訓(xùn)練一個文字模型，或者可能只是知道一個大模型。它可以選擇所需的其他訓(xùn)練數(shù)據(jù)，提出問題，然后進(jìn)行更新。

我想真正的問題是，所有這些初創(chuàng)公司是否都會倒閉？因為許多初創(chuàng)公司都在以這種模式工作，即獲取特殊數(shù)據(jù)，然后從頭開始用這些特殊數(shù)據(jù)訓(xùn)練新模型。然后它只做那一件事。而且它在那件事上工作得很好。它比其他任何東西都好。

我想你已經(jīng)可以看到一個版本了。

當(dāng)你談?wù)撋飳W(xué)和這些復(fù)雜的系統(tǒng)網(wǎng)絡(luò)時，我之所以能理解，是因為我最近病得很重?，F(xiàn)在我好多了。但就像身體一次一個系統(tǒng)地被打敗一樣。就像你確實能看出，好吧，這是級聯(lián)的事情。這讓我想起了你談?wù)摰纳飳W(xué)，就像你不知道這些系統(tǒng)之間的相互作用有多大，直到事情開始出錯。這有點(diǎn)有趣。

但我當(dāng)時正在使用ChatGPT試圖弄清楚發(fā)生了什么，不管怎樣，我會說，我對此并不確定。然后我就發(fā)表了一篇論文，甚至沒有閱讀論文，就像在上下文中一樣。它說，哦，那是我不確定的事情，現(xiàn)在我改為這么想。所以這就像你所說的一個小版本，你可以說，我不知道這個東西，你可以添加更多信息，你不需要重新訓(xùn)練建模者來添加到這里的上下文中。

所以這些預(yù)測蛋白質(zhì)結(jié)構(gòu)的模型，比如說，對，這是整個基礎(chǔ)?，F(xiàn)在，AlphaFold3上還有其他分子。他們能做到嗎？是的，這基本上是一個最好的廣義模型進(jìn)入并獲取訓(xùn)練數(shù)據(jù)然后自行解決問題的世界嗎？

也許你可以舉個例子，你能告訴我們關(guān)于Sora的情況嗎？你的視頻模型可以生成令人驚嘆的動態(tài)圖像、動態(tài)視頻，以及那里的架構(gòu)有什么不同，無論你愿意分享什么，如何讓它與眾不同。

是的，所以我首先說一般性的問題，你顯然需要專門的模擬器、連接器、數(shù)據(jù)片段等等，但我的直覺。再說一次，我沒有科學(xué)依據(jù)，我的直覺是，如果我們能夠找出廣義推理的核心，將其與新的問題領(lǐng)域聯(lián)系起來，就像人類是廣義推理者一樣，我認(rèn)為是否可以更快地解鎖，我想是的。但是，是的，你看它不是從語言模型開始的。這是一個專為視頻定制的模型。然而，我們顯然還沒有進(jìn)入那個世界。

舉個例子，為了建立一個優(yōu)秀的視頻模型，你們從零開始構(gòu)建，我猜測你們使用了一些不同的架構(gòu)和不同的數(shù)據(jù)。但在未來的廣義推理系統(tǒng)，也就是AGI，無論什么系統(tǒng)，理論上都可以通過理解如何實現(xiàn)這一點(diǎn)來達(dá)到目標(biāo)。

是的，一個例子是，據(jù)我所知，世界上所有最好的文本模型仍然是自回歸模型。最好的圖像和視頻模型是擴(kuò)散模型。這在某種程度上有些奇怪。

因此，關(guān)于訓(xùn)練數(shù)據(jù)存在很大的爭議。我認(rèn)為你們是所有公司中最體貼的，你們現(xiàn)在已經(jīng)與FT等簽訂了許可協(xié)議。我們在這里必須謹(jǐn)慎一些，因為你們卷入了《紐約時報》的訴訟，我想你們無法與他們達(dá)成關(guān)于訓(xùn)練數(shù)據(jù)的協(xié)議。

你如何看待合理使用的公平性？我們在播客上進(jìn)行了激烈的辯論。顯然，你的行動充分表明，你正試圖通過許可協(xié)議來實現(xiàn)公平。那么，你個人對創(chuàng)作優(yōu)美音樂、歌詞、書籍的藝術(shù)家的權(quán)利持什么立場？你利用這些權(quán)利制作衍生產(chǎn)品，然后將其貨幣化？什么是公平？我們?nèi)绾尾拍茏屗囆g(shù)家創(chuàng)造內(nèi)容，然后決定他們希望其他人如何處理這些內(nèi)容？

我只是好奇你的個人信念，因為我知道你在這方面是一個深思熟慮的人。我知道我們行業(yè)中的許多其他人對內(nèi)容創(chuàng)作者的看法并不十分深思熟慮。所以我認(rèn)為不同類型的人會有很大不同。

在公平使用方面，我認(rèn)為我們在現(xiàn)行法律下有一個非常合理的立場，但我認(rèn)為人工智能是如此不同。但對于藝術(shù)之類的東西，我們需要以不同的方式去思考。

但是，假設(shè)你在網(wǎng)上讀了一堆數(shù)學(xué)知識，并學(xué)會了如何做數(shù)學(xué)，我認(rèn)為這對大多數(shù)人來說似乎無可非議。然后，還有另一群人可能會有不同的看法。實際上，為了讓這個答案不要太長，我不再深入討論這個問題。

所以我認(rèn)為有一類人會說，好吧，有廣義的人類知識，你可以說，如果你學(xué)會了，那就是，那就是開放領(lǐng)域之類的，如果你去學(xué)習(xí)畢達(dá)哥拉斯定理。這是光譜的一端。我認(rèn)為光譜的另一個極端是藝術(shù)，甚至可能更具體一點(diǎn)，我會說它就像在做，它是一個以另一位藝術(shù)家的風(fēng)格或相似性產(chǎn)生藝術(shù)的系統(tǒng)，這可能是最極端的。然后在光譜中間還有許多許多情況。

我認(rèn)為，從歷史上看，討論的焦點(diǎn)一直是訓(xùn)練數(shù)據(jù)，但隨著訓(xùn)練數(shù)據(jù)的價值降低，討論將越來越多地轉(zhuǎn)向推理時發(fā)生的事情。而系統(tǒng)做什么，實時訪問上下文中的信息，或者采取類似措施，推理時發(fā)生的事情，以及新的經(jīng)濟(jì)模式如何，將受到更多爭論。

因此，如果您說，例如，如果您說，例如，用泰勒·斯威夫特的風(fēng)格為我創(chuàng)作一首歌曲，即使模型從未接受過任何泰勒·斯威夫特歌曲的訓(xùn)練，您仍然會遇到問題，即模型可能讀過關(guān)于泰勒·斯威夫特的文章，可能知道她的主題，泰勒·斯威夫特意味著什么。接下來的問題是，即使這個模型從未接受過泰勒·斯威夫特歌曲的訓(xùn)練，我們是否應(yīng)該允許它這樣做？如果是的話，泰勒·斯威夫特應(yīng)該如何得到相應(yīng)的報酬？

我認(rèn)為首先，這種情況下應(yīng)該有一個選擇權(quán)，即可以選擇加入或退出，然后應(yīng)該有一個經(jīng)濟(jì)模型。以音樂為例，從歷史角度來看，這里有一些有趣的東西值得一看，那就是采樣以及圍繞采樣的經(jīng)濟(jì)學(xué)如何運(yùn)作。這是完全一樣的事情，但它是一個有趣的起點(diǎn)。

Sam，讓我挑戰(zhàn)一下這一點(diǎn)。

你舉的這個例子有什么不同？模型學(xué)習(xí)歌曲的結(jié)構(gòu)、節(jié)奏、旋律、和聲、關(guān)系，發(fā)現(xiàn)使音樂成功的所有底層結(jié)構(gòu)，然后使用訓(xùn)練數(shù)據(jù)構(gòu)建新音樂。而人類聽了很多音樂，他們的大腦正在處理和建立所有相同的預(yù)測模型，這些都是相同的發(fā)現(xiàn)或理解。這里有什么區(qū)別？為什么你要說也許藝術(shù)家應(yīng)該得到獨(dú)特的報酬，這不是一個采樣的情況，你不是人工智能沒有輸出，它也沒有在模型中存儲實際的原創(chuàng)歌曲。

是的，學(xué)習(xí)結(jié)構(gòu)。

所以我并不是想強(qiáng)調(diào)這一點(diǎn)，因為我同意，就像人類受到其他人類的啟發(fā)一樣。我是說，如果你說為我創(chuàng)作一首泰勒斯威夫特風(fēng)格的歌曲。

我明白了。我認(rèn)為這就是提示利用一些藝術(shù)家的地方。

我個人認(rèn)為，這是一個不同的情況。

你愿意讓模型自己訓(xùn)練，使用人類創(chuàng)作的整個音樂語料庫來訓(xùn)練音樂模型，而不向輸入音樂的藝術(shù)家支付版稅？

然后，你不能問藝術(shù)家的具體提示，你可以說，嘿，給我一首很酷的流行歌曲，這首歌相當(dāng)現(xiàn)代，講述了心碎的故事，用女性的聲音

我們目前決定不做音樂了。部分原因是，你在哪里劃清界限。

我最近和幾位我非常欽佩的音樂家見面，我只是想談?wù)勥@些極端情況，但即使在這個世界里，如果我們?nèi)ィ僭O(shè)我們付錢給10,000名音樂家創(chuàng)作一堆音樂，只是為了制作一個很棒的訓(xùn)練集，音樂模型可以學(xué)習(xí)關(guān)于強(qiáng)大歌曲結(jié)構(gòu)的一切。什么造就了好的、朗朗上口的節(jié)拍和其他一切。并且只對此進(jìn)行訓(xùn)練，假設(shè)我們?nèi)匀豢梢灾谱鞒龊馨舻囊魳纺Ｐ停苍S我們可以。我有點(diǎn)像是把它當(dāng)作一個思想實驗擺在音樂家面前。而他們好吧，在那個時候我無法從任何原則上反對這一點(diǎn)。然而，我仍然不喜歡它?，F(xiàn)在，這不一定是不這樣做的理由。但這是。

你看到蘋果發(fā)布的廣告了嗎，也許是昨天，或者類似的東西，將人類的所有創(chuàng)造力壓縮到一個非常薄的iPad中？

你對此有何看法？

人們對此非常激動。

是的。反應(yīng)比你想象的要強(qiáng)烈。

我顯然非常看好人工智能，但我認(rèn)為人類創(chuàng)造力和人類藝術(shù)表達(dá)有一些美妙之處。對于一個能夠在科學(xué)研究上做得更好的人工智能來說，這太棒了，來吧。然而，如果人工智能能夠達(dá)到人類深刻而美麗的創(chuàng)造性表達(dá)的程度，我認(rèn)為我們需要明確這將會如何發(fā)生。它將成為一種工具，引領(lǐng)我們達(dá)到更高的創(chuàng)意高度。但我認(rèn)為我們需要找到方法來實現(xiàn)這一點(diǎn)，以保留我們所有人所關(guān)心的精神。

我認(rèn)為你的行動具有很強(qiáng)的說服力。我們試圖在DALL-E中塑造《星球大戰(zhàn)》中的角色。如果你要求達(dá)斯·維達(dá)，它會說，嘿，我們不能那樣做。因此，我想，你已經(jīng)在內(nèi)部組建了紅隊或者你可以隨意稱呼它。我們已經(jīng)嘗試過了。是的，你不允許人們使用其他人的知識產(chǎn)權(quán)。所以你已經(jīng)做出了這個決定。

現(xiàn)在，如果你要求它制作一只絕地斗牛犬或一只西斯領(lǐng)主斗牛犬（我就是這么做的），它會把我的斗牛犬變成西斯斗牛犬。

關(guān)于你所說的有一個有趣的問題，是的。我們昨天發(fā)布了一個叫做規(guī)范的東西，我們試圖說明我們的模型應(yīng)該如何表現(xiàn)。這是一項艱巨的任務(wù)。這是一份很長的文件。在每種情況下準(zhǔn)確指定限制應(yīng)該在哪里是非常困難的。我認(rèn)為這是一個需要更多投入的討論。

然而，關(guān)于可能不應(yīng)該產(chǎn)生達(dá)斯·維達(dá)，但西斯尊主、西斯風(fēng)格的東西或絕地武士的想法在這一點(diǎn)上就像是文化的一部分，這些都是艱難的決定。

是的，我認(rèn)為你是對的。音樂行業(yè)將考慮這個機(jī)會，讓泰勒·斯威夫特的歌曲成為他們的機(jī)會。這是四部分合理使用測試的一部分，這些測試可以利用現(xiàn)有藝術(shù)的新創(chuàng)新。迪士尼有一個論點(diǎn)，嘿，如果你要制作索拉版本的阿育王，或者歐比旺·克諾比，那就是迪士尼的機(jī)會。這對你來說是一個很好的合作伙伴關(guān)系。

因此，我認(rèn)為我將這一部分標(biāo)記為人工智能和法律。

那么，讓我問一個更高層次的問題。當(dāng)人們說監(jiān)管人工智能時，這是什么意思？如果你愿意的話，你也可以對加州新提出的法規(guī)發(fā)表評論。

我對此感到非常擔(dān)憂。有很多擬議的法規(guī)，但我看到的大多數(shù)關(guān)于加利福尼亞州的法規(guī)讓我感到擔(dān)憂。我還擔(dān)心各州會自己這樣做。

當(dāng)人們說要監(jiān)管人工智能時，我認(rèn)為他們的意思并不是一個具體的事物。我認(rèn)為有些人會禁止整個事情。有些人會說，不允許它開源，要求它開源。我個人最感興趣的是，我認(rèn)為會有人說，看，我可能錯了。我承認(rèn)這是一個前瞻性的聲明。而做出這些聲明總是很危險的。但我認(rèn)為在不遠(yuǎn)的將來，會有那么一天，我們說的不是幾十年后，人工智能說前沿人工智能系統(tǒng)能夠?qū)θ蛟斐芍卮髠Ατ谶@些系統(tǒng)，同樣，我們對核武器或合成生物等可能產(chǎn)生非常負(fù)面的影響的東西進(jìn)行全球監(jiān)督，而這些影響可能遠(yuǎn)遠(yuǎn)超出一個國家的范疇。我期待看到某個國際機(jī)構(gòu)正在研究最強(qiáng)大的系統(tǒng)，并確保進(jìn)行合理的安全測試。這些系統(tǒng)不會自動逃避，也不會自我改進(jìn)等。

然而，對此的批評在于，你擁有資源去討好、游說、參與，你與政治家們關(guān)系密切，而對于初創(chuàng)公司來說，盡管他們對此充滿熱情并進(jìn)行投資，但他們卻沒有足夠的資源來處理這個問題。這種監(jiān)管俘獲的現(xiàn)象，正如我們的朋友比爾·格利（Bill Gurley）去年在他的演講中所指出的。

因此，也許你可以正面解決這個問題。如果我們只關(guān)注那些價值超過100億美元或超過1000億美元或其他任何美元的計算機(jī)上訓(xùn)練的模型，我會對此感到滿意。這是我可以接受的一條線。我認(rèn)為這不會給初創(chuàng)公司帶來任何監(jiān)管負(fù)擔(dān)。

因此，如果你擁有制造核彈的核原料，就像有一小部分人擁有它一樣，你可以使用類似核檢查員的情況的類比。我認(rèn)為這是一個有趣的觀點(diǎn)。

我可以再說一件事嗎？當(dāng)然。我對這里的監(jiān)管過度感到非常緊張。我認(rèn)為我們做得太多，甚至有點(diǎn)過頭，都可能出錯。我認(rèn)為我們做得不夠，也可能會出錯。但我確實認(rèn)為部分原因在于……現(xiàn)在，我們已經(jīng)看到監(jiān)管越權(quán)或控制在其他領(lǐng)域變得非常糟糕。

而且，也許什么也不會發(fā)生。但我認(rèn)為，談?wù)撐覀冋J(rèn)為可能發(fā)生的事情以及實現(xiàn)這一目標(biāo)需要做些什么，這是我們職責(zé)和使命的一部分。

Sam，挑戰(zhàn)在于，我們有保護(hù)人民、保護(hù)整個社會的法規(guī)。

然而，我們正在制定的法規(guī)賦予政府進(jìn)入和審計商業(yè)機(jī)密的權(quán)利。我們以前從未見過這種程度的法規(guī)?；旧希又萏岢龅牧⒎ê鸵恍┞?lián)邦提出的立法基本上要求政府審計一個模型、審計軟件、審計和審查模型的參數(shù)和權(quán)重。然后你需要他們的勾選才能將其部署用于商業(yè)或公共用途。

對我來說，這感覺就像我們試圖控制政府機(jī)構(gòu)以制造恐懼。因為人們很難理解這一點(diǎn)，害怕它的影響，他們想控制它。而控制它的唯一方法就是說，在我發(fā)布它之前給我審計權(quán)。

是的，他們一無所知。這些人一無所知。這些東西的寫作方式，你讀了它，你會抓狂。因為如你所知，在12個月內(nèi)，這些東西無論如何都不會有意義。我之所以推動采用基于代理的方法來解決大局問題，而不是像法律那樣寫出來，

我不認(rèn)為即使這些人是真正的世界專家，我也不認(rèn)為他們能夠在12或24個月內(nèi)正確處理。我不認(rèn)為。我們將對這些政策進(jìn)行審查，對您的所有源代碼進(jìn)行全面檢查，并逐一查看您的所有權(quán)重。我確實認(rèn)為存在許多瘋狂的提議，特別是當(dāng)模型不斷接受重新訓(xùn)練，變得更加動態(tài)時。這也是我認(rèn)為它是有意義的原因。

在飛機(jī)獲得認(rèn)證之前，我們會進(jìn)行一系列安全測試，讓飛機(jī)通過這些測試。這與閱讀所有代碼的過程完全不同。我們是在審查模型的輸出，而不是查看模型的內(nèi)部。

因此，我認(rèn)為進(jìn)行安全測試是有意義的。

那么，Sam，我們應(yīng)該如何實現(xiàn)這一點(diǎn)呢？

我在此不僅代表OpenAI，也代表整個行業(yè)，甚至代表人類。我擔(dān)心，如果我們限制這些有巨大發(fā)展?jié)摿蛯θ祟愑芯薮笠嫣幍募夹g(shù)，我們可能會陷入黑暗時代。那么，我們應(yīng)該如何改變這種情況并實現(xiàn)這一目標(biāo)呢？

因為政府層面的發(fā)展速度太快，人們似乎都弄錯了方向，我對此感到擔(dān)憂。在此基礎(chǔ)上，Sam，例如，Lama的架構(gòu)決策非常有趣，因為我們將讓Llama在盡可能少的約束下成長。我們還有另一種東西，我們稱之為Llama Guard，它旨在成為這些保護(hù)性護(hù)欄。

你認(rèn)為問題得到正確解決的方式是什么？

以目前模型的強(qiáng)度來看，肯定會出現(xiàn)一些問題。我不想輕視這些或不認(rèn)真對待這些。但我并不擔(dān)心GPT-4級模型會帶來任何災(zāi)難性風(fēng)險。我認(rèn)為有很多安全的方法可以選擇部署它。

如果我們這樣說，也許我們會找到更多的共同點(diǎn)。我喜歡這個具體的例子，即模型具有能力，技術(shù)上也具有能力，即使它們不以這種方式使用，也可以進(jìn)行遞歸式自我改進(jìn)，或者自主設(shè)計和部署生物武器，或諸如此類的東西?；蛘呤且环N新模型。那是遞歸式自我改進(jìn)的要點(diǎn)。

我們應(yīng)該在國際層面對模型的輸出進(jìn)行安全測試，因為這些模型有合理的機(jī)會在那里構(gòu)成威脅。我不認(rèn)為像GPT-4這樣的東西，當(dāng)然不會構(gòu)成任何威脅，好吧，我不是說任何威脅，因為我們不認(rèn)為，是的，我不認(rèn)為GPT-4對這些事情構(gòu)成實質(zhì)性威脅。我認(rèn)為有很多安全的方法來發(fā)布這樣的模型。

但是，當(dāng)重大人員傷亡是一個嚴(yán)重的可能性時，比如飛機(jī)或任何其他例子，我認(rèn)為我們很高興有某種測試框架，比如當(dāng)我上飛機(jī)時，我不會考慮飛機(jī)，我只是假設(shè)它會是安全的。

Sam，現(xiàn)在有很多關(guān)于就業(yè)的擔(dān)憂。你在YC時做過很多關(guān)于UBI的測試。你的結(jié)果很快就會出來。我只是說，這是一項五年前結(jié)束或開始的研究。首先是測試版研究，然后是長期研究。然而，你從這一切中學(xué)到了什么？

確實，你為何要開始這一切？你能否解釋一下你為何要開始研究通用基本收入（UBI）？

我們在2016年開始考慮這個問題，大約在同一時間，我們開始認(rèn)真對待人工智能。理論上，社會和經(jīng)濟(jì)中的就業(yè)變化，以及某種更深層次的意義（例如，社會契約將如何改變）可能帶來的變化幅度，意味著我們應(yīng)該進(jìn)行大量研究，探索關(guān)于如何安排這些新變化的各種想法。

我必須承認(rèn)，我并不是政府處理大多數(shù)旨在幫助窮人的政策的狂熱支持者。我傾向于相信，如果你能給人們錢，他們會做出正確的決定，市場會發(fā)揮作用。我非常支持提高最低生活標(biāo)準(zhǔn)，減少貧困，甚至消除貧困。但我感興趣的是，是否有比我們?yōu)楝F(xiàn)有社會安全網(wǎng)所做的嘗試更好的方法，以及處理事情的方式。

我認(rèn)為給人們錢并不能解決所有問題，當(dāng)然也不能讓人們都感到快樂。但它可能會解決一些問題，讓人們有更好的視野來幫助自己。我對此很感興趣。

我認(rèn)為，現(xiàn)在我們看到了一些方法，所以2016年已經(jīng)是很久以前的事了。現(xiàn)在我們看到了人工智能正在發(fā)展的一些方式，我想知道是否有比傳統(tǒng)的UBI概念更好的事情要做。比如，我想知道，未來是否更像是通用基本計算，而不是通用基本收入。每個人都會得到一部分GPT-7計算，他們可以使用它，可以轉(zhuǎn)售它，可以捐贈給某人用于癌癥研究。但是，你得到的不是美元，而是生產(chǎn)力的一部分。是的，你擁有部分生產(chǎn)力。

好的，讓我們談?wù)劙素?。那么，讓我們回到去年十一月。到底發(fā)生了什么？

如果你有具體的問題，我很樂意回答，也許我說過我們會在某個時候談?wù)撍?/p>

所以這就是重點(diǎn)。發(fā)生了什么？你被解雇了，然后你回來了，這是一場宮廷陰謀。有人在背后捅你刀子嗎？你找到了人工智能的終極目標(biāo)（AGI）了嗎？發(fā)生了什么事？這是一個安全的空間。

我被解雇了。我說過要回來，我當(dāng)時有點(diǎn)不確定我想做什么，因為我非常沮喪。我意識到我真的很喜歡OpenAI和那里的人，我會回來的，我知道這會很難。這比我想象的還要難。但我當(dāng)時就想，好吧，沒問題。我同意回來。董事會花了一段時間才弄清楚。然后，我們有點(diǎn)像是在試圖讓團(tuán)隊團(tuán)結(jié)起來，繼續(xù)為我們的客戶做事。然后，開始制定其他計劃，然后董事會決定聘請另一位臨時首席執(zhí)行官。天哪，那家伙叫什么名字？他的存在就像是在嚇唬人，這是非常棒的。我只有好東西要說。

那么，你是在哪里得知你被解雇的消息的呢？

我是在拉斯維加斯的一家酒店房間里度過周末的時候得知的。我收到了一條短信，他們說，開火接機(jī)。我想在我試圖思考我是否被解雇之前，你也遇到過這種情況。我并不認(rèn)為我已經(jīng)厭倦了這種情況。是的，我收到了一條短信。不，這只是一件奇怪的事情。

那么，這條短信是誰發(fā)的呢？

實際上，我在前一天晚上就收到了這條短信。然后我和董事會通了電話。然后就是這樣。然后我有點(diǎn)，然后一切都變得瘋狂。我當(dāng)時我的手機(jī)無法使用。它只是不停地震動，比如短信、電話。

基本上，你是被推文解雇的。這在特朗普政府期間發(fā)生過幾次。

他們在發(fā)推文之前確實先給我打電話，這對他們來說很好。然后，我在酒店房間里度過了幾個小時的完全神游狀態(tài)。我當(dāng)時非常困惑，不知道該怎么做。太奇怪了。

然后，我飛回家，可能是上了飛機(jī)，大約在下午 3 點(diǎn)左右。仍然像，你知道的，瘋狂的電話不停地響個不停。我親自見了一些人。到了那天晚上，我想，好吧，我會去做 AGI 研究，我對未來感到非常高興。是的，我有選擇。

然后第二天早上，我和幾位董事會成員通了電話，討論回來的問題，這又導(dǎo)致了幾天的混亂。然后，我覺得事情解決了。好吧，中間有很多瘋狂的事情。

其中有多少是因為這些非營利董事會成員？

好吧，我們只有一個非營利董事會。所以都是非營利董事會成員。董事會人數(shù)減少到六個人。然后他們把格雷格從董事會中除名，然后解雇了我。

所以，董事會中只有非營利經(jīng)驗的人和有創(chuàng)業(yè)經(jīng)驗的人之間是否存在文化沖突？如果你愿意的話，也許你可以分享一下行動背后的動機(jī)，任何你能分享的東西。

我認(rèn)為文化沖突一直存在。顯然，并不是所有董事會成員都是我最喜歡的人，但我非常尊重他們對待 AGI 的嚴(yán)肅態(tài)度以及正確處理 AI 安全的重要性。即使我完全不同意他們的決策和行動，我也從未懷疑過他們的正直或?qū)Π踩陀幸娴?AGI 的共同使命的承諾。

我認(rèn)為他們在這個過程中做出了正確的決定，或者知道如何平衡 OpenAI 必須做對的所有事情嗎？不。但我認(rèn)為他們有意圖，有 AGI 規(guī)模的意圖，并把它做好。

實際上，讓我問你這個問題。所以 OpenAI 的使命明確是創(chuàng)造 AGI，我認(rèn)為這真的很有趣。許多人認(rèn)為，如果我們創(chuàng)造出人工智能（AGI），那將是某種事情出錯的意外結(jié)果。他們對此感到極度恐懼。然而，OpenAI卻將其視為實際的使命。這是否會讓你對你所做的事情感到更多的恐懼？我理解這也能產(chǎn)生動力，但你如何調(diào)和這一點(diǎn)？我想知道，為什么這是使命？

我認(rèn)為，首先我要回答的是，這確實引發(fā)了很大的恐懼。我認(rèn)為世界上很多人都對AGI，甚至當(dāng)前的AI感到非常害怕，同時也對其發(fā)展方向感到非常興奮，甚至更加害怕和興奮。我們?yōu)榇硕嗫鄴暝?。但我認(rèn)為這是不可避免的。我還認(rèn)為它會帶來巨大的好處。但我們必須找到如何以合理的方式到達(dá)那里的方法。很多事情都會發(fā)生改變，而改變會讓人們感到不舒服。所以我們有很多事情需要做對。

我可以問一個不同的問題嗎？你已經(jīng)創(chuàng)造了一個最熱門的公司。而你確實處于中心的位置。但是從經(jīng)濟(jì)角度來看，你回避了所有這些價值，這非常獨(dú)特。你能給我們講講嗎？

是的，我希望我當(dāng)時拿到了股權(quán)，這樣我就不必回答這個問題了。如果我能回到過去……

為什么他們現(xiàn)在不給你一筆補(bǔ)助金？為什么董事會不給你一筆你應(yīng)得的大額期權(quán)補(bǔ)助金？當(dāng)時的決定是什么？為什么那如此重要？

當(dāng)時的決定，最初的原因只是我們非營利組織的結(jié)構(gòu)。從動機(jī)的角度來看，這很好。但主要是我們的董事會需要大多數(shù)無私的董事。我想，那很好。我現(xiàn)在不需要股權(quán)。我有點(diǎn)……但是，我希望……

但是以這種奇怪的方式，現(xiàn)在你經(jīng)營著一家公司，是的，它會產(chǎn)生這些奇怪的問題，比如，你的真正動機(jī)是什么……

完全正確。

這太深刻了……我注意到的一件事是，人們很難想象他們會說“我不需要更多的錢”。我也知道音調(diào)是多么的不敏感...我認(rèn)為人們認(rèn)為這有點(diǎn)別有用心。是的。所以假設(shè)...他還在做什么來賺錢？如果我只是說，我要用OpenAI賺一萬億美元，我想每個人都會過得更輕松，而這救不了我。這會省去很多陰謀論。

Sam，你是一個偉大的交易撮合者。我關(guān)注了你的整個職業(yè)生涯。你在這方面很厲害。你擁有所有這些關(guān)系。你真的很擅長籌集資金。你在這方面很棒。你還有約翰尼·艾維，，你投資公司，你得到了球，你籌集了7萬億美元來建造晶圓廠，所有這些東西。所有這些因素綜合在一起，

這里我只是開個玩笑。顯然，你并沒有籌集到7萬億美元，這可能只是市值之類的東西。然而，拋開這些不談，關(guān)鍵在于你已經(jīng)進(jìn)行了所有這些交易。他們對你的不信任，是因為你的動機(jī)是什么？你最后離開了，OpenAI內(nèi)部的機(jī)會是什么？哪些機(jī)會應(yīng)該屬于Sam，而這些非營利組織的人卻不信任你？是這樣嗎？

如果我們是設(shè)備公司，或者我們正在做一些芯片制造公司，那些就不是Sam的項目。就像OpenAI會得到那筆股權(quán)一樣。他們會得到的。

然而，這并不是公眾的看法。這并不是像你那樣，那些整天都在評論這些事情的人的看法。這是公平的，因為我們還沒有宣布這些事情，因為它還沒有完成。我不認(rèn)為世界上大多數(shù)人都在考慮這個問題。但我同意，這在技術(shù)評論員中引發(fā)了很多陰謀論。

如果我可以回到過去，我會說，讓我公平地把這一點(diǎn)說清楚。然后，我仍然會這樣做，因為我真的很關(guān)心AGI，我認(rèn)為這是世界上最有趣的工作。但至少，它會向所有人發(fā)出警告。

那么，什么是芯片項目？那是7萬億美元。那個7萬億美元的數(shù)字是從哪里來的？

我不知道那是從哪里來的。實際上，我真的不知道。我認(rèn)為世界需要更多的人工智能基礎(chǔ)設(shè)施，遠(yuǎn)遠(yuǎn)超過目前計劃建設(shè)的數(shù)量，而且成本結(jié)構(gòu)也不同。我們在那里玩的具體方式是，我們?nèi)栽谠噲D弄清楚。

你喜歡OpenAI的組織模式是什么？它是像快速行動、打破常規(guī)、高度分散的小團(tuán)隊嗎？還是更多的是這種有組織的努力，你需要計劃，因為你想防止一些極端情況？

這并不是因為我們需要更有組織來防止極端情況。而是因為這些系統(tǒng)非常復(fù)雜，集中賭注非常重要。比如，在這樣做之前，你有像DeepMind這樣的公司，所有這些不同的團(tuán)隊都在做這些不同的事情。他們分散了賭注。你讓OpenAI說，我們基本上要讓整個公司一起努力制作GPT-4。這對于如何運(yùn)營一個人工智能研究實驗室來說是難以想象的。但我認(rèn)為，至少它是有效的，它對我們是有效的。所以不是因為我們想避免極端情況，而是因為我們想集中資源，做這些大而難、復(fù)雜的事情。在我們的工作中，確實存在大量的協(xié)調(diào)工作。

好的，Sam，我明白你需要離開了。你在過去的一小時里表現(xiàn)得非常出色。歡迎你隨時回來，我很高興能與你們交談。是的，這是一次非常有趣的對話。感謝你的到來，

Sam，也感謝你的坦誠。我們已經(jīng)討論了這個問題超過一年了。這真是太棒了，我對此感到非常感激。

我很期待在下一次重大發(fā)布會后能再次回來，這樣我就可以更直接地談?wù)撈渲械囊恍┦虑椤?/p>

是的，你已經(jīng)收到了 Zoom 鏈接。每周都會使用相同的 Zoom 鏈接，同一時間，你可以隨時加入(笑)