責編 | 王啟隆

出品 | CSDN（ID：CSDNnews）

投稿或?qū)で髨蟮?| zhanghy@csdn.net

在人工智能這場關(guān)乎未來的豪賭中，Anthropic CEODario Amodei是一個無法被簡單歸類的角色。

他既是推動技術(shù)指數(shù)級發(fā)展的核心人物，也是國會山最憂心忡忡的“吹哨人”。

他在 OpenAI 風頭無兩的那一年打造了足以與 GPT-4o 媲美的 Claude 3 Opus，并在今年推出了編程能力數(shù)一數(shù)二的Claude 4 模型。而在另一邊，Amodei 經(jīng)常疾呼這項技術(shù)的潛在風險，甚至不惜惹惱像英偉達 CEO 黃仁勛這樣的行業(yè)巨頭。

這種看似矛盾的立場，讓他飽受非議。有人稱他為“末日論者”，認為他危言聳聽，只是為了鞏固自家公司的領先地位，甚至想借安全之名，“控制整個行業(yè)”。面對這樣的指控，Amodei 在接下來和 Big Technology 播客的 Alex Kantrowitz 的對話中給出了迄今最激烈、最坦誠的回應：“那是我聽過最無恥、最離譜的謊言。”

Amodei 罕見地談及了個人經(jīng)歷對他事業(yè)選擇的深刻影響：“我父親因那些本可能晚幾年就出現(xiàn)的療法而離世。所以當有人說我想放慢腳步時，我感到非常、非常憤怒?！?這句話，或許才是理解他一切行為的關(guān)鍵。他比任何人都清楚技術(shù)加速的價值，也正因如此，他比任何人都恐懼失控的代價。

Amodei 堅信，我們正處在一個巨大的“指數(shù)定律”時代，AI 的能力正以超乎想象的速度攀升。這種緊迫感，源于他對未來的清晰預判，也讓他對行業(yè)的浮躁與短視感到極度不安。他認為，真正的競爭不在于一時的模型跑分，而在于能否建立一種負責任、有遠見的文化，吸引最頂尖、最有使命感的人才。

以下是這場對話的內(nèi)容，由 CSDN 進行了精編整理。

我說的越多，只是因為我們離懸崖越近

主持人：讓我們回顧一下你過去幾個月的經(jīng)歷。

• 你曾說 AI 可能會讓一半的入門級白領工作消失；

• 當你得知 OpenAI 打算收購 Windsurf 時，你切斷了 Windsurf 對 Anthropic 頂級模型的訪問權(quán)限；

• 你要求政府實施出口管制，結(jié)果惹惱了英偉達 CEO 黃仁勛。

你這是怎么了？

Dario Amodei：嗯，你知道，我認為 Anthropic，包括我個人，一直以來都專注于踐行和言說我們所堅信的理念。

我認為，隨著我們離那些更強大的 AI 系統(tǒng)越來越近，我希望更用力、更公開地去言說這些理念，把觀點講得更清楚。多年來我一直在說，我們有這些規(guī)模法則（Scaling Laws）——我們可以詳細聊聊——AI 系統(tǒng)的能力正在變得越來越強。它們正從幾年前幾乎語無倫次的水平，發(fā)展到現(xiàn)在。幾年前，它們大概是聰明的初中生水平；現(xiàn)在，我們正接近聰明的大學生、博士生水平，并且開始在整個經(jīng)濟體中得到應用。

所以，我認為所有與 AI 相關(guān)的問題，從國家安全到經(jīng)濟影響，都開始變得非常現(xiàn)實，離我們非常近了。因此，隨著這些問題越來越近，即便 Anthropic 在某種形式上已經(jīng)談論這些事情有一段時間了，但我認為這些事情的緊迫性已經(jīng)大大增加了。

而且，你知道，我希望確保我們說出我們所相信的，并且我們就未來可能發(fā)生的風險向世界發(fā)出警告。即便沒人能確切地說會發(fā)生什么。我們只是在說我們認為可能會發(fā)生什么，我們認為很可能會發(fā)生什么。我們盡力用證據(jù)支持我們的觀點，盡管這往往是基于對未來的推斷，沒人能百分之百確定。

但我認為，我們視自己有責任去就即將發(fā)生的事情向世界發(fā)出警告。這并不是說，我認為 AI 沒有海量的積極應用。我一直在談論這一點，我寫過那篇名為《充滿慈愛的機器》（Machines of Loving Grace）的文章。

事實上，我感覺我和 Anthropic 往往能比那些自稱為“樂觀主義者”或“加速主義者”的人，更好地闡述 AI 的益處。所以我認為我們可能比任何人都更理解這項技術(shù)的好處。但正因如此，正因為我們有機會在一切都做對的情況下，創(chuàng)造一個如此美好的世界，我才感到有責任就其風險發(fā)出警告。

主持人：所以，你所有的這些行為，都源于你的時間線判斷?；旧希闼坪醣却蠖鄶?shù)人有一個更短的時間線，所以你感到一種緊迫感，要去大聲疾呼，因為你認為這一切都迫在眉睫。

Dario Amodei：是的。我并不百分之百確定。我認為預測未來非常困難，尤其是在社會影響層面。比如你說，人們何時會部署 AI？公司何時會投入 X 億美元在 AI 上？或者 AI 何時會被用于那些醫(yī)療突破？這很難說。底層的技術(shù)發(fā)展更具可預測性，但仍然存在不確定性，沒人真的知道。

但我認為，在底層技術(shù)層面，我開始變得更有信心。當然，不確定性并非完全沒有。我認為我們所處的指數(shù)增長曲線，完全有可能停滯。我覺得大概有20%或25%的可能性，在未來兩年內(nèi)的某個時候，模型就停止進步了，原因可能是我們不理解的，也可能是我們能理解的，比如數(shù)據(jù)或算力的可用性。到那時，我說的每句話都會顯得很傻，每個人都會因為我發(fā)出的所有警告而嘲笑我。你知道，考慮到我所看到的可能性分布，我完全接受那種結(jié)果。

主持人：我得說明一下，這次對話是我正在為你撰寫的一篇人物特寫的一部分。我已經(jīng)和超過二十位與你共事過、了解你、與你競爭過的人聊過。但在我與所有人交流的過程中，有一個主題貫穿始終，那就是在所有主流實驗室的負責人中，你的時間線判斷幾乎是最短的。你剛才也提到了這一點。那么，為什么你的時間線這么短？我們又為什么要相信你的判斷？

Dario Amodei：這真的取決于你說的“時間線”具體指什么。

比如說，有一些術(shù)語在 AI 圈子里很流行，像 AGI（通用人工智能）和超級智能。你會聽到一些公司領導說，我們已經(jīng)實現(xiàn)了 AGI，正在向超級智能邁進。

說實話，我覺得這些詞完全沒有意義。我不知道什么是 AGI，也不知道什么是超級智能。 它聽起來像個營銷術(shù)語，像是為了激活人們的多巴胺而設計的。所以你會發(fā)現(xiàn)，在公開場合，我從不使用這些詞，而且我還會很小心地去批評這些詞的使用。

指數(shù)定律，才是唯一真實的東西

Dario Amodei：但我認為，盡管如此，我確實是對 AI 能力將極速提升這件事最樂觀的人之一。我認為唯一真實的東西，就是那條指數(shù)曲線。這個概念是：每隔幾個月，我們就會得到一個比上一個更強的AI模型。而我們之所以能做到這一點，是因為我們投入了更多的算力、更多的數(shù)據(jù)，以及更多新型的訓練方法。

最初，這是通過所謂的“預訓練”完成的，就是你把互聯(lián)網(wǎng)上的海量數(shù)據(jù)喂給模型。現(xiàn)在，我們有了第二階段，也就是強化學習，或者叫測試時計算、推理等等，你怎么稱呼它都行。我認為這是一個涉及強化學習的第二階段。現(xiàn)在，這兩個階段都在同步擴展，我們從我們自己的模型和其他公司的模型中都看到了這一點。

我沒有看到任何東西能阻礙這種規(guī)?；倪M一步發(fā)展。

當然，有一些問題，比如我們?nèi)绾瓮貙拸娀瘜W習階段的任務范圍。我們已經(jīng)看到在數(shù)學和代碼方面取得了更多進展，模型的水平正接近高級專業(yè)人士。但在更主觀的任務上，進展就少一些。但我認為這只是一個暫時的障礙。

所以，當我審視這一切時，我看到了這條指數(shù)曲線，然后我說：“看，人類并不擅長理解指數(shù)增長。” 對吧？就像，如果某個東西每六個月翻一番，那么在它真正爆發(fā)的兩年前，它看起來只完成了整個過程的十六分之一。

而我們現(xiàn)在就坐在這里，在 2025 年年中，模型的各項能力正開始在經(jīng)濟領域爆炸式增長。如果你看模型的性能，它們已經(jīng)開始在所有基準測試中達到飽和。如果你看營收，Anthropic 的營收每年都增長 10 倍。每年，我們都很保守，說：“不可能再增長 10 倍了。” 每年我都非常保守地說：“唉，我覺得業(yè)務增長要放緩了?！?但事實是，我們從 2023 年的 0 增長到了 1 億美元，2024 年從 1 億增長到了 10 億。而今年，上半年我們就從 10 億增長到了……我想到今天為止，已經(jīng)遠超 40 億，可能是 45 億。

所以你想想，假設這條指數(shù)曲線再持續(xù)兩年——我不是說它一定會——但如果它持續(xù)下去，你的營收會輕松進入千億級別。我不是說這一定會發(fā)生。我想說的是，當你身處一條指數(shù)曲線上時，你真的很容易被迷惑。距離指數(shù)曲線變得徹底瘋狂還有兩年的時候，它看起來卻像是剛剛起步。

這就是最根本的動態(tài)。我們在 90 年代的互聯(lián)網(wǎng)發(fā)展中也看到了這一點，對吧？當時網(wǎng)絡速度和計算機底層速度都在快速提升，在短短幾年內(nèi)，建立一個全球數(shù)字通信網(wǎng)絡就成為了可能，而這在幾年前是無法想象的。而當時，除了少數(shù)幾個人，幾乎沒人真正預見到這其中的含義以及它發(fā)生的速度。

這就是我的出發(fā)點，我的思考方式。當然，我不知道未來會怎樣。比如，如果一堆衛(wèi)星墜毀，互聯(lián)網(wǎng)的發(fā)展可能就會變慢。如果發(fā)生經(jīng)濟危機，也可能變慢。所以我們無法確定確切的時間線，但我認為，人們正在被指數(shù)曲線所迷惑，沒有意識到事情可能——我認為是很可能——會發(fā)展得有多快，盡管我也不確定。

主持人：但 AI 行業(yè)的很多人都在談論規(guī)?；瘞淼摹笆找孢f減”。這似乎與你剛才描繪的愿景不太相符。他們錯了嗎？

Dario Amodei：是的。從我們所看到的情況來看——我只能就 Anthropic 的模型而言——我認為他們錯了。

我們以代碼為例。這是 Anthropic 模型進步很快的一個領域，市場采用率也很高。我們不僅僅是一家代碼公司，我們計劃擴展到很多領域。但如果你單看代碼，我們發(fā)布了 3.5 Sonnet，然后是一個我們稱之為 3.5 Sonnet V2 的模型——咱們就叫它 3.6 Sonnet 吧——然后是 3.7 Sonnet，再到 4.0 Sonnet 和 4.0 Opus。

這四五個模型系列，每一個在代碼能力上都比上一個有了顯著的提升。如果你看基準測試，比如 SWE-bench，它的得分從大概 18 個月前的 3% 左右，增長到了現(xiàn)在根據(jù)評測方式不同，在 72%到 80%之間。而實際的使用率也呈指數(shù)級增長。我們正越來越多地走向可以自主使用這些模型的方向。實際上，在Anthropic內(nèi)部，大部分代碼都是由Claude模型編寫或在其參與下完成的。

所以，我們看到的進展非常快，指數(shù)曲線仍在繼續(xù)，我們沒有看到任何收益遞減。

AI 時代，技術(shù)護城河的消亡與重生

主持人：但大語言模型似乎確實存在一些固有的缺陷，比如“持續(xù)學習”（Continual Learning）的能力。我們幾周前請了 Dwarkesh，他認為缺乏持續(xù)學習能力是個巨大的問題?！按竽Ｐ偷幕€能力可能比普通人強，但你就被困在了它出廠時的水平。”模型被創(chuàng)造出來后，它就不再學習了。這似乎是一個 glaring liability（明顯的缺陷）。你怎么看？

Dario Amodei：首先，我想說，即便我們永遠解決不了持續(xù)學習和記憶的問題，大模型影響經(jīng)濟規(guī)模的潛力也依然巨大。如果我回想我以前的領域，生物學和醫(yī)學，比如說，我有一個非常聰明的諾獎得主，然后我說：“好吧，你雖然發(fā)現(xiàn)了所有這些東西，擁有這個無比聰明的頭腦，但你不能再讀新的教科書，也不能吸收任何新信息了?！?/p>

這當然會很困難，但如果你有一千萬個這樣的“諾獎得主”，他們?nèi)匀粫〉么罅康纳飳W突破，對吧？他們會受到限制，有些事情人類能做他們做不了，有些他們能做人類做不了。但即便我們把這個當作上限，天哪，那也已經(jīng)非常了不起，足以改變世界了。

但話說回來，上下文窗口正在變得越來越長，而模型實際上在上下文窗口內(nèi)確實在學習。對吧？所以當我和模型在對話中交談時，我進行了一場對話，它吸收了信息。雖然底層的模型權(quán)重可能沒有改變，但就像我和你現(xiàn)在交談一樣，我傾聽你說的話，然后我思考，然后我回應。模型也能做到這一點。

從機器學習的角度看，我們沒有理由不能把上下文長度做到一億個詞，這大概是一個人一生中聽到的詞匯量。今天就可以。真正限制我們的是推理成本。所以，即便只是這樣，也填補了許多空白。不是所有空白，但填補了很多。

然后，還有很多關(guān)于學習和記憶的技術(shù)，確實能讓我們更新模型權(quán)重。我們多年前討論過“內(nèi)循環(huán)”和“外循環(huán)”的概念。內(nèi)循環(huán)就像我在一個情境（episode）中學到一些東西，然后在外循環(huán)中，智能體在多個情境之間學習。也許這種內(nèi)外循環(huán)結(jié)構(gòu)就是實現(xiàn)持續(xù)學習的一種方式。

我們在 AI 領域?qū)W到的一件事是，每當你覺得有一個根本性的障礙時，比如兩年前我們認為推理能力是一個根本障礙，結(jié)果發(fā)現(xiàn)，用強化學習（RL）去訓練，讓模型寫下思考過程，就能解決。所以，在不透露太多細節(jié)的情況下，我認為，并且我們已經(jīng)有一些初步證據(jù)表明，持續(xù)學習是另一個看似困難，但實際上并非如此的問題。它最終會屈服于規(guī)?；?，以及一種稍微不同的思考方式。

主持人：你對規(guī)模化的癡迷，是否可能讓你忽視了一些新技術(shù)？如果你的注意力全在規(guī)模化上，會不會錯過這些？

Dario Amodei：我們每天都在開發(fā)新技術(shù)。

Claude 在代碼方面非常出色，我們不怎么對外談論為什么 Claude 在代碼方面這么好。

主持人：它為什么這么好？

Dario Amodei：（笑）就像我說的，我們不怎么對外談論。

我們發(fā)布的每一個新版本的 Claude，都在架構(gòu)、我們輸入的數(shù)據(jù)，以及我們用來訓練它的方法上有所改進。所以我們一直在開發(fā)新技術(shù)，它們是我們構(gòu)建每一個模型的一部分。這就是為什么我一直說，我們試圖盡可能地優(yōu)化“人才密度”（talent density）。你需要那種人才密度，才能發(fā)明出新技術(shù)。

公司文化，決定了你能否擁有最頂尖的人才

主持人：有一種觀點認為，Anthropic 可能擁有正確的理念，但卻缺乏與之匹配的資源。你看 xAI 和 Meta 正在發(fā)生的事情，馬斯克建了他的超級計算集群，扎克伯格正在建一個 5GW 的數(shù)據(jù)中心。他們投入了如此巨大的資源來擴大規(guī)模。Anthropic 真的能跟上嗎？

Dario Amodei：我們已經(jīng)融資了……我想截至目前，接近200億美元。這不算少。而且，如果你看看我們正在建設的數(shù)據(jù)中心的規(guī)模，比如和亞馬遜合作的那些，我不認為我們的數(shù)據(jù)中心規(guī)?；俣缺冗@個領域的任何其他公司慢多少。

很多時候，這些事情受限于能源、資本化。當你聽到那些巨額數(shù)字的公告時，有時它們還沒有完全落實資金，而且是分幾年投入的。我們看過其他公司正在建設的數(shù)據(jù)中心的規(guī)模，我們非常有信心，我們……我們的規(guī)模會和他們在一個大致的范圍內(nèi)。

主持人：那你怎么看扎克伯格在人才密度方面所做的事情？把那種人才密度和巨大的數(shù)據(jù)中心結(jié)合起來，他似乎具備了很強的競爭力。

Dario Amodei：是的，這其實非常有趣。因為我們注意到的一件事是，相對于其他公司，很少有 Anthropic 的人被他們挖走。這并不是因為他們沒努力。我跟很多在 Anthropic 收到他們 offer 的人聊過，他們直接就拒絕了。他們甚至都不愿意和扎克伯格談，他們說：“不，我要留在 Anthropic?！?/p>

我們對此的普遍回應是，我在全公司的 Slack 里發(fā)了一條消息，我說：“看，我們不愿意為了單獨回應這些 offer，而犧牲我們的薪酬原則和公平原則。” 在 Anthropic，我們的工作方式是，有一系列的級別，當候選人進來時，他們會被定級，我們不就這個級別進行談判。因為我們認為那不公平。我們想要一個系統(tǒng)化的方式。

如果，馬克·扎克伯格對著一個靶子扔飛鏢，正好射中了你的名字，那并不意味著你的薪水就應該比你旁邊那個和你一樣有才華、一樣技能嫻熟的同事高10倍。

在我看來，在這種情況下，唯一能真正傷害到你的，就是你因為恐慌而允許這種行為破壞你公司的文化，因為你試圖不公平地對待員工來保住他們。

而我認為，這實際上是公司的一個凝聚人心的時刻。我們沒有屈服，我們拒絕犧牲我們的原則，因為我們有信心，留在 Anthropic 的人是因為他們真正相信公司的使命。

我相信，AI 領域的公司文化，最終決定了你能否擁有最頂尖的人才。 我認為他們正在試圖購買一些無法用錢買到的東西，那就是對使命的認同。這里面存在選擇效應。他們得到的，是那些最熱情、最有使命感、最興奮的人嗎？

主持人：但他們有海量的 GPU。你不低估這一點嗎？

Dario Amodei：我們拭目以待。我個人對他們正在做的事情相當看空（bearish）。

押注企業(yè)級市場

主持人：讓我們來談談你的業(yè)務。很多人都在好奇，生成式 AI 的生意到底是不是一門好生意。你已經(jīng)融資了近 200 億美元，谷歌投了 30 億，亞馬遜 80 億，還有新一輪由 Lightspeed 領投的 35 億。你的融資故事是什么？因為你不像那些大科技公司有現(xiàn)成的業(yè)務可以嫁接。你是直接拿著規(guī)模法則去跟投資人說“給我點錢”嗎？

Dario Amodei：我對這個問題的看法一直是，人才才是最重要的。

你想想，三年前，我們才融資了幾億美元。OpenAI 已經(jīng)從微軟拿了 130 億美元，更不用說那些萬億市值的科技巨頭，他們賬上躺著千億、兩千億美元。我們當時的融資故事是：我們知道如何比別人更好地制造這些模型。

可能有一條規(guī)模法則的曲線，但如果我們在一個可以用 1 億美元做到別人 10 億美元才能做到的事情的位置上，可以用 100 億美元做到別人 1000 億美元才能做到的事情，那么投資 Anthropic 的資本效率就高 10 倍。你是愿意投資一個可以用便宜 10 倍的成本做任何事的公司，還是愿意投資一個一開始錢就更多的公司？

如果你能用便宜 10 倍的成本做事，那么資金短缺只是一個暫時的缺陷，是可以彌補的。而如果你擁有這種內(nèi)在的能力，能用同樣的價格構(gòu)建更好的產(chǎn)品，或者用更低的價格構(gòu)建同樣好的產(chǎn)品，投資人不是傻子，他們理解資本效率的概念。

所以，我們從三年前資本相差近千倍的局面，走到了今天，你問我用 200 億能否與 1000 億競爭。我的回答是：能，因為我們的人才密度。

主持人：CNBC 報道說，Anthropic 60%-75% 的銷售額來自 API。這是否意味著你在下最純粹的技術(shù)賭注？

Dario Amodei：我不會這么說。我會說，我們押注的是模型的商業(yè)應用場景，而不是單純的API。只是恰好，最早的商業(yè)應用場景是通過 API 實現(xiàn)的。

如你所說，OpenAI 非常專注于消費者端。谷歌非常專注于將其整合到現(xiàn)有產(chǎn)品中。而我們的觀點是，企業(yè)級AI的應用潛力，即便不比消費者端更大，也至少是同等級別的。

而且我認為，作為一個專注于商業(yè)應用場景的公司，這給了我們更好的激勵去把模型做得更好。

我來舉個思想實驗。假設我有一個模型，它在生物化學方面的水平相當于一個本科生。然后我改進了它，讓它的水平相當于一個博士生。如果我把這個模型給一個普通消費者，我說：“好消息！我把模型的生物化學能力從本科生提升到了研究生水平！” 大概 1% 的消費者會在意這個，對吧？99% 的人會說：“我反正也看不懂。”

但現(xiàn)在，假設我去找輝瑞，我說我把模型從本科生水平提升到了研究生水平。這會是天大的事，對吧？他們可能愿意為此多付 10 倍的錢，因為它能創(chuàng)造 10 倍的價值。

所以，我們的總目標，是讓模型解決世界上的問題，讓它們越來越聰明，同時也能帶來很多積極的應用。我之前在《慈愛機器》（Machines of Loving Grace）里寫的那些，解決生物醫(yī)藥的問題、地緣政治的問題、經(jīng)濟發(fā)展的問題，當然也包括金融、法律、生產(chǎn)力、保險這些更實際的領域。

我認為，押注商業(yè)應用，能提供更好的激勵來推動模型的發(fā)展。從很多方面來說，這可能是比消費者端更有利可圖的生意。

主持人：你最初是怎么決定專注于代碼這個應用場景的？

Dario Amodei：一開始，像大多數(shù)事情一樣，我們是想讓模型在很多方面都變得更好。然后，代碼這個領域就脫穎而出了。

我跟成千上萬的工程師合作過。大概一年半前，我合作過的最優(yōu)秀的工程師之一說，以前所有的代碼模型對他來說都沒用，但我們的新模型終于能幫他做一些他自己做不到的事情了。當我們發(fā)布它之后，市場采用率迅速提升。

所以當我們看到它如此受歡迎之后，我們就加倍投入了。我的看法是，代碼特別有趣，因為 A)市場采用速度快，B)讓我們在代碼方面做得更好，又能反過來幫助我們開發(fā)下一個模型。所以它有很多優(yōu)勢。

個人經(jīng)歷、風險與“末日論者”的標簽

主持人：你曾說你的父親因為晚了幾年才出現(xiàn)的療法而去世。我知道這很私人，但你能分享一下這對你的影響嗎？

Dario Amodei：當然。我的父親確實病了很長時間，最終在 2006 年去世了。那件事確實是促使我——我之前沒提過，在我進入 AI 領域之前，我先進入了生物學領域。

我到普林斯頓的時候，是想成為一名理論物理學家，我最早的幾個月也確實在做宇宙學的研究。那段時間，我父親去世了。那件事對我影響很大，也是說服我轉(zhuǎn)向生物學的原因之一，我想去解決人類的疾病和生物問題。

所以我開始和我們系里那些做生物物理和計算神經(jīng)科學的人交流，這導致了我轉(zhuǎn)向生物學和計算神經(jīng)科學。后來，我最終進入 AI 領域，其實也是這種動機的延續(xù)。因為我在生物學領域待了很多年之后，我意識到，生物學問題的復雜性，感覺已經(jīng)超出了人類的尺度。你需要成百上千的研究人員，而他們往往難以協(xié)作。

而 AI，我當時剛開始看到它的突破，感覺是唯一能彌合這個差距的技術(shù)，能把我們帶到人類尺度之外，去真正理解和解決生物學問題。所以，是的，這里面有一條貫穿始終的線。

主持人：我聽說，他得的病在他生病時基本是無法治愈的，但在他去世后不久，就有了重大的治療進展，變得可以管理了。

Dario Amodei：是的，是的，那是真的。實際上，在他去世后大概三四年，他得的那種病的治愈率從 50% 提高到了大概 95%。

主持人：眼睜睜看著父親被一種本可以被治愈的疾病奪走生命，那種感覺一定充滿了不公。

Dario Amodei：當然，當然。但這也告訴你，解決這些相關(guān)問題的緊迫性有多大。對吧？肯定有人在研究那種病的療法，他們最終成功了，拯救了很多生命。但如果他們能早幾年找到療法，就能拯救更多人的生命。

我認為這就是這里的矛盾之處，對吧？AI 有所有這些好處，我希望每個人都能盡快享受到。我可能比任何人都更理解這些好處有多么緊迫，因為我親身經(jīng)歷過。

所以，我真的理解其中的利害關(guān)系。當我在公開場合談論 AI 的風險，說我擔心這些風險時，我非常、非常憤怒，當有人稱我為“末日論者”的時候。我真的非常憤怒。 當有人說：“這家伙是個末日論者，他想讓事情慢下來?！?/p>

你聽到我剛才說的了嗎？我的父親因為那些本可能晚幾年就出現(xiàn)的療法而離世。我理解這項技術(shù)的價值。

當我坐下來寫《慈愛機器》時，我寫下了所有能讓數(shù)十億人生活變得更好的方式。而那些在推特上為“加速”歡呼的人，我不認為他們對這項技術(shù)的好處有一種人文主義的理解。他們的大腦里充滿了腎上腺素，他們想為某件事歡呼，想加速。我不覺得他們在乎。

所以當這些人叫我“末日論者”時，我認為他們完全、完全喪失了這么做的道德信譽。這真的讓我對他們失去尊重。

主持人：你對這項技術(shù)的掌控能力，似乎是你所有行動的前提。但你對影響力的渴望，是否可能促使你在加速這項技術(shù)的同時，低估了“控制”本身可能并不可行的風險？

Dario Amodei：我認為我比這個行業(yè)里的任何人都更多地警告過這項技術(shù)的危險。我們剛剛花了十幾二十分鐘，談論了一大堆經(jīng)營著萬億美元公司的人批評我談論技術(shù)危險的事情。

現(xiàn)在有美國政府的官員，有經(jīng)營著四萬億美元公司的人，批評我談論技術(shù)的危險，給我安上各種奇怪的動機，這些動機和我說的、做的任何事情都毫無關(guān)系。

但我還是會繼續(xù)這么做。

實際上，我認為，隨著營收和經(jīng)濟業(yè)務的指數(shù)級增長——如果我是對的，幾年后這將是世界上最大的產(chǎn)業(yè)——我們面臨著一個可怕的局面：有數(shù)千億、數(shù)萬億，甚至我估計有 20 萬億美元的資本，都站在“盡可能快地加速 AI”這一邊。而我們這家公司，雖然絕對價值很高，但相對而言很小，600 億美元。

我一直在發(fā)聲，即便這會讓政府里的一些人、一些巨頭不高興。我每次這么做，都會受到很多同行的攻擊。但我還是要繼續(xù)做。

如果我認為，我們完全沒有辦法控制這項技術(shù)——而我完全看不到任何證據(jù)支持這個論點，我們發(fā)布的每一個模型，我們對它的控制能力都在變強——如果我認為沒有辦法，那我就會站出來說：“每個人都應該停止開發(fā)這些東西，甚至是中國也應該停下來?！?/p>

我警告風險，就是為了我們不必慢下來。為了我們能投資于安全技術(shù)，繼續(xù)這個領域的進步。這需要一個巨大的經(jīng)濟努力。就算一家公司愿意放慢腳步，也阻止不了其他公司，也阻止不了我們的地緣政治對手。

所以，我們被夾在技術(shù)的巨大利益、加速的競賽，以及這種多方競賽的現(xiàn)實之間。我能做的最好的事，就是投資安全技術(shù)，加速安全方面的進展，并且當我擔心我們處理風險的能力跟不上技術(shù)發(fā)展的速度時，我就要更大聲地疾呼。這就是我的回應。

那是我聽過最無恥、最離譜的謊言

主持人：我相信你也聽過黃仁勛上個月對你的批評，他說：“Dario 認為只有他才能安全地構(gòu)建這項技術(shù)，因此他想控制整個行業(yè)?！?你怎么看？

Dario Amodei：我從沒說過那樣的話。那是我聽過最無恥、最離譜的謊言。

事實上，我說過很多次，Anthropic 的行動也證明了，我們的目標是一種“競相向上”（race to the top）。

我曾在播客上說過，Anthropic 的行動也表明，在一個“競相向下”（race to the bottom）的環(huán)境里，每個人都在比誰能更快地把東西推出來，誰贏了并不重要，因為所有人都輸了。你造出了不安全的系統(tǒng)，它可能會幫助你的對手，或者導致經(jīng)濟問題，或者從對齊的角度看是不安全的。

而我所理解的“競相向上”，是誰贏了不重要，因為所有人都贏了。你為整個領域樹立一個榜樣。一個關(guān)鍵的例子就是我們的“負責任的規(guī)模化政策”（Responsible Scaling Policy）。

我們是第一個發(fā)布這種政策的公司。我們沒有說：“其他人都該這么做，不然你們就是壞人?！?我們沒有試圖把它當作一種優(yōu)勢。我們發(fā)布了它，然后鼓勵其他所有人都這么做。

我們發(fā)現(xiàn)，在那之后的幾個月里，其他公司內(nèi)部那些試圖推動類似政策的人，因為我們已經(jīng)做了，就有了向領導層建言的理由和許可。這讓整個行業(yè)都向前走了一步。在可解釋性研究上也是如此，我們把研究成果公開發(fā)布給所有人，即便我們知道這其中有商業(yè)優(yōu)勢。在“憲法 AI”、危險能力評估方面也是一樣。

我們試圖為這個領域樹立一個榜樣。但這和成為一個強大的商業(yè)競爭者之間存在一種相互作用。

我從沒說過，也從未暗示過，我們公司應該是唯一一個構(gòu)建這項技術(shù)的公司。我不知道任何人怎么能從我說的任何話里得出這種結(jié)論。這……這簡直是……是的，這是一種令人難以置信的、惡意的曲解。

本文編譯 自 Alex Kantrowitz

原文 | youtube.com/watch?v=mYDSSRS-B5U

AI 產(chǎn)品爆發(fā)，但你的痛點解決了嗎？

2025 全球產(chǎn)品經(jīng)理大會

8 月 15–16 日

北京·威斯汀酒店

互聯(lián)網(wǎng)大廠、AI 創(chuàng)業(yè)公司、ToB/ToC 實戰(zhàn)一線的產(chǎn)品人

12 大專題分享，洞察趨勢、拆解路徑、對話未來。

立即掃碼領取大會PPT

搶占 AI 產(chǎn)品下一波紅利