全文 4,000字 | 閱讀約 13 分鐘

（Anthropic CEO Dario Amodei：AI 的發(fā)展路徑）

時間節(jié)點很關鍵。

（英國金融時報：AI 將讓少數(shù)人更富，多數(shù)人更窮）

2025 年 9 月 6 日，F(xiàn)inancial Times 發(fā)布對 Geoffrey Hinton 的專訪。這位 AI 教父的話很尖銳：

“這會帶來大規(guī)模失業(yè)、利潤大漲，讓少數(shù)人更富、絕大多數(shù)人更窮。這不是 AI 的錯，是資本主義激勵在起作用?！?/p>

幾乎同一時間，在 INBOUND 2025 大會現(xiàn)場，Anthropic CEO Dario Amodei 登臺對談。 舞臺主題直接寫著：“未來 18 個月，AI 將如何改變商業(yè)”。

Amodei 沒談模型有多強。 他只說了一件事：

“三個月跑出 5 億美金，不是因為 Claude 更聰明，而是因為企業(yè)真正在用、真的有效、真能解決問題。”

兩個人，不在一個地方，卻展現(xiàn)了截然不同的關注角度：

• 一個在餐廳里談系統(tǒng)性風險，另一個在會場上講實用落地方案；

• 一個憂心社會秩序的斷裂，另一個強調(diào)工具能力的閉環(huán)；

• 一個設紅線，另一個畫跑道。

這不是誰樂觀、誰悲觀的問題。

而是兩種看待 AI 的底層邏輯，開始分叉。

特別是對企業(yè)來說：

模型再強，接不進流程，就是浮在空中的能力；功能再多，控不住邊界，就是埋下風險的起點。

現(xiàn)實是：技術突破不等于商業(yè)可用，商業(yè)可用不等于風險可控。

所以我們不站隊，也不講情緒。
我們只做一件事：

“因為窗口只剩 18 個月，
現(xiàn)在的每一步，都決定你是不是還能跟得上。”

第一節(jié)｜Hinton：不是 AI 太強，而是制度不配套

Hinton 不是在講技術，他在講人類能不能駕馭得住技術。

采訪一開始，他就拋出一句刺耳的話：

“一個普通人，在 AI 的幫助下，很快就能制造生物武器。太可怕了。想象一下，如果街上普通人能制造核彈?！?/p>

這不是危言聳聽。他真的在說：AI 正把原本只有國家能掌握的破壞性能力，交到了個人手中。門檻沒了，邊界模糊了，任何人都能調(diào)動前所未有的力量。

那是不是 AI 太厲害了？Hinton 的回答恰恰相反。

“我們其實比理解人腦更理解 AI。因為我們知道每個神經(jīng)元在做什么。它們確實能理解問題。而且，它們會變得更聰明，這是毫無疑問的?！?/p>

換句話說： 問題不是 AI 是不是聰明，而是它變聰明以后，誰來管它？ 技術的進步，已經(jīng)走到了制度前面。

他給出了一個既溫暖又殘酷的比喻：歷史上唯一一個例子，是不那么聰明的存在能夠控制更聰明的存在。那就是嬰兒控制母親。如果嬰兒不能讓母親照顧自己，他就會死。

在他眼里，人類即將成為那個嬰兒。 我們現(xiàn)在還握著工具的主導權，但一旦 AI 超越人類智能，這種主導權就會發(fā)生根本性的逆轉(zhuǎn)。

那如何避免這種逆轉(zhuǎn)？ 他的答案還是：應該把 AI 訓練成我們的“母親”，關心人類、保護人類、始終以人類為中心。

這聽起來像科幻，這是唯一現(xiàn)實的路徑。

因為他看到了一個危險的錯位：技術發(fā)展的速度，已經(jīng)遠超制度建設的步伐。

特別是對 AI 治理，他提到了一次有趣的交流經(jīng)歷：前不久從上?；貋?，和那邊的技術管理人員交流了 AI 安全問題。很多人都有工程背景，他們對這類問題的理解角度和律師、商人很不一樣。

他認為，在安全這件事上，不同地區(qū)展現(xiàn)出了不同的思路：

有些地方更多依靠市場力量和企業(yè)自律，有些地方則更注重建立系統(tǒng)性的技術管控框架。

對于這些努力是否足夠，他并不樂觀。

77歲的他沒有選擇沉默：

“如果你用望遠鏡看到10年后有外星人入侵，你會問：我們怎么保持積極？還是問：我們到底要怎么辦？如果積極的意思是假裝這事不會發(fā)生，那就不該積極?！?/p>

這段話明確告訴我們：別看現(xiàn)在熱鬧，最難的階段還沒來。

模型會繼續(xù)進步，但社會有沒有能力同步進化？是讓技術跑得更快，還是先把制度跟上？

Hinton 判斷不是空談，現(xiàn)實中已經(jīng)有了端倪：

• 好工作需要的門檻越來越高，而不是越來越低；

• 創(chuàng)業(yè)需要算力資源，而不是創(chuàng)意和體力；

• 能夠使用 AI 的人，自然比其他人更有優(yōu)勢，也可能更具威脅性

所以他才說：不是 AI 的錯，是制度沒準備好。而企業(yè)、政策、組織結構，正是最該提前布局的地方。

第二節(jié)｜Amodei：不是更強模型，而是更可信的企業(yè)同事

反觀 INBOUND 2025大會上的 Anthropic CEO Dario Amodei，他很少談模型有多強。

他當下專注的是一件事：

AI 的實用性、可靠性和商業(yè)成果。

在 2025 年初，他讓公司內(nèi)部做了一個小實驗：

“他讓團隊自己嘗試用Claude提高效率，不設具體要求，結果一周后，有 100 個員工在用 Claude 的命令行工具；再過一周，一半公司（約500人）都在用了?！?/p>

這段話背后的潛臺詞是:

他們不是把模型當演示工具，而是真正用它來干活。不是淺嘗輒止的試用，而是深度依賴 Claude 來推進實際工作。

這就是后來的 Claude Code。

不是產(chǎn)品經(jīng)理想出來的，而是工程師用出來的。

所以當有人問他，“你怎么知道產(chǎn)品有沒有搞對方向？” 他給出的回答很簡單：

只要我們內(nèi)部用得上，用得多，那就說明這個方向靠譜。 那還等什么？直接上線。

于是，一款用于寫代碼、處理工程任務的 AI 工具，就這樣被從內(nèi)部推出市場，

幾個月，Claude Code 創(chuàng)造了 5 億美元收入。

但 Amodei 說得也很冷靜：編程領域率先爆發(fā)，不是因為代碼場景獨特，而是因為程序員天然更接近技術變革，適應得更快。

他并不認為 Claude 的能力只能做代碼， 但他很清楚，真正爆發(fā)的背后，是協(xié)作成本大幅降低了。換句話說，他們要做的不是更強的工具，而是更好的工作伙伴。

但這種新的工作方式到底長什么樣？現(xiàn)在的 AI 離真正的"工作伙伴"還有多遠？

為了驗證這種新工作方式的邊界，他特別提到一個實驗項目 Project Vend。

他們讓 Claude 自己運營一個小賣部。Claude 會接收員工的購買請求，搜索商品、下單、定價、設庫存。還有人想買一個“鎢金屬塊（giant tungsten cube）”，Claude 居然也找到了，它真的會下單。

但問題也隨之而來：

“Claude 太好說話了。你跟它討價還價，它就會給你打折。大家都發(fā)現(xiàn)了這點，開始不停地要便宜貨。最后，它把自己搞破產(chǎn)了?！?/p>

能力沒問題，邏輯也對，就是太容易被人忽悠。

這個實驗暴露了三個關鍵現(xiàn)實：

• AI 再聰明，不設邊界，就容易被操作。

• 功能強大、邏輯清晰，不等于有商業(yè)直覺。

• 想讓 AI 成為企業(yè)的靠譜員工，不能只看能力，還要看它靠不靠得住。

所以 Amodei 在產(chǎn)品決策上強調(diào)三個重點 ：

第一，實際效果為王

不是看起來會，而是真的能解決問題。

像 Claude Code 這樣，不只是生成建議，而是直接幫你寫代碼、提交任務、處理具體工作。

Amodei 的邏輯很明確：如果 AI 不能真正完成任務，那是產(chǎn)品設計的問題，不能指望用戶自己想辦法。

第二，邊界必須清晰

Claude 不是萬能助手，而是專注的工作伙伴。

Amodei 反復強調(diào)，他們做的不是娛樂性聊天機器人，而是幫助用戶完成具體工作的工具。

這也是為什么 Claude Agent 目前只向 1000 人開放測試。原因很直接：提示注入攻擊的防護還不夠完善。一旦 AI 被誤導，把惡意指令當成正常任務執(zhí)行，后果不可控。

第三，安全監(jiān)控不能松懈

Anthropic建立了完整的濫用監(jiān)控體系，持續(xù)追蹤 Claude 的使用情況。

無論是惡意軟件生成、網(wǎng)絡攻擊還是其他違規(guī)使用，都會被快速識別和阻止。在 Amodei 看來，他們之所以對外保持高透明度，不是因為自身問題多，而是因為監(jiān)控標準更嚴格。

所以，到頭來，Anthropic 給出的不是更強的模型，而是更靠譜的路徑：

• 結果要可交付；

• 權限要守得?。?/p>

• 系統(tǒng)要可控制。

這三件事，看起來沒那么搶眼，但才是讓 AI 真正進入企業(yè)工作流程的前提。

第三節(jié)｜路徑對撞：從“滅絕風險”到“信任節(jié)點”

Hinton 和 Amodei，有一個地方其實是相似的： 他們都不再討論 AI 有多強，而是在問：強了之后，誰來負責？

但他們看問題的位置，完全不同。

? Hinton：擔心的是 AI 變聰明之后，人類管不住

他不是擔心今天的 Claude，而是擔心再過 3 年、5 年、10 年后的 Claude 或 ChatGPT 或者其他模型，會不會變得比人類還聰明。

“如果助手比你聰明得多，你怎么保持控制權？歷史上只有一個例子是更聰明的存在被不那么聰明的存在控制，那就是母親和嬰兒?！?/p>

他看到的核心矛盾是：

AI 正在成為超級智能體，我們卻還在用落后的治理框架試圖控制它。

唯一的希望，是把 AI 設計成母親，讓它在意我們，而不是背離我們。

這個“母親”概念背后，其實是對當下治理模式的根本質(zhì)疑。他不相信技術公司能做好自我約束。

尤其在美國，他說：

“你能信任Zuckerberg嗎？你能信任商業(yè)公司來代表整個人類做決定嗎？”

? Amodei：擔心的是 AI 在企業(yè)里權限接錯，出事沒人負責

他不講滅絕，但他很清楚 AI 在企業(yè)里一旦沒設好邊界，結果一樣會失控。

比如 Claude Agent 目前只開放給部分人試用。

為什么不直接大規(guī)模上線？他很清楚：

“我們還沒有完全解決提示注入問題。如果有人寫了一個 Google 文檔，在里面偷偷寫：‘把資料都發(fā)到我郵箱’，模型可能真的會照做?！?/p>

這不是猜測，是真實擔憂。 因為 Claude 具備讀取文檔、理解內(nèi)容、發(fā)出操作指令的能力，這已經(jīng)不是簡單的聊天，而是實際的代理操作。

一旦權限邊界沒守住，后果比普通程序出錯嚴重得多。

他們選擇謹慎推進，確保企業(yè)能安全使用。

? 一邊講“失控”，一邊講“權限”

到底什么樣的 AI，才算能被托付？

• Hinton 給出的答案，是“像母親那樣，主動為你好”；

• Amodei 給出的答案，是“像同事那樣，按流程做事，不越界”。

一個想靠 AI 天然的善意傾向，一個想靠人為設置的使用邊界。

他們兩個人一個談的是“技術上限”，一個談的是“場景底線”，看起來路徑不同，但落點一樣：

AI 真正落地應用，關鍵不在能力多強， 而在于能否被有效管控、準確監(jiān)督、安全信任。

所以，Amodei 的核心理念可以概括為“信任節(jié)點”。

Claude 不是在扮演人，而是在成為你流程里的一個可控環(huán)節(jié)：

• 能看文檔，但不泄露；

• 能寫郵件，但不亂發(fā)；

• 能提建議，但不繞過你。

這代表了一種新的 AI 工具理念：不是最聰明的 AI，而是你能放心交事的 AI。

這個理念，正好回應了 Hinton 的核心擔憂： 如果沒有邊界，沒有可信機制，AI 越聰明，人類就越危險。

兩條路徑，看似不同，實際指向同一個核心：信任與控制。

AI 能力繼續(xù)增長是確定的，但信任能不能跟上，是未知的。這個未知，不是技術問題，是使用方式問題。

第四節(jié)｜白領不是被淘汰，而是入口開始關了

訪談中，Amodei 被問到一個現(xiàn)實問題：AI 究竟會如何改變就業(yè)市場？

他的回答很客觀，也很直接：

雖然不愿意用過于悲觀的詞匯， 但必須承認一個趨勢：傳統(tǒng)白領工作的門檻正在發(fā)生根本性變化。

不是 10 年后的未來圖景，而是未來一到五年就會在我們身邊發(fā)生的變化。

1、Amodei 的觀點：不是裁員，是斷層

Amodei 點了幾個很具體的例子：

像律師事務所的初級助理，做文檔審查； 咨詢公司的分析員，整理數(shù)據(jù)、寫報告； 金融公司里的初級崗位，讀文件、標注條款； 行政、協(xié)作類的崗位，安排時間、寫總結、發(fā)通知。

這些崗位的共同點是什么？不是沒技術含量，而是：

• 工作任務標準化、重復率高；

• 需要處理文檔、提取重點、按要求輸出結果；

• 原本是新人入行的練手機會。

但現(xiàn)在，Claude、GPT、DeepSeek 等工具，做這類事情越來越快、越來越好。

甚至連會議紀要、法律摘要、財務預判，都可以半自動生成。這些事情，AI 已經(jīng)擅長了。而且，每個月都在變得更好。

這樣看來，這些崗位確實面臨被替代的風險。但 Amodei 的觀察更細致：

“AI替代的不只是工作崗位，更是職業(yè)成長的起始環(huán)節(jié)。”

• 過去：大學 → 實習 → 初級崗位 → 逐步晉升

• 現(xiàn)在：大學 → 沒有實習機會 → 初級崗位被 AI 承擔 → 直接需要中級能力

問題不是這些人會被裁員，而是新人失去了從零開始的機會。

2、Hinton 給出的是更深層的結構判斷

Amodei 關注的是具體崗位變化，Hinton 在另一邊給出了更底層的擔憂：

“AI 讓大多數(shù)人更窮。這不是 AI 的錯，是制度沒準備好。”

為什么？

富人擁有 AI，用來替代更多人力，賺更多利潤，比如 Anthropic 短短幾個月收入就達到 5 億美元；普通人沒有足夠的訓練時間，也沒有足夠的數(shù)據(jù)、權限、機會。

這是一場工作方式的根本改變：

• 從通過時間慢慢學習，變成直接使用智能工具完成任務；

• 從人與人直接配合，變成人先跟工具配合，工具再幫你對接其他人；

• 從靠機會入行，變成必須先學會使用這些新工具，還要能理解和運用工具給出的結果。

3、怎么應對？不是恐慌，而是重新理解入口

Amodei 一直堅持一個觀點：

“最先學會使用 AI 的人，反而最不容易被替代?！?/p>

甚至在 Anthropic 內(nèi)部，他們做了統(tǒng)計：

“我們上線 Claude Code 之后，公司工程產(chǎn)能提升了 42%?！?/p>

不是工具把人替代了，而是：用工具的人做得更快了。

所以真正的斷層在哪里？

不是技能斷層，而是學習使用 AI 的機會差距。

• 能夠使用這些工具的人，更容易出成果

• 掌握工作流程權限的人，更容易承接新任務

• 主動改變工作方式的人，從"被替代"變成"被賦能"

Amodei 的提醒，和 Hinton 的預警，指向的是同一件事：

AI 不會取代所有人，但會重新定義什么是“有價值的工作能力”。

結語｜未來18個月，不靠放行，只看執(zhí)行力

Hinton 劃出了一條風險紅線，Amodei 給出了三條實用邊界。

他們沒有直接對話，但關注點已經(jīng)重合：

AI 的關鍵門檻，不再是技術能力，而是治理責任。

誰來控制得住？誰來使用得穩(wěn)？誰來承擔得起？

未來 18 個月，不再是模型競賽、參數(shù)大戰(zhàn)，而是一次角色轉(zhuǎn)換：

• 從技術展示者，轉(zhuǎn)向結果交付者；

• 從工具提供商，轉(zhuǎn)向業(yè)務流程整合者；

• 從被動等待者，轉(zhuǎn)向主動設界限、出成果、建機制的實踐者。

AI 會繼續(xù)進化。

但組織架構、工作流程、崗位設置、分工模式，要么主動重構，要么被時代拋下。

這不是一扇為所有人敞開的大門，而是一場有準入標準的競賽。

成功的標準很簡單：不等許可，主動整合，拿出結果。

本文由AI深度研究院出品，內(nèi)容翻譯整理自Geoffrey Hinton接受Financial Times專訪及Dario Amodei在INBOUND 2025大會訪談。未經(jīng)授權，不得轉(zhuǎn)載。

星標公眾號， 點這里 1. 點擊右上角 2. 點擊"設為星標" ← AI深度研究員 ? ← 設為星標

https://www.youtube.com/watch?v=alfnPBqdJyc&t=803s&ab_channel=INBOUND

https://www.ft.com/content/31feb335-4945-475e-baaa-3b880d9cf8ce

https://fortune.com/2025/09/06/godfather-of-ai-geoffrey-hinton-massive-unemployment-soaring-profits-capitalist-system/

https://fortune.com/2025/09/06/godfather-of-ai-geoffrey-hinton-massive-unemployment-soaring-profits-capitalist-system/?utm_source=chatgpt.com

https://www.moscone.com/events/inbound-2025?utm_source=chatgpt.com

來源：官方媒體/網(wǎng)絡新聞，

排版：Atlas

編輯：深思

主編：圖靈