大模型仍未對上商業(yè)的齒輪？

編譯 | 王啟隆

來源 | youtu.be/aWqfH0aSGKI

出品丨AI 科技大本營（ID：rgznai100）

現(xiàn)在的硅谷，空氣里都飄著一股“再不上車就晚了”的焦躁感。

最近 OpenClaw 風頭正旺，強勢登頂 GitHub，終結了 React 神話，許多人更是覺得“AI 自己干活賺錢”的日子就在明天了。

特別是在斯坦福商學院（GSB）這種地方，臺下坐著的都是成天琢磨怎么用下一個技術風口搞個獨角獸出來的狠人。

微軟的首席科學官（CSO）Eric Horvitz被請到了這個幾乎全美最想用 AI 變現(xiàn)的禮堂里。作為從上世紀 80 年代就開始搞 AI 的絕對老炮、也是微軟技術底座的“掃地僧”，這位老哥并沒有順著臺下的胃口，去吹捧下個月大模型又要顛覆什么行業(yè)，而是兜頭給大家澆了一盆帶點學術味的冷水。

他講了一個挺有畫面感的比喻：大家都在聊 AI 馬上要爆發(fā)，但這感覺就像 1880 年代人類剛弄出電動機的時候。那時候的工廠怎么用電？他們搞個巨大的中央滑輪，扯著無數(shù)根笨重的皮帶，生硬地去連接各個工作臺?？雌饋硎峭娏?，實際上別扭得很。

Horvitz 把這叫作“阻抗失配（Impedance Mismatch）”。說白了，就是現(xiàn)在牛逼哄哄的底層大模型，跟現(xiàn)實商業(yè)世界的組織架構和運轉方式，其實根本就沒對上齒輪。

這篇足足 55 分鐘的對話非?！胺垂沧R”。Eric 直言現(xiàn)在的模型連最基本的“概率校準”都做不到（也就是一本正經地胡說八道且不知道自己有多不靠譜）；他甚至毫不客氣地扒下了醫(yī)療 AI 的底褲，說在 A 醫(yī)院好用的模型，直接端到 B 醫(yī)院去其實根本跑不通。

在這個所有人都恨不得把各種 Agent 供在神壇上的節(jié)點，聽聽這位真正在工業(yè)界和科學界摸爬滾打了幾十年的老兵怎么吐槽當下的行業(yè)現(xiàn)狀，可能會讓你對這個草莽時代多幾分其他視角的理解。

以下為這場斯坦福 AI@GSB 對話的完整實錄。

尋找 AI 時代的“皮帶與滑輪”

Jennifer Aaker（斯坦福商學院 General Atlantic 教授）：我是 Jennifer Aaker，非常榮幸能為大家介紹 Eric Horvitz。他今天來到了現(xiàn)場，將與 Sarah Soule 院長在爐邊進行對話。Eric 是微軟的首席科學官，很長一段時間以來，他一直致力于在人工智能、社會與科學的交叉前沿領域進行探索。

很多年前我就認識了 Eric。他是斯坦?！耙匀藶楸救斯ぶ悄苎芯吭骸保℉AI）的董事會成員。在那個背景下，以及在更廣泛的領域里，他是我見過的最具思想深度、最有意圖性（intentional）、最具體恤人類精神（humanistic）的思考者之一。

幾十年來，他一直是“以人為本的人工智能”領域極具影響力的聲音。他發(fā)起了斯坦福大學的“人工智能百年研究”項目（AI100），也是“AI 伙伴關系”（Partnership on AI）的聯(lián)合創(chuàng)始人。他曾作為國會任命的委員，任職于美國國家人工智能安全委員會，同時也是斯坦福 HAI 的杰出研究員?？傊?，他是一個非常好的人。

很高興他今天能來到這里。我覺得他身上最了不起的一點，是他對“人類繁榮（human flourishing）”的深刻承諾，而這也是他十多年前就已經在談論的話題。在今天關于 AI 的海量對話中，我們都在思考：什么是“主體性（agency）”？什么是“同理心（empathy）”？在設計這些技術工具時，融入這些理念意味著什么？最根本的是，技術究竟該如何去“增強（augment）”人類，而不是“取代”人類？

Eric 不僅僅是在寫這些東西，他也在身體力行。曾經有人告訴我，他在微軟指導過的門生（mentees）比公司里的任何人都多。他的行事風格充滿了善意。帶著這份敬意，我想歡迎 Eric Horvitz 和 Sarah Soule。

Sarah A. Soule（斯坦福商學院院長）：非常感謝 Jennifer 剛才那段無比慷慨的介紹。Eric，能和你坐在一起對話，看到這么多感興趣的學生、教職員工齊聚一堂，真是一件令人愉悅的事。歡迎大家來到這場爐邊談話。

Eric Horvitz：謝謝你們邀請我。

Sarah A. Soule：我們非常高興。Eric，我想先從你過去曾說過的一個觀點開始。你之前描述過，我們正處于一個快速轉型的時刻，并且這將是人類生存軌跡中，極少數(shù)能從根本上改變發(fā)展方向的“罕見快速轉型期”之一。我想問你，如果你從現(xiàn)在起往回看——假設站在 20 年后往回看，你認為后人會如何銘記我們現(xiàn)在所處的這個時期？

Eric Horvitz：你提到“20 年”，這很有意思。我經常思考的是，如果站在 700 年后的時間點往回看，歷史書上肯定會給這個時期專門命名。書里會有圖表，會用某些特定的色彩來描繪這個時代，它肯定會有一個專屬的名字——雖然我現(xiàn)在還不知道那名字會是什么。

至于 20 年后，這很有趣。當我聽到“20 年”這個時間跨度，我腦海中浮現(xiàn)的是其他通用目的技術（general-purpose technologies），比如電力和蒸汽機。

你知道，蒸汽機大約是在 1769 年或 1770 年左右出現(xiàn)第一批可用發(fā)明的。但直到大約 100 年后，它們才真正進入并在工業(yè)界展現(xiàn)出變革性的力量。電力大概是在 1880 年代出現(xiàn)的，然后它也是經歷了數(shù)十年的慢慢滲透，才真正產生了廣泛的影響。

所以，我可以承認 AI 的發(fā)展速度可能會比蒸汽機或電力快得多——尤其是現(xiàn)在我們都已經“通電”了，基礎設施都在那里。但我認為，20 年后我們回顧現(xiàn)在，會把這個時期看作是一個“早期部署、早期實施”的階段。

在這個階段，會有很多人關注：在這個時期里，人們到底有多么深的遠見？有多么強烈的焦慮？又有多少期望？

我不認為在蒸汽機或電力崛起的時代，會有這樣一群觀眾坐在這里聽這樣一個關于技術未來的話題；或者像飛行技術的誕生之初，我也不認為有很多人去深入思考我們是否應該確立規(guī)范——比如，我們是否應該從這些飛行器上投擲燃燒裝置？而現(xiàn)在，我們正在進行各種各樣有趣的深思熟慮，看到大家對“如何引導這項技術”如此感興趣，這真的很讓人感到溫暖。

所以我想，回顧過去，我們會說：“哇，那就是一切開始的地方?！钡词故?20 年后，我們依然會處于一個快節(jié)奏的轉型期，我不認為一切會在 20 年內就完全收斂并塵埃落定。

Sarah A. Soule：我非常高興你能成為目前這些討論和深思熟慮的一部分。我也希望，在 20 年后，人們會認為你是這個時代的英雄之一。

Eric Horvitz：哦，我倒不奢望走那么遠（笑）。只要我做出的貢獻能在沿途幫到大家，讓事情變得好一點點，我就很樂意被大家遺忘了。

Sarah A. Soule：既然談到了如何讓事情變得更好，全國各地、甚至全世界的學生，現(xiàn)在都在聽到很多關于“確保自己具備 AI 素養(yǎng)”的建議。事實上，我們在 GSB 的 AI 倡議一直非常有針對性地通過一些工作坊（包括今晚由 Celeste Bean 舉辦的）來確保這一點。

你參與了許多跨越工業(yè)界、政策界和學術界的辯論與討論。針對目前的情況——在一個知識和能力正輕易被 AI “商品化（commoditized）”的世界里，你會給我們的學生（無論是 MBA 還是本科生）什么建議？他們現(xiàn)在應該投資學習什么？此外，對于那些在當下這種飛速變化中感到真切焦慮的學生，你有什么最好的建議？

Eric Horvitz：首先我好奇的是，想聽聽在這個極其特殊的歷史時刻，你們腦海中那種焦慮與興奮交織的狀態(tài)到底有多強烈。這真的是人類歷史上的一個頂點（vertex）——你們正在經歷、觀察、吸收這些正在發(fā)生（以及可能發(fā)生）的變化，并且討論這對你們的職業(yè)生涯意味著什么。

尤其是在一個教育項目中，特別是在商學院的 MBA 項目里——這里有來自不同背景的學生，但 MBA 項目本質上源自彼得·德魯克（Peter Drucker）的世界，它關乎將商業(yè)視為一門科學，關乎如何引導和思考生產、價值與利潤。

我的第一反應是，對于人們（包括管理和商業(yè)領域的人）來說，思考如何將這些技術初步部署下去，存在著巨大的機遇。

回到我之前的評論：人們最初其實并不知道如何在工業(yè)中部署電力。你們可能見過那些老照片——一個巨大的中央滑輪，連著無數(shù)根皮帶，笨拙地向各個工作臺輸送動力，人們甚至不愿意去思考是否應該為每臺機器配備獨立的電機。這只是一個隱喻，說明我們在面對現(xiàn)在的技術時，需要做大量的思考。

我們面臨著一種“阻抗失配（impedance mismatch）”——即商業(yè)流程、組織結構及其運作方式，與這些底層基礎技術、核心生產力技術之間的錯位。思考如何將這些自身也在不斷進化的 AI 技術交織融入進去，是一項巨大的工程。

在我們的腦海中，我們還需要對“AI 到底是什么”建立一種感知。對我來說——我 80 年代中期在斯坦福大學，1990 年完成了博士學位——AI 是一幅極其豐富的掛毯，是一個由各種技術組成的星座。盡管現(xiàn)在大家都在將其同質化，言必稱“深度神經網絡”以及它們在頂層是如何被訓練的，但它依然是一幅廣闊的圖景，隨著時間的推移，它會變得更加細分。

所以，這不僅僅是思考“Claude、ChatGPT 或 Gemini 將被如何使用”。本質上，你需要更深入地了解這項技術，理解“深度思考”、“決策制定”、“管理”、“監(jiān)督”和“創(chuàng)造力”的機會在哪里。這才是推動我們走向 20 年后，甚至走向前面提到的“700 年后”的動力。這是一個非常豐富的機會空間。

所以我建議：找到你的熱情所在，深入挖掘你的熱情，思考AI 的相關性；走向跨學科（interdisciplinary），因為你必須以更廣闊的視角思考；然后看看現(xiàn)在人們在做什么，努力超越當下的炒作，去真正融合并應用它。

Sarah A. Soule：我很喜歡這個觀點。這也觸及了我們在幾周前的預備電話里談到的事情。我們在思考，我們需要為學生提供什么。我經常跟學生說，當他們被允許保持好奇心并試圖滿足這種好奇心時，他們就處于最佳狀態(tài)；而當我們的教職員工帶著好奇心提出有趣的科研問題時，他們也處于最佳狀態(tài)；當我們的員工帶著好奇心與師生互動時，他們同樣處于最佳狀態(tài)。這就是我們建立我們想要的文化的方式之一，這同樣需要慷慨的精神，需要彼此寬容并互相給予恩典，我們需要將這些融入到文化中。

在幾個星期前我們交流時，你談到了很多關于“好奇心”的內容，現(xiàn)在你又提到了。你能否展開講講？因為我想大家都會很感興趣：在這個 AI 時代，你如何看待“人類與 AI 協(xié)作”作為一種推動人們解決他們以前無法處理的問題和想法的方式？

Eric Horvitz：我一直熱衷于思考計算機如何幫助人們進行認知、解決問題和探索。幾十年來，這一直是我的熱情所在?！叭祟惻c AI 的協(xié)作”這個詞在大概 23、25 年前還是個很奇怪的概念，那時我們開始展示一些技術，清晰地描繪了這種機會空間可能是什么樣子的。

根據(jù)我們對人類認知基底（cognitive substrate）的了解，什么是邊界？認知心理學家通常會描述我們在能力上的差距，作為人類我們的優(yōu)勢是什么。

當然，我們在很多方面各不相同，但有一個我們多年來逐漸了解的人類共性基礎。早年我在想，建立一個能深刻理解這一點的計算系統(tǒng)，知道應該在哪里介入、在哪里支撐、在哪里退后，并且在此基礎上不僅應對互補性的挑戰(zhàn)，還能理解“主動性（initiative）”——計算系統(tǒng)何時應該向前一步，何時應該退后？人類駕駛員何時應該理解如何以及何時使用這些機器，以增強自身的探索能力、獲取答案以及更廣泛地解決問題？

現(xiàn)在回想起來，這真是太美妙了?？粗F(xiàn)在的技術，有些人正在學習如何使用像 GPT、Claude 和 Gemini 這樣的通用工具來適當?shù)亍疤崾荆╬rompt）”它們，并把自己置于“駕駛員”的位置——他們帶來目標，帶來非常人性化的一套目標體系、偏好、好奇心和方向，然后利用這些系統(tǒng)作為向導。通過引入新的效率來進行模擬、探索，擴展可能性的集合，我認為這些系統(tǒng)在人與人的互動、國家與國家的互動中會非常有幫助。希望能帶來一場文藝復興。

你可以將這個領域命名為：材料科學、生物學與醫(yī)療保健、教育……挑選你的領域，生產制造、效率等等。我認為這些優(yōu)化、整合、證據(jù)收集與綜合、專業(yè)化、泛化以及涌現(xiàn)概念的工具，將改變一切。

智能體（Agent）的崛起與“防偽印章”

Sarah A. Soule：你在那次對話中用了一個很棒的詞。我想是關于“可能性的邊緣（the edge of possibility）”，對吧？

Eric Horvitz：是的。作為微軟的研究總監(jiān)，我經常會對我們在世界各地實驗室的同事說：“你們真的在探索可能性的邊緣嗎？”

我們當時會停下來思考那是什么意思。在幾個月或一年前，去探索那些在那個前沿領域被認為不僅是不可能、甚至連想都不會去想的事情。

今天，我認為一些人正在研究不僅是將如何應用像 MedPaLM 這樣的模型于臨床醫(yī)學，還要看它在你自己的數(shù)據(jù)集、你自己的受眾上的表現(xiàn)。

我最近在美國國家醫(yī)學院的會議上分享了一個重要秘密：大家聽好了，最大的秘密是，這些醫(yī)療大模型不具備可移植性（not portable）。

你不能只是把它們從 A 醫(yī)院拿到 B 醫(yī)院，然后期望它們能完美運行。多年前我們在傳統(tǒng)的機器學習模型上就發(fā)現(xiàn)了這一點。所以，你需要深入思考：不僅僅是決策制定，甚至包括轉錄（transcription），你都要非常清晰地思考潛在的錯誤，思考它意味著什么，以及它在特定環(huán)境下的表現(xiàn)。事實上，未來幾年，這需要進行隨機臨床試驗（randomized clinical trials）來理解這些 AI 工具在醫(yī)療服務中的真正作用。

我對這些模型展現(xiàn)出的潛力感到興奮，但我們也看到了人們將它們推向我們所謂的“人工智能家族（artificial intelligence family）”的未知領域。

Sarah A. Soule：你能詳細說說，當真實性變得模糊時，尤其是在深度偽造和幻覺面前，我們該怎么辦？

Eric Horvitz：2015 年左右，我開始看到一些零星的跡象。事實上，最早引起我注意的是斯坦福大學計算機科學團隊的一個關于 Deepfake 的展示。他們展示了如何構建一個系統(tǒng)，把文字放入一個政治家的嘴里。我當時對這印象極其深刻，當然大家也都說“別擔心，這只是一個計算機視覺/圖形學的演示?！边@些都在實驗室緊閉的大門后進行，大家覺得很酷，有人還能就此寫篇博士論文。

但我當時做了一個演講，說這件事未來會走向何方。那還是 9 到 10 年前?，F(xiàn)在我們就在這里了。

一路上，在微軟內部以及在政府和公民社會的各個團隊中，我一直在強調，一旦你創(chuàng)造出這樣的技術，你就必須進行紅藍對抗，并攻擊它，以確保解決方案本身不會成為問題。

最近發(fā)生了一件事，我們發(fā)布了一份 54 頁的內部微軟研究報告，我讓團隊進行了“紅隊測試”：人們會如何利用這些工具？這讓你認為，那些底特律的群眾并沒有真正在歡迎卡馬拉·哈里斯（Kamala Harris），或者反之亦然。我們必須思考其中的可能性。

好消息是，這項研究的最終結果，是提出了一種被稱為內容溯源（media provenance）的高可信度身份驗證方法。簡單來說，就是給攝像頭和麥克風捕捉到的內容蓋上一個“加密的蠟封（cryptographic wax seal）”。你可以看到這個印章在顯示端的終端是未破損的。

這后來變成了現(xiàn)在的 C2PA（內容溯源和真實性聯(lián)盟）標準。這是所有大型科技公司、相機公司等都在使用的標準。但我們必須走得更遠，因為一旦你創(chuàng)建了這樣一個有前景的解決方案，你也必須進行紅隊測試，攻擊它以確保它確實安全。就在兩天前，我們發(fā)布了一份 54 頁的報告，探討人們如何利用這些帶有“蠟封”的技術，讓你誤以為并沒有發(fā)生的事情發(fā)生了，或者反過來。

這也是整個生態(tài)系統(tǒng)需要去思考的：不僅僅是普通的特異性和敏感性、診斷的準確率，還要思考一旦這些系統(tǒng)被部署，會有哪些極其災難性的失敗。

此外，還有智能體市場（Agentic Marketplaces）的問題。十年內，如果存在買賣和中間過程的代理人（proxies），而我們各自都有自己的代理人，這將形成一個由智能體互動的完整經濟體。

我們最近發(fā)表了一篇關于“即將到來的智能體市場”的論文。我們開發(fā)了一個模擬工具，你可以下載并進行實驗。我們觀察當我們釋放出原型的 Agent 去購買、出售和安排日程時會發(fā)生什么。

如果你把這些工具放出去，卻不思考關于人類主體性和自我尊嚴的深層問題——不把它們設計成注重保護和培育人類自主權、個體性與智力的機器，那是很危險的。這也是為什么目前公眾有如此強烈的焦慮。這種焦慮是有道理的。

醫(yī)療與科研：AI 不能“即插即用”

Sarah A. Soule：好的，我想現(xiàn)在是我們開放給學生提問的好時機。我們有話筒傳遞員，如果有同學想提問，請舉手。

Serena（MS/MBA 學生）：非常感謝您今天能來。我是 Serena，是管理科學與工程系的碩士生，本科也是數(shù)據(jù)科學背景。我想問的是，隨著我們邁向下一階段的 AI 部署，您認為在模型評估、安全評估，特別是 AI 生態(tài)系統(tǒng)的治理和新興標準方面，最重要且懸而未決的問題是什么？

Eric Horvitz：關于這個問題，我有很多想說的，但我先從這一點開始：對于所有大語言模型的狂熱慶祝和大量投資，我們目前其實不知道如何對它們進行概率上的校準（calibrate them probabilistically）。

這些系統(tǒng)被用于在決策環(huán)境中提出建議。在這樣的環(huán)境里，世界必須提出要求：“如果你要說些什么，我需要一個關于它真實性的概率（probability of its truth）。我需要你有良好校準的置信度。”

對我來說，在更安全的系統(tǒng)中，這將會大有作為，因為我們就可以把這些輸出整合到我們自己的效用函數(shù)（utility functions）中，或者說成本收益模型中，并理解如何使用這些系統(tǒng)，以及在評估時如何認真對待它們。所以除了安全性、控制等問題之外，我最近在想，在廣泛的筆刷下，我們投入了大量的時間和精力在安全問題上——包括測試指標、評估，我們也與斯坦福的團隊在諸如 MedHelm 等臨床醫(yī)學指標上合作，以衡量這些系統(tǒng)的表現(xiàn)——提出了一些有趣的工具來保證這些通用模型的安全，確保它們生成的內容的安全。

但我認為，目前真正的盲點在于如何實現(xiàn)概率校準。這對于高風險決策極其重要。

Ulugbek（醫(yī)學院學生）：您好，我是 Ulugbek，醫(yī)學院的學生。我的問題與 AI 在醫(yī)療保健中的日益普及有關。您認為我們在醫(yī)療領域面臨的主要挑戰(zhàn)是：提升 AI 模型本身的性能，還是改善機構利用 AI 進行決策的方式？

Eric Horvitz：我明白你的意思，你是問如何在“提高模型表現(xiàn)”與“改善機構決策”之間做區(qū)分。

這絕對是相互依存的（interdependent）。如果你在診斷和治療規(guī)劃方面擁有更高性能的能力，那這些考慮在機構如何融合、應用這項技術上就變得非常核心。

我的直覺是，那些表現(xiàn)出色的模型通常并不能做到完全便攜。如我所說，你不能指望它們在不同醫(yī)院間“即插即用”。過去幾年我們發(fā)現(xiàn)在傳統(tǒng)的機器學習模型中，表現(xiàn)極佳的模型在換了環(huán)境后就不行了。這就要求我們在本地機構有能力在本地數(shù)據(jù)上進行微調和校準，以確保模型在特定人群和特定工作流中實際有效。

所以，不僅是單純的性能，還涉及到這套系統(tǒng)的“適應性”。其次，如何利用它們來協(xié)助決策，而不會引發(fā)意外的偏見或加劇現(xiàn)有的不平等，這也是醫(yī)療機構必須在制度層面建立的護欄。

Ben（MBA 學生）：您好，我是 Ben，商學院 MBA 學生。我想問一個關于您之前提到的“蒸汽機和鋼鐵”的比較。您說即便 20 年后，我們可能仍在經歷有意義的、甚至是地震般的巨變。您如何將這一點與目前大量涌入該領域的興奮、炒作和資金結合起來？您是否認為大多數(shù)人同意您的觀點，即我們正在玩一場真正長期的游戲？還是您認為我們會看到短期的地震級轉變，同時也要期待長期的價值顯現(xiàn)？

Eric Horvitz：謝謝你提出這個非常有洞察力的問題。我想我們必須為驚喜（surprises）做好準備。

驚喜在于，AI 在某些方面的移動速度將遠超我們的預期，而在另一些方面，其移動速度又會比我們想象的慢得多。取決于你關注的是哪個維度。

我預計，在解決一些我們過去認為極其困難、可能需要幾十年才能解決的長期科學挑戰(zhàn)上，我們將看到突破。我們已經看到了 AlphaFold 這樣的例子，在生物學和醫(yī)學上，AI 將極大加速新藥的發(fā)現(xiàn)、疾病的理解，甚至治愈某些頑疾。在這些領域，它可能帶來的“地震”就在眼前，或者在接下來的 10 到 15 年內。

但在另一方面，日常工作流程的改變，人類社會組織架構對這項技術的吸收——這種屬于“社會技術（socio-technical）”范疇的事情，往往會慢得多。因為這涉及到改變人的習慣、改變法律、改變權力和利益的分配。所以，盡管資金和熱情瘋狂涌入，期望在短時間內看到所有商業(yè)模式被顛覆，但這其中必然充滿摩擦。這也是為什么我反復強調“阻抗失配”。

我們應該準備好迎接一場長期的轉型。那些純粹為了短期的、吹噓性質的炒作而投入的資本，可能會面臨失望。但對于那些致力于在科研突破、醫(yī)療革新以及建立真正安全的 AI 基礎設施上進行長期投資的人來說，這種價值是無法估量的。

希望有一天，我們能迎來一個“關懷經濟（caring economy）”的崛起，而不是一個純粹由機器主導的效率社會。

（投稿或尋求報道：zhanghy@csdn.net）

未來沒有前后端，只有 AI Agent 工程師。

這場十倍速的變革已至，你的下一步在哪？

4 月 17-18 日，由 CSDN 與奇點智能研究院聯(lián)合主辦「2026 奇點智能技術大會」將在上海隆重召開，大會聚焦 Agent 系統(tǒng)、世界模型、AI 原生研發(fā)等 12 大前沿專題，為你繪制通往未來的認知地圖。

成為時代的見證者，更要成為時代的先行者。

奇點智能技術大會上海站，我們不見不散！