1. 以AI治理AI
針對合規(guī)難題，皮普爾·辛哈 提出了技術(shù)解法：

• ? 神經(jīng)驅(qū)動規(guī)則： 不要試圖用僵硬的文檔去約束AI。企業(yè)應訓練一個 判斷模型 ，將業(yè)務規(guī)則內(nèi)化為模型的判斷力，用一個模型去審計另一個模型的輸出。

2. 遞歸自我改進
理查德·索克 描繪了終極愿景：

• ? 自動化研究員： 過去需要數(shù)百人調(diào)整的知識系統(tǒng)，現(xiàn)在是神經(jīng)網(wǎng)絡。未來，構(gòu)建模型的過程本身也將自動化。

• ? 長效代理： 張予彤 補充道，AI將具備像人類一樣的“長代理期”。管理者周一布置任務，AI獨立工作一周，周五交付。

對于擁有龐大資產(chǎn)的老牌企業(yè)而言，擁抱人工智能的最大阻礙并非技術(shù)實力，而是對安全和合規(guī)的深層恐懼。皮普爾·辛哈觀察到，許多企業(yè)在試點階段非常順利，但一旦進入生產(chǎn)環(huán)節(jié)，首席風險官和首席安全官就會因為擔心“幻覺”和安全漏洞而叫停。

為了解決這一痛點，技術(shù)專家們提出了一套“以技術(shù)治理技術(shù)”的方案。皮普爾建議，企業(yè)不應依賴固定的規(guī)則集，而應訓練專門的判斷模型。“你可以用一個大語言模型來判斷另一個大語言模型的工作表現(xiàn)，讓神經(jīng)驅(qū)動規(guī)則，從而在不犧牲靈活性的前提下提高合規(guī)信心。”

圓桌嘉賓的預測指向了AI發(fā)展的奇點——遞歸式自我改進（RSI）。

• ? 當“大模型監(jiān)控大模型”解決了信任問題，且“AI構(gòu)建AI”解決了能力迭代問題時，企業(yè)的迭代速度將不再受限于人類的學習曲線。2026年的企業(yè)競爭，本質(zhì)上是 誰能更快建立起這套自我進化系統(tǒng) 的競爭。

在對話的尾聲，專家們做出了前瞻。其中最具震撼力的觀點是：人工智能將從“人類手動構(gòu)建”轉(zhuǎn)向“自我遞歸改進”。理查德·索克回顧了歷史，指出曾經(jīng)需要八百人手動構(gòu)建的系統(tǒng)，現(xiàn)在已被單一的神經(jīng)網(wǎng)絡取代。

“目前構(gòu)建模型的系統(tǒng)依然是手動完成的，需要專家耗費數(shù)月去調(diào)試直覺。但這部分工作本身也將實現(xiàn)自動化，產(chǎn)生遞歸式的自我改進?！?/strong> 這意味著，未來的模型將不再依賴于人類工程師的緩慢迭代，而是通過持續(xù)學習和環(huán)境交互，實現(xiàn)核心知識的自主更新。

從長效智能體的普及到強化學習在企業(yè)流程中的深度融合，這場對話描繪了一個即將到來的未來：在這個未來里，人工智能不再是一個選項，而是一切業(yè)務的操作系統(tǒng)。 對于所有企業(yè)而言，轉(zhuǎn)型的窗口期正在迅速關閉，唯有那些敢于從第一性原理出發(fā)、重塑信任機制并擁抱“智能體編排”的組織，才能在人工智能吞噬軟件的浪潮中幸存。

AI發(fā)展的下一個躍遷點將是決定企業(yè)生死的關鍵。

• ? “長效代理期”（Long Agency）： 張予彤分享了工作流時間維度的質(zhì)變。目前的Agent只能執(zhí)行幾秒鐘的任務，但未來將是： “周一設定目標，團隊和智能體自主工作，周五驗收結(jié)果?！?/strong> 這種長達一周的獨立執(zhí)行能力，將徹底改變企業(yè)的運轉(zhuǎn)節(jié)奏。

• ? 理查德·索克的“遞歸自我改進”： 歷史上需要800人團隊維護的系統(tǒng)（如IBM Watson），現(xiàn)在已被神經(jīng)網(wǎng)絡取代。未來， 構(gòu)建AI的過程本身也將自動化 。

• • ? 核心觀點： “目前構(gòu)建模型的系統(tǒng)依然是手動完成的，但這部分工作將實現(xiàn)自動化?！?/strong> 這意味著AI將能夠自我迭代，創(chuàng)造出比人類工程師設計得更優(yōu)秀的版本。

這場圓桌會議劃定了一條清晰的分野：

• ? 老牌企業(yè) 正在努力建立 AI審計AI 的機制，試圖在合規(guī)的籠子里養(yǎng)大AI這只猛獸，以避免被淘汰。

• ? AI原生企業(yè) 則在追求極致的 人機比 和 長效代理 ，利用無限智能的杠桿，在軟件無形化的浪潮中重塑商業(yè)世界。

結(jié)合嘉賓們的發(fā)言, 以下行動路線呼之欲出：

1. 1. 重構(gòu)指標： 停止關注AI工具的使用率，開始關注 端到端流程的自動化率 和 人機配比（HAR） 。

2. 2. 重塑員工： 將員工從“操作員”培訓為 智能體審計員 。

3. 3. 技術(shù)治理： 建立 模型監(jiān)督模型 的合規(guī)閉環(huán)，而非依賴人工審核。

4. 4. 思維轉(zhuǎn)換： 采納 無限智能 假設，重新設計那些因為“人太貴”而從未存在過的業(yè)務模式。

正如拉維·馬特雷所言，那些敢于在沒有既有軟件概念下重新想象業(yè)務的公司，將是這場范式轉(zhuǎn)移的最終贏家。

附:天空之城全文整理 什么是真正的“人工智能優(yōu)先”企業(yè)？

主持人: 大家好，無論是來到達沃斯的現(xiàn)場嘉賓，還是在線上加入我們的朋友們。我是阿克西斯（Axios）的首席技術(shù)記者伊娜弗里德（Inafried），今天我們來談論一個我們這些天都在討論的話題，那就是人工智能（AI）。尤其是在達沃斯，關于企業(yè)如何最好地利用人工智能、企業(yè)在哪里遇到瓶頸，一直是舞臺上以及穿梭巴士上大家交談的焦點。

我們都在努力弄清楚這一點，所以我非常高興能和一群非常尊貴的專家一起討論。在本次會議中，我們將深入探討另一種緊張關系，即大型企業(yè)、力求適應人工智能的現(xiàn)有企業(yè)，與應運而生、從一開始就以人工智能為先導的新公司之間的區(qū)別。那么，老牌企業(yè)能否轉(zhuǎn)變?yōu)槿斯ぶ悄軆?yōu)先型企業(yè)呢？

因此，我很高興能與這個精彩的專家小組會面。我先拋出一些數(shù)據(jù)：2024年，私營部門在人工智能方面的投資超過了2500億美元。我們?nèi)匀恍枰@些人一直在開出更多的支票、兌現(xiàn)更多的支票——但只有百分之一的大型企業(yè)認為自己在人工智能方面真正成熟了。為了讓大家達成共識，我將拋出一個別人給我的定義：如果一個企業(yè)超過一半的勞動力任務實現(xiàn)了至少20%的性能提升，我們就可以認為該企業(yè)是人工智能優(yōu)先型企業(yè)。

我認為在我們的討論中，我們可能需要使用一些不同的指標，但我先提出這個定義。我想指出，世界經(jīng)濟論壇的人工智能全球聯(lián)盟與科爾尼公司（A.T. Kearney）啟動了一個新的工作流程，專門研究這一問題，涵蓋了50多家創(chuàng)新領導者。我確信你們可以在網(wǎng)上找到更多關于這方面的信息。

所以我我要介紹一下小組成員，但這不一定就是他們的座位順序。 我們有Moonshot AI的總裁張予彤。我們有Reflection AI的聯(lián)合創(chuàng)始人兼總裁雅尼斯·安特諾格魯（Ioannis Antonoglou）。拉維·馬特雷（Ravi Mhatre），他是光速創(chuàng)投（Lightspeed Venture Partners）的創(chuàng)始人和合伙人，皮普爾·辛哈（Bipul Sinha）是紅帽（Rubrik）的聯(lián)合創(chuàng)始人和首席執(zhí)行官，以及理查德·索克（Richard Socher），優(yōu)網(wǎng)（You.com）的聯(lián)合創(chuàng)始人和首席執(zhí)行官。所以我們有一個很棒的團隊，我再次感謝我們擁有如此多不同的觀點。

我想問在座的各位，我提出了一個關于什么是“人工智能優(yōu)先”型公司的定義，但你們都在現(xiàn)實世界中看到了這一點。你們能否談談那些你們認為屬于“人工智能優(yōu)先”但并非在ChatGPT出現(xiàn)之后誕生的公司？有哪些公司，因為它們實現(xiàn)轉(zhuǎn)型的方式，仍然符合“人工智能優(yōu)先”的定義？

皮普爾·辛哈: 我可以先說。在我們看來，如果你說你是一家人工智能公司，你必須真正明確，你是否擁有完全由人工智能完成的端到端業(yè)務工作流程，而不是僅僅進行信息搜索或使用ChatGPT界面？

因此，我們在細則中正在做的是逐條業(yè)務線進行，要求每個人確定三到五個通過人工或SaaS應用與人工相結(jié)合的方式完成的工作流程，并詢問我們是否可以定義端到端的AI驅(qū)動成果。所以我的定義是，如果你在所有業(yè)務線中都實現(xiàn)了三到五個由人工智能驅(qū)動的工作流程，那么你就是一個名副其實的AI驅(qū)動型公司。

主持人: 還有其他人想提出一個不同的定義或觀點嗎？理查德？

理查德·索克: 我認為你必須考慮兩方面。技術(shù)方面，你有多少智能體等等，但也要考慮人的方面。你的員工中有多少人真正獲得了認證并了解相關知識？

比如我們在U.com發(fā)現(xiàn)的一件事是，當我們只是說，給你，用它來創(chuàng)建你自己的智能體時，你可以委托你所有的工作。人們會說，但我真的不知道如何委托工作。大多數(shù)獨立貢獻者都不是管理者。然后采用率會非常低，直到我們說，好了，我們有一個培訓計劃和一個認證計劃，然后當人們真的必須去做的時候，你才會看到這些老牌組織真的開始采納并擁抱它，因為我們中的每個人都將不得不成為管理者，無論他們是管理人員還是管理他們的人工智能代理，但這種管理和授權(quán)的心態(tài)對大多數(shù)人來說并不是自然而然形成的。

想象力與組織束縛

主持人: 還有拉維，你看到了大量的公司。你是否看到任何不是在過去一兩年內(nèi)成立的公司，你會說它們真正抓住了人工智能，以至于你可以稱它們?yōu)槿斯ぶ悄軆?yōu)先的公司？

拉維·馬特雷: 我會說，有趣的是，世界經(jīng)濟論壇的定義是對整個組織能力集中的某種百分比改進的平均效應，我認為現(xiàn)實情況是，這可能沒有釋放人工智能的全部潛力。

而且我認為，我們再次在原生于人工智能的公司中看到了這一點，比如我們密切合作的Anthropic公司，如果你看看他們利用人工智能做一些變革性事情的能力，我認為那些奉行“人工智能優(yōu)先”的公司的想象力思維是，他們從“如果我們能獲得無限的智能，我們會構(gòu)建什么”開始思考，而且他們顯然沒有受到組織結(jié)構(gòu)和現(xiàn)有工作流程的束縛。

我會說，對于那些必須努力真正實現(xiàn)“人工智能優(yōu)先”的傳統(tǒng)公司來說，挑戰(zhàn)在于他們大多關注的是“我們?nèi)绾卫矛F(xiàn)有的技術(shù)做什么？”而且他們也在平衡一個事實，那就是他們的組織有其自身的工作方式。我認為真正能取得突破的只是少數(shù)幾家。

今天，我們并沒有完全不受限制地獲取智能，但人工智能仍在不斷改進。有些人確實期望人工智能的能力將繼續(xù)呈指數(shù)級改進。因此，傳統(tǒng)公司也需要以同樣的方式思考，更具變革性。如果我能無限地獲取智能，我會如何以一種我今天沒有既有概念的方式來經(jīng)營我的業(yè)務呢？

訣竅在于，如果你應用了那個框架，它的表面區(qū)域會非常不均勻。在編碼方面，你真的，使用僅在八個月前推出的四元代碼（quad code），它已經(jīng)是年收入15億美元的產(chǎn)品，而且擁有近1500萬開發(fā)人員。但你會遇到一些問題，在這些問題中，人工智能確實可以完成絕大部分工作，并準備好交付生產(chǎn)級別的代碼，這在24個月前是聞所未聞的。

所以你可能會在那里取得真正的成功，但你可能不會讓人工智能去做你業(yè)務中其他高度管制的方面的工作，比如嘗試創(chuàng)建財務報表。但關鍵是，那些真正培養(yǎng)出這種思維模式的公司——我認為這來自于那些有遠見的管理層、首席執(zhí)行官或創(chuàng)始人驅(qū)動業(yè)務的公司——對一個組織來說，進行這種改變是非常困難的，你會得到參差不齊的結(jié)果。但我認為現(xiàn)在正在進行這種思維轉(zhuǎn)變的公司，將是在人工智能原生世界中真正有機會生存和發(fā)展的公司。

中國視角與高運營杠桿

主持人: 聽起來不錯。而且予彤，要求你代表一個國家，特別是像中國這樣一個大國，這是非常不公平的。但請幫助我們理解，在中國，這些自人工智能模型問世以來誕生的初創(chuàng)公司，與一些老牌公司、一些科技巨頭之間，相互作用是如何發(fā)展的。你看到了什么？

張予彤: 我認為對于組織而言，一種方法就像拉維所說的那樣，是自上而下的，管理層需要具備人工智能原生思維。但我們看到的另一個有趣的視角是“攜帶你自己的AI去工作”。

所以我們實際上有一個面向消費者的應用程序，在全球擁有數(shù)以千萬計的用戶。我們實際上觀察到，我們對用戶進行了研究和訪談。很多人在工作中使用人工智能，并且他們愿意自掏腰包付費。所以我想意味著人工智能可以真正提高我們今天所做的許多工作的生產(chǎn)力。我認為那將非常有趣。

但從組織層面來看，我認為有幾件事情可能很有趣。我想其中之一是人與智能體（Agent）的比例?，F(xiàn)在的公司，所有的初創(chuàng)公司都非常非常小。我們有大約300人，但我們正在構(gòu)建模型，構(gòu)建應用程序。我們看到有些公司，如果他們純粹只是構(gòu)建人工智能應用程序，他們的人員不到10個，但他們在運營層面有數(shù)百個智能體（agents）幫助他們處理很多事情。所以我認為現(xiàn)在人工智能為所有公司提供了非常高的運營杠桿。

競爭的新維度：從資產(chǎn)到合規(guī)

主持人: 我的確認為，這是我在達沃斯開始聽到并將貫穿全年的討論之一，那就是競爭不再是你和你的現(xiàn)有競爭對手——如果你是一個現(xiàn)有的初創(chuàng)公司或現(xiàn)有公司——而是你對抗一個從零開始、沒有任何工作流程、沒有任何遺留流程的公司，后者會說“我能做到這一點”。

當然，既得利益者（現(xiàn)有公司）也不是帶著毫無資產(chǎn)的狀態(tài)來應對的，我不認為是這樣，但是……你能談談嗎？無論誰想先說都可以，但我很好奇……顯然，任何超過一個人的公司都有人與人之間的工作流程。你如何將此轉(zhuǎn)化為一種資產(chǎn)？你如何在組織內(nèi)部使用人工智能，同時仍然認識到必須由人類來吸收這種變化？我很好奇，是否有人能舉出自己公司的例子，說明你們是如何利用人工智能的，同時認識到這一事實的。我不認為這里任何一家公司的智能體數(shù)量多于員工，或者至少不是員工數(shù)量少于智能體。

皮普爾·辛哈: 類似人工智能采用的難點在于，我們聽說了“將你自己的AI帶到工作場所”的做法，但尤其是在美國公司，合規(guī)性和治理實際上限制了你可以向你想帶到工作中的AI輸入多少數(shù)據(jù)。因此，我們所做的就是創(chuàng)建了一個合規(guī)性基礎設施，說明這是一組允許引入的數(shù)據(jù)集和一組經(jīng)過認證的模型進行交互。

然后在此基礎上，我們實際上正在應用于編碼、法律、營銷、客戶支持。因此，每個職能都在該類別內(nèi)運行。我們在客戶群中看到的總體最大困難是，他們進行了大量的試點項目并且喜歡這些試點項目的結(jié)果，但要從試點轉(zhuǎn)向生產(chǎn)，他們最大的擔憂是合規(guī)風險。然后首席風險官、首席安全官會介入并詢問：我如何確保這些代理在它們的護欄之內(nèi)？它們是否在產(chǎn)生幻覺？它們是否被國家行為者威脅所侵入？

主持人: 而且我認為，這正是那些可能因遺留系統(tǒng)而步伐放緩但已經(jīng)了解這些情況的老牌公司，與那些通過快速編碼做出了驚人演示 but 突然想進入一個必須滿足合規(guī)性的行業(yè)的單人初創(chuàng)公司之間產(chǎn)生張力的地方。那么反面就是，對于那些由人工智能原生驅(qū)動的公司來說，它們可能只有八個人，但卻有800個代理，卻必須遵守一套規(guī)則和法律，這些公司面臨著哪些挑戰(zhàn)。

理查德·索克: 我們的代理數(shù)量絕對比你公司（you.com）內(nèi)部的人還要多。我認為，對于那些希望擁抱人工智能的公司來說，最大的挑戰(zhàn)之一是他們通常還沒有形成基準測試或評估集的思維定勢。我認為這是一個巨大的鴻溝。

如果你的公司能夠確定什么是輸入，以及你將什么歸類為正確的輸出，并創(chuàng)建了一個集合，而不僅僅是，“我試過了，我試了這三件事它奏效了，或者我試了這四件事它沒奏效，所以我不想要用那個工具”。你必須把它變成一個有原則的、更具科學性的流程。如果你有那個基準測試，我們喜歡與那些公司合作，因為那時我們就能贏，因為我們擁有最好的模型、答案、準確性，還有引用等等。但是，那里絕大多數(shù)的公司還沒有考慮過如何對他們的人工智能模型和代理進行基準測試和創(chuàng)建科學的評估方法。

重塑工作流：第一性原理與信任

主持人: 珍妮絲，就你而言，你顯然是一家人工智能原生公司，因為你是為了這項使命而誕生、為這項使命而存在的，但同時也存在了足夠長的時間，我猜想也有一些人在其中參與其中。談談您如何看待您自己公司以及您的客戶群，即這將是擁有大量員工的傳統(tǒng)公司與那些白手起家的初創(chuàng)公司相結(jié)合的局面。

雅尼斯·安特諾格魯: 也許我先從頭開始說起，回到我們之前關于在我看來什么是“人工智能優(yōu)先”的對話。而“人工智能優(yōu)先”的理念就是審視你現(xiàn)有的工作流程以及你已經(jīng)完成的事情，然后從第一性原理出發(fā)重新思考它們，要知道人工智能是存在的，并且會變得越來越好。

當然，新的工作流程中會有“人在回路中”（human in the loop），不會僅僅是人工智能。你需要非常謹慎地設計和構(gòu)建系統(tǒng)，這樣你就能最大限度地利用你的員工，并確保人力勞動實際上被用在了必要和最高效的地方。所以，至少在接下來的幾年內(nèi)，在可預見的未來，我沒有看到人類完全退出這個領域的世界。我認為這將是人類和人工智能緊密合作的結(jié)合，以提高生產(chǎn)力并確保一切就位。

所以，不，現(xiàn)在從傳統(tǒng)行業(yè)的角度來看，我認為他們對他們需要解決的問題以及他們需要解決的挑戰(zhàn)，尤其是在合規(guī)性、客戶和行業(yè)方面，擁有大量的專業(yè)知識，但他們并不完全理解人工智能。這就是為什么與擁有深度人工智能理解以及人工智能能力的像人工智能公司這樣的其他公司合作非常重要。以便能夠產(chǎn)生這種協(xié)同效應，也就是將行業(yè)經(jīng)驗和人工智能經(jīng)驗結(jié)合起來，共同合作，以重新思考和重新設計工作流程，使其適應人工智能時代。

主持人: 拉維（Ravi），你顯然在投資公司。我很好奇，從一個初創(chuàng)公司首席執(zhí)行官那里，你會如何看待他們對人工智能的依賴程度與對人員的依賴程度之間的比例？你希望聽到什么？

拉維·馬特雷: 如果我能回到一件事，我真的很想知道雅努斯（Janus）的看法，但人們提到了這一點，那就是今天，大型企業(yè)的商業(yè)領袖，他們并不是人工智能優(yōu)先的公司。他們確實如此，即使他們試圖想象獲取無限智能可以為他們的業(yè)務帶來怎樣的變革，但這種對信任和安全的需要，已經(jīng)演變成一種合規(guī)性思維模式，這實際上減緩了人工智能在他們業(yè)務中的采用和使用。

我們需要的實際上，我相信，是一套技術(shù)和一個允許人工智能安全可信的思維模式。因為信任，如果人工智能中嵌入了基于信任的技術(shù)，那么我認為這些更傳統(tǒng)的企業(yè)和商業(yè)領袖就可以采取積極參與的態(tài)度，他們會說，當我的規(guī)模擴大時，我知道安全性會內(nèi)在其中。因此，我就可以快速行動，而不是考慮當我引入這項新技術(shù)時，我該如何放慢速度或我為什么應該更保守？

我只是好奇，我認為，你暗示了目前是評估以及傳統(tǒng)企業(yè)的商業(yè)領袖，他們在公司內(nèi)部沒有能力或?qū)I(yè)知識來制定復雜的評估。因此，我們認為，至少在以民主為基礎的人工智能社會中，采用的關鍵加速器之一，必須是將基于信任的技術(shù)在模型內(nèi)部或與模型并行的位置進行產(chǎn)品化。我只是，約尼斯實際上正在構(gòu)建前沿級別的開源推理模型。這些公司總部位于美國，但您如何看待基于信任的技術(shù)，當這些系統(tǒng)擴散到世界和商業(yè)中時，這將允許它們以一種良性的方式被使用？

雅尼斯·安特諾格魯: 這確實是一個很好的問題，因為我認為這是人工智能采用中的一個主要障礙，比如，你如何建立信任，以及你如何確保你所認為的人工智能正在做的事情，就是它實際正在做的事情。實際上，這歸結(jié)為擁有更好的技術(shù)。

就像2022年ChatGPT剛出現(xiàn)時，我認為當時所有的錯誤信息泛濫，每個人都對他們在ChatGPT上看到的任何內(nèi)容持非常懷疑的態(tài)度，他們會去核實一下，而且在大多數(shù)情況下，它實際上是錯誤的。但是，現(xiàn)在，在大多數(shù)情況下，當你只是在ChatGPT上閱讀一些內(nèi)容時，你會相信它。你會覺得，它可能是對的，因為你實際上已經(jīng)核實了好幾次了。

隨著時間的推移，它實際上贏得了你的信任。你一次又一次地看到了它的正確性。隨著時間的推移，你實際上與人工智能建立起了這種信任。我認為人工智能不是一個短期內(nèi)就能解決的問題，而是我們在不久的將來會在不同方面吸引大量關注的東西。然后我們會像這樣，開始與像人工智能系統(tǒng)這樣的事物發(fā)展信任關系。我們就會像這樣，開始信任它們?；蛘呒词乖谟嬎銠C剛出現(xiàn)的時候，人們也不信任它們，但現(xiàn)在每個人都相信計算機就像會做你告訴它們要做的事情一樣。

技術(shù)基礎設施與可追溯性

主持人: 所以我只是想問你，在中國，情況是否有所不同？或者對于企業(yè)使用人工智能而言，這是一種相當相似的信任觀念和對信任的需求嗎？

張予彤: 我認為信任實際上可以通過技術(shù)來促成，而信任也是用戶的感知。當我們第一次推出這個應用程序時，我們連接了搜索工具，而且，我們展示了所有的引文、所有的參考資料，就是人工智能從網(wǎng)絡、從文件獲取信息的具體句子。這種互動層面實際上有助于人們對技術(shù)產(chǎn)生更多的信任感。

而且，我認為，某種程度上的可追溯性是另一個因素。以前人工智能就像一個黑匣子，它們給你一個復雜計算得出的數(shù)字，你不知道這個數(shù)字是從哪里來的。但現(xiàn)在通過所有的推理步驟，我們可以看到人工智能如何使用工具、收集信息，最終綜合出答案的整個軌跡。

所以我覺得這絕對非常重要。人工智能不能只是提供直接的答案，它必須把所有的思考過程、所有的工具、所有的數(shù)據(jù)來源都拆解開來。所以我想在那方面需要構(gòu)建大量的基礎設施，讓人們覺得，好的，他們可以信任這項技術(shù)，不僅是執(zhí)行，還包括很多關于如何運營業(yè)務的決策。或者，他們真的可以讓大型語言模型（LRM）來決定很多事情。如果人們能夠定義“好”的標準是什么，匯集所有專家的意見，作為評估標準，然后我們就可以真正構(gòu)建一個由大型語言模型（LOM）驅(qū)動的可擴展決策系統(tǒng)。

主持人: 人們，我很好奇，像你，以及其他人可能對此有何想法，在其他人發(fā)言后請隨時加入，但是，你正在建立一家企業(yè)，以幫助其他公司，為這個人工智能世界進行構(gòu)建。我今天很好奇，而且我預想這會發(fā)生變化，你們在多大程度上考慮幫助大型成熟企業(yè)，以及你們有多少想法轉(zhuǎn)向，我如何確保我能成為那一代幾家初創(chuàng)公司的好伙伴？今天的精力集中在哪里，你對后者考慮了多少？

皮普爾·辛哈: 對于更大的公司而言，我們正在討論的問題是信任，這也是我們關注的重點。我們正在幫助他們采用一種生成式工作流程。我們理解的是，許多這些組織都有文檔，其中說明了哪些是允許做的，哪些是不允許做的。但他們很難將這些轉(zhuǎn)化為一套能讓您的智能體和模型執(zhí)行的規(guī)則，因為它們是概率系統(tǒng)，而這些規(guī)則是固定的。

因此，我們正在與客戶合作的是，我們能否采用這套規(guī)則，訓練一個模型，使其成為您智能體工作的判斷模型？這樣您就可以用另一個基于您自己規(guī)則集的LLM來判斷一個LLM，這與您剛才描述的類似。因此，您不必創(chuàng)建規(guī)則。讓神經(jīng)驅(qū)動規(guī)則。這樣LLM就可以判斷LLM，然后您對這些結(jié)果的準確性更有信心。

所以，這些是我們的客戶希望發(fā)展的方向。他們不想從事將他們的業(yè)務規(guī)則轉(zhuǎn)化為阻止代理的業(yè)務。他們希望賦能代理，但他們希望以一種讓他們擁有更高信心的方式來賦能代理。在幻覺率、第三方網(wǎng)絡攻擊和攻擊面方面更大。所以這些就是我們正在解決的問題。

人工智能吞噬軟件：未來的無形化趨勢

主持人: 所以聽起來你仍然將你的業(yè)務視為幫助大公司采用人工智能。我很好奇，也許理查德，你對這需要如何隨著時間的推移而轉(zhuǎn)變，以便初創(chuàng)公司也在思考，我如何幫助這些新一代公司？因為我猜想，當我們一兩年后坐在這里時，這個小組中的某個人將運營一家估值達到十億美元或更高的公司，盡管如今這似乎不算什么。那是一家種子前初創(chuàng)公司。但是，只有少數(shù)幾個人擁有的、具有相當可觀估值的公司，他們將是你們的一些客戶。理查德，你對此有何看法？

理查德·索克: 總的來說，當然，每個人都喜歡規(guī)模，大客戶可以帶來規(guī)模，但大客戶的采購流程也長得多，而對于一家小型初創(chuàng)公司來說，處理這些事情很困難。所以這是一種權(quán)衡。你擁有的初創(chuàng)公司越小，你的發(fā)展速度就越快。然后你可以希望其中一些初創(chuàng)公司能夠真正實現(xiàn)規(guī)模化并持續(xù)增長。

然后說到信任，這對我們來說確實非常重要。事實上，在 2022 年，我們申請了專利，并交付了搜索引擎與大型語言模型（LM）的首次連接，這樣你實際上就有了引用。我認為引用現(xiàn)在顯然已經(jīng)無處不在了，它們是隨著時間的推移建立信任的一種方式。這又回到了授權(quán)能力，做好授權(quán)的一部分是知道何時信任，何時需要“信任但要驗證”，然后隨著時間的推移來建立這種能力。

主持人: 但總的來說，我的直覺是，20 年后最大的公司將是那些現(xiàn)在起步并且是人工智能原生的公司。Yutong，你一開始提到，你們的一些客戶實際上是個人，他們引入你的聊天機器人來幫助他們更好地完成工作，無論他們的雇主是否是人工智能優(yōu)先型。你如何看待當今聊天機器人的客戶是誰，以及未來客戶的構(gòu)成？

張予彤: 是的。所以我認為一個非常重要的變化是，我沒有看到軟件會消失，但我認為軟件將變得無形。所以我想現(xiàn)在的情況是，如果我們想創(chuàng)建一個Word文檔，或者我們需要記住所有用于Excel的公式，或者，創(chuàng)建一個非常漂亮、易于展示的PowerPoint幻燈片，人們直接使用圖形用戶界面（GUI），點擊數(shù)百個按鈕，記住所有的公式。

但我認為在未來，人類肯定將只使用自然語言，通過智能代理來獲取所有工具和所有軟件的所有能力。我認為人工智能可以幫助我們使用、訪問所有軟件。我認為這就是它將如何改變許多公司的工作方式。人們可以利用人工智能作為一種超能力來幫助他們的工作。

主持人: 有人本周說，我很抱歉，我在盜用別人的智慧，但最近有一個著名的說法，即軟件正在吞噬世界，而人工智能正在吞噬軟件。這是你的看法嗎？

張予彤: 我只是認為這更像是用戶界面和用戶體驗的轉(zhuǎn)變，因為我們依賴于大量的點擊和按鍵對于先前的交互，但我認為未來的交互將更加自然，只要人們能夠描述他們的意圖，他們就知道如何使用人工智能，然后人工智能可以幫助他們獲取現(xiàn)有軟件提供的所有功能，如果沒有現(xiàn)有的軟件，人工智能可以利用其編碼能力來編寫個性化的工具或軟件來幫助交付最終結(jié)果。我認為這絕對是不同之處所在。

拉維·馬特雷: 我百分之百同意你的看法，湯。這部分與一個事實相關，即人們沒有意識到人工智能或智能能力的提升確實是呈指數(shù)級曲線的。在去年，平均而言，推理的每令牌成本平均下降了100倍。在許多用例中，下降了1000倍。因此，當這種情況發(fā)生時，僅僅是智能就能夠基本上使軟件變得可消耗。

即它可以像在四海岸案例中那樣，以魯棒性的方式進行“氛圍編碼”（vibe-coded），并且它大部分時間都是生產(chǎn)就緒的。僅僅是，有人可以想象任何你想通過軟件自動化的任務，并利用智能來實現(xiàn)它。如果我們正處于這樣一個指數(shù)曲線上，即智能在給定成本和參數(shù)下可以展現(xiàn)出多大的能力，我認為你將看到軟件變得無形，而智能將成為人們表達他們希望后臺自動化完成任務的新型“語言”，它將是一種持續(xù)的流動。

主持人: 如果我們把這作為假設，有人想挑戰(zhàn)我們正朝著這個方向發(fā)展的假設嗎？

理查德·索克: 我的直覺是，將會有一些軟件，你真的希望它做得非常好，而且它是一個非常常見的用例，比如Instagram或類似的東西，你可以自己搭建一個Instagram，但你沒有其背后的網(wǎng)絡支持，你沒有用戶貢獻他們的內(nèi)容和相關東西。但我同意，比如，尤其是在企業(yè)環(huán)境中，如果你巧妙地做到這一點，并且擁有所有復雜的權(quán)限設置和報告等等，如果你能實現(xiàn)自動化，然后在其上進行創(chuàng)新，那將會非常強大。

拉維·馬特雷: 我認為這將擴展應用場景，擴展到那些原本軟件不會被構(gòu)建、并且存在更多手動流程和工作流的地方。那很可能會消失。而且，再說一次，由于這種變化的速度是……我認為智能能力的指數(shù)級提升，將令人們感到驚訝。但我同意你的看法，在用戶數(shù)量非常多、因此設計的美觀度和完成度以及某些魯棒性方面需要仔細考量的應用場景中，這在更長一段時間內(nèi)，或許最終在極限情況下，也可以被自動化。這將是利用人工智能來增強工作流程的工程人員，但也需要進行一些設計工作。

智能體編排與遞歸自我改進

主持人: 如果我們把這視為我們前進的方向，那么從實現(xiàn)方式上我們遺漏了什么？例如，我認為我們低估了人工智能的一點是，人類適應它的速度會有多快。如果我們假設起點是我們將處于一個企業(yè)將創(chuàng)建這些只需完成必要工作而無需創(chuàng)建另一款軟件的層級的世界，我們可能遺漏了什么？在我們?nèi)偾斑M之前，我們還必須關注什么？我們要做什么，還有哪些工作需要完成？

皮普爾·辛哈: 在我看來，智能體編排是一個將非常重要的領域。因為如果你想想我們在過去15到20年里為實現(xiàn)數(shù)字化轉(zhuǎn)型而構(gòu)建的所有企業(yè)自動化軟件，這個新的智能體編排層將利用這些軟件。只是人類將不會參與這個過程。隨著時間的推移，它會越來越深入，使工作流引擎徹底變得毫無用處。

所以最終你將擁有數(shù)據(jù)結(jié)構(gòu)，然后你將擁有智能體編排。因此，尚未被充分理解或尚未受到關注的是這個智能體編排層，它接收你的輸入，即你想要完成什么，然后如何創(chuàng)建和編排這些智能體？在我看來，如果你快進10年、15年，你將擁有數(shù)據(jù)、一個智能體編排器，它可以為你創(chuàng)建你需要的任何類型的工作流，無論你是想接受客戶的業(yè)務訂單，還是想為你的客戶或潛在客戶運行營銷活動，或者你想支持你的客戶。它將為你動態(tài)生成該工作流，運行該工作流，創(chuàng)建結(jié)果，給你最終結(jié)果，并告訴你發(fā)生了什么。但這一個過程是一個編排過程。

理查德·索克: 我會說可能有兩件事。一是，現(xiàn)在，人工智能正在越來越多地從最初為人類構(gòu)建的基礎設施中轉(zhuǎn)移出來，而現(xiàn)在人工智能開始越來越多地使用它。我們已經(jīng)看到了這一點，比如圖形處理器（GPU），最初是供人們玩游戲使用的，而我們正在訓練它們。現(xiàn)在我們正在構(gòu)建專為人工智能設計的全新硬件。我們認為這是您向上堆棧移動的過程。就像以前許多人工智能模型使用谷歌作為其搜索引擎或搜索結(jié)果頁面（SERP）API等一樣?，F(xiàn)在它們實際上正在轉(zhuǎn)型，我們正在構(gòu)建一個實際的搜索引擎，專門用于大型語言模型（LM），供它們進行搜索并總結(jié)所有內(nèi)容。

我認為我們大大忽略和沒有考慮的另一件事是下一層次可能是什么。我從歷史上可以想象的方式是，想象一下IBM的“沃森”團隊剛剛贏得《危險邊緣》（Jeopardy）時的情景。每個人都在互相擊掌慶祝，你會說，辛苦了負責地理問題的團隊，辛苦了負責音樂問題和名人問題等的團隊。但順便說一句，你們800人將成為一個單一的神經(jīng)網(wǎng)絡，因為我們現(xiàn)在可以學習所有這些知識，并用一個學習到的系統(tǒng)取代一個手動系統(tǒng)。

目前，構(gòu)建模型的系統(tǒng)實際上是手動完成的。那些非常聰明的人，有時你需要花5000萬美元請他們，他們正在手動構(gòu)建關于如何在新模型創(chuàng)建時奏效的直覺，然后合并一個新模型需要數(shù)月時間，接著你就得到了GPD 5.3或類似的東西。這部分本身也可以實現(xiàn)自動化，那將是一種遞歸的自我改進。這些模型會自行變得更好。

主持人: 完全正確。珍妮絲，你認為哪些事情因為我們目前不是AI原生而尚不是問題，但當我們成為AI原生時，會成為問題或挑戰(zhàn)？

雅尼斯·安特諾格魯: 實際上，我只是想回到智能體注冊（agent-registration）這個問題上。我認為這不只是一個智能體注冊的問題，而更多是多智能體（multi-agent）的問題。當你有一個系統(tǒng)，其中既有人類也有許多智能體彼此互動時，以及這些系統(tǒng)的動態(tài)特性是什么。這不是一個被充分理解的系統(tǒng)。我們對此幾乎沒有任何科學依據(jù)。我們不知道如何優(yōu)化這些模型，使其在多智能體系統(tǒng)中運行得更好。這方面有一些初步的研究，但還不夠成熟。我認為，隨著像代理（agent）和擁有許多代理相互作用的系統(tǒng)的激增，這將成為一個更緊迫的問題。

明年的常識：長效代理與強化學習

主持人: 那么最后一個問題，對你們每個人來說，有什么是今天聽起來有點激進，但你們認為到今年年底就會顯而易見的？到明年達沃斯會議時，這聽起來像是今天很棒的預測，但你認為到我們明年再次會面時，它將成為常識性的智慧。

張予彤: 人工智能將創(chuàng)造出最好的人工智能，而不是人類。我認為這是一個非常長的代理期。我認為在擁有一個可用、可擴展的人工智能系統(tǒng)之前，人工智能需要擁有像人類一樣非常長的代理期。比如，我正和我的團隊一起工作。我們每周都有一次會議，我們設定目標，討論大概的任務，然后他們就自己獨立去自主工作，然后我們可以下周再見面看看結(jié)果。所以我認為非常長的代理期可能會實現(xiàn)。

拉維·馬特雷: 還有其他想法嗎？我想我們將首先看到的是關于，智能能力的前沿，即某種更持續(xù)學習的能力。它可能不完美，但模型能夠根據(jù)它們與環(huán)境的交互方式進行調(diào)整，然后對其核心知識進行某種更新。

皮普爾·辛哈: 對于企業(yè)而言，強化學習目前沒有被正確理解。許多企業(yè)的挑戰(zhàn)在于沒有通用的員工。每個人都為企業(yè)執(zhí)行特定的任務，這就是為該企業(yè)定義的業(yè)務流程。尚未被充分理解的是，強化學習將如何獲取企業(yè)的特定工作流程并進行強化學習，以使通用模型適用于企業(yè)，而我們將在明年看到這是重大進展。今天有點理論化，但這將加速人工智能在企業(yè)中的采用。

雅尼斯·安特諾格魯: 我想我同意你的觀點，真正的長效代理（或長期能動性）將成為常態(tài)。

主持人: 我希望明年我們有機會討論所有這些內(nèi)容。我相信那將是變革巨大的一年。非常感謝亞尼斯、比波爾、理查德、予彤和拉維，進行了一次精彩的討論。