文 | kiki

在全世界都為大模型和AI興奮與瘋狂的當(dāng)下，一場關(guān)于中間層的隱秘戰(zhàn)爭卻在悄悄打響。

微軟已將OpenAI的大模型技術(shù)和自身AI能力加速整合進Windows系統(tǒng)和Microsoft Azure中。在推出多種AI功能集成的Android 14后，谷歌又在近日發(fā)布Android 15 beta版。另一邊的造車失敗的蘋果也被曝出iOS 18將推出首批AI功能。

一個AI原生時代的操作系統(tǒng)應(yīng)該長什么樣？全球科技巨頭們都開始圍繞這一問題給出自己的答案。

縱觀科技史的發(fā)展，軟硬件相互協(xié)同是核心主線。而被稱為“軟件之魂”的操作系統(tǒng)，向上連接開發(fā)者，為其提供接口與環(huán)境，向下連接底層軟硬件資源，始終發(fā)揮基石作用，因此其創(chuàng)新與迭代也一直都備受關(guān)注。

但擺在各大科技公司面前的是一道“既要又要”的全新OS難題：一方面，面向開發(fā)者，如何將自身的底層技術(shù)能力進行抽象與封裝，提升開發(fā)者的開發(fā)效率；另一方面，面向行業(yè)和產(chǎn)業(yè)，又如何進一步讓全新OS發(fā)布基石作用，激活產(chǎn)業(yè)生態(tài)，讓大模型真正落地千行百業(yè)？

1、AI原生時代，所有操作系統(tǒng)都值得用AI重做一遍

早在2017年，“Android之父”安迪·魯賓就曾放出預(yù)言：“AI是下一個重要操作系統(tǒng)?！?/p>

從PC年代到移動互聯(lián)網(wǎng)時代再到以大模型技術(shù)為引領(lǐng)的AI原生時代，類似的預(yù)言并不在少數(shù)。百度集團執(zhí)行副總裁、百度智能云事業(yè)群總裁沈抖也有類似的觀點：“我們需要一個全新的操作系統(tǒng)，對新的計算平臺，也就是智能計算，做好抽象和封裝，重新定義人機交互，為開發(fā)者提供更簡單、更流暢的開發(fā)體驗。”

換句話說，當(dāng)下，在AI原生時代，所有的操作系統(tǒng)都值得用AI重做一遍。

這并非是“科技暴論”，背后的原因有三點：

一是人機交互的方式變了，未來人人都是開發(fā)者。操作系統(tǒng)與編程語言緊密聯(lián)系，如Unix系統(tǒng)與C語言的相互成就。但在大模型時代，變成不需要從C語言學(xué)起，而只需要從自然語言開始，編程不再是面向過程、面向?qū)ο螅侵苯用嫦蛞粋€人的個性化需求。在軟件開發(fā)范式的變革下，操作系統(tǒng)當(dāng)然也需要變得更懂人心。

二是操作系統(tǒng)的“內(nèi)核層”變得更加復(fù)雜。如果將操作系統(tǒng)比作飛機，“內(nèi)核”就是發(fā)動機。在過去“發(fā)動機”的底層硬件主要以CPU通用算力為主，但在AI浪潮下，逐步轉(zhuǎn)變?yōu)镚PU主導(dǎo)的智能算力，同時在軟硬件外，“發(fā)動機”還多了一項新資源——大模型壓縮世界知識。資源越發(fā)復(fù)雜下，自然需要操作系統(tǒng)新的內(nèi)核創(chuàng)新。

三是大模型技術(shù)的加速進化也在呼吁操作系統(tǒng)自身的迭代。

從操作軟件發(fā)展歷史來看，Unix系統(tǒng)的出現(xiàn)是因為通用計算機，Winodws的出現(xiàn)則是因為VGA圖像顯示卡，Android/iOS的出現(xiàn)則是因為智能手機，硬件技術(shù)的發(fā)展是操作系統(tǒng)技術(shù)更新?lián)Q代的根本原因。

但如今，大模型浪潮下，開發(fā)門檻的降低，利用大模型不需要寫代碼完成軟件的開發(fā)已不再是“童話故事”，未來隨著AI原生應(yīng)用的爆發(fā)，“軟件定義一切”步伐加速，人們站在軟件創(chuàng)新引領(lǐng)硬件創(chuàng)新的一個時代性的拐點上，行業(yè)也在見證和呼喚作為“軟件之魂”的操作系統(tǒng)自身的快速迭代。

新的時代變化、新的編程交互、新的內(nèi)核變化，無疑呼喚全新的操作系統(tǒng)。作為大模型訓(xùn)練和推理的基礎(chǔ)設(shè)施，最先受益這股浪潮的云廠商們也在爭搶這張船票。不久前的2024百度CreateAI開發(fā)者大會上，百度智能云也發(fā)布了全新一代智能計算操作系統(tǒng)——“萬源”，掀起了AI原生時代的OS新革命。

2、智能時代的OS，萬源有“兩變”

但操作系統(tǒng)的研發(fā)從來不是一場簡單的游戲。

AI原生時代，對操作系統(tǒng)的創(chuàng)新，其難度不亞于是一次重構(gòu)，對云廠商而言，其最大挑戰(zhàn)往往集中在兩個方面：

一是相較于傳統(tǒng)云計算，算力資源正在從以CPU為主走向以GPU為主，操作系統(tǒng)需要超大規(guī)模的異構(gòu)算力集群上部署與管理大模型或AI原生應(yīng)用，如何更好地屏蔽底層云原生系統(tǒng)與異構(gòu)算力的復(fù)雜性，保證操作和運行環(huán)境的安全性、靈活性和穩(wěn)定性，這是一大挑戰(zhàn)。

二是對開發(fā)者而言，特別在大模型時代，如何降低模型調(diào)用的成本，提升開發(fā)體驗，真正實現(xiàn)“模型靈活調(diào)用-應(yīng)用極簡開發(fā)”的正向飛輪，這無疑考驗技術(shù)廠商們的綜合實力。

并非所有云廠商都具備掀起變革的能力，變革者必須具備兩個基礎(chǔ)條件：第一，在“AI+云”有足夠深的沉淀。二是，是大模型時代頭部陣營的玩家。

百度智能云符合上述兩大條件，一方面，百度是國內(nèi)最早落地大模型技術(shù)科技企業(yè)，另一方面，區(qū)別與其他云廠商，“AI原生云”也是百度智能云的差異化優(yōu)勢。

在此土壤上誕生的“萬源”是如何破局的？

“萬源”所做的第一個改變，就是讓系統(tǒng)內(nèi)核這一“發(fā)動機”由重變輕，將模型和算力資源發(fā)揮到極致。

“萬源”內(nèi)核包含算力和模型兩部分，其中在模型側(cè)充分發(fā)揮百度“模型超級工廠”的能力?！叭f源”既包括了百度強大的基礎(chǔ)模型ERNIE 4.0和ERNIE 3.5，還有輕量級模型ERNIE Speed、Lite、Tiny等，除此以外，還提供了文心視覺大模型和各具特色的第三方大模型。豐富的模型，可滿足用戶在不同業(yè)務(wù)場景下多元化的模型需求。

而在算力層，高效算力不是堆卡堆出來的，盡管如今業(yè)內(nèi)動輒千卡、萬卡集群訓(xùn)練大模型，但也存在著大量的算力浪費。比如，OpenAI訓(xùn)練GPT-4在大約25000個A100上訓(xùn)練了90到100天，利用率也僅僅在30%左右。

在算力利用率方面，百度百舸AI異構(gòu)計算平臺交出了一份領(lǐng)先行業(yè)的答卷。目前，百舸在萬卡集群上提供有效訓(xùn)練時長達到98%，帶寬有效利用率達到了95%。

除此以外，在芯片供應(yīng)充滿不確定性的特殊背景下，“萬源”還做到了“一云多芯”。

想要實現(xiàn)“一云多芯”并不容易，特別是在模型訓(xùn)練環(huán)節(jié)，“一云多芯”是極難攻克的問題，對云廠商的技術(shù)能力、工程化能力、生態(tài)能力等提出了很高的要求。一位業(yè)內(nèi)人士稱：“云OS對于不同芯片、芯片架構(gòu)和應(yīng)用軟件的兼容，是一個龐大的全生態(tài)的工程。”

有業(yè)內(nèi)人士告訴「硅基研究室」，在模型訓(xùn)練上，“一云多芯”的部署和落地難點主要體現(xiàn)在兩個細分場景上：一是，在智算集群中，往往存在多個訓(xùn)練任務(wù)，但單一廠商芯片只服務(wù)單一任務(wù)，實現(xiàn)異構(gòu)資源的統(tǒng)一調(diào)度和互聯(lián)互通，難度很大。二是，在每個獨立的模型訓(xùn)練任務(wù)中，如果想要同時使用不同廠商的芯片，這就需要解決各家廠商芯片算力均勻切分、芯片間通信效率優(yōu)化等問題。

憑借在“一云多芯”的多年投入，目前百舸不僅兼容了昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內(nèi)外主流AI芯片，還實現(xiàn)了單一訓(xùn)練任務(wù)下不同廠商芯片的混合訓(xùn)練。而在備受關(guān)注的資源效率利用上，百舸也領(lǐng)先行業(yè)，百卡規(guī)模性能損失不超過3%，千卡規(guī)模性能損失不超過5%。

不難看出，“一云多芯”將是未來成為云廠商的核心能力，一方面幫助用戶減少了對單一芯片的依賴，能為用戶在復(fù)雜應(yīng)用場景及業(yè)務(wù)需求下，提供更精準(zhǔn)的算力供給，節(jié)約成本。另一方面，“一云多芯”其實最大程度降低了用戶在算力選擇上的風(fēng)險，這本質(zhì)上也是提升了業(yè)務(wù)的穩(wěn)定性與靈活性。

在此基礎(chǔ)上，萬源所做的第二個改變，就是面向廣大開發(fā)者，讓應(yīng)用開發(fā)由復(fù)雜到簡單。AWS CTO Werner Volgels曾提過一個有趣的觀點：“All The Code You Ever Write Will Be Business Logic（你編寫的所有代碼都將是業(yè)務(wù)邏輯）”。

某種程度上，這其實揭示了操作系統(tǒng)未來發(fā)展的一個方向——所有的操作系統(tǒng)都應(yīng)是以人為本的，開發(fā)者他們只需要關(guān)心業(yè)務(wù)邏輯，不用關(guān)心基礎(chǔ)設(shè)施，也不用關(guān)心開發(fā)工具鏈。

將復(fù)雜留給自己，將更優(yōu)的體驗留給開發(fā)者，萬源的Shell層的百度智能云千帆 ModelBuilder和工具層的千帆AppBuilder和AgentBuilder正延續(xù)了這一底層邏輯。

Shell層中的千帆ModelBuilder可屏蔽模型開發(fā)的復(fù)雜性，更多的人可以低成本、高效能的方式快速精調(diào)出適合自己業(yè)務(wù)的模型。ModelBuilder同樣關(guān)注實際應(yīng)用中的“效價比”，以ModelBuidler提供的模型路由服務(wù)為例，能自動為不同難度的任務(wù)選擇合適參數(shù)規(guī)模的模型，在模型效果基本持平的情況下，模型路由平均降低推理成本多達30%。

在工具層，AppBuilder和AgentBuilder是開發(fā)者開發(fā) AI 原生應(yīng)用的兩大利器，前者面向App快速開發(fā)，后者則是貼近普通人生活場景的智能體開發(fā)工具。

以AppBuilder為例，最快只需三步，開發(fā)者不需輸入代碼，就可以用自然語言開發(fā)出一個AI原生應(yīng)用，而且能夠便捷地發(fā)布，直接集成到自己的系統(tǒng)和業(yè)務(wù)環(huán)境中，真正做到極速開發(fā)、輕松上市。

3、生態(tài)之戰(zhàn)，應(yīng)用優(yōu)先

生態(tài)，是操作系統(tǒng)最重要的競爭要素。

縱觀全球操作系統(tǒng)巨頭，無不是依靠“生態(tài)之戰(zhàn)”構(gòu)建，發(fā)揮協(xié)同優(yōu)勢，無論是產(chǎn)業(yè)上下游間的聯(lián)合，如Windows和Intel的綁定，還是軟硬件的協(xié)同，如iOS 和 iphone 的綁定， 抑或是選擇開源戰(zhàn)略吸引用戶，如Android 和 Redhat。

用最直接的話來說，AI原生時代，操作系統(tǒng)做得再好，如果不能落地具體應(yīng)用，沒有生態(tài)伙伴和開發(fā)者的支持，用不起來，也就發(fā)展不起來。

百度是國內(nèi)大模型玩家中對“應(yīng)用落地”最重視的企業(yè)，百度創(chuàng)始人李彥宏曾多次強調(diào)，大模型本身并不直接創(chuàng)造價值，基于大模型開發(fā)出來的AI應(yīng)用才能滿足真實的市場需求。

百度智能云無疑也是最關(guān)注企業(yè)和行業(yè)大模型落地場景和應(yīng)用效果的云廠商之一。沈抖曾明確表示：“大模型時代，真正給企業(yè)帶來價值的，是使用大模型的深度和打磨AI原生應(yīng)用的速度?！?/strong>

強調(diào)應(yīng)用落地，讓大模型用起來，生態(tài)成了不可忽視的一環(huán)。

百度智能云的解法是，攜手行業(yè)頭部伙伴，探索大模型應(yīng)用的新范式。

百度智能云就和榮耀在MagicOS上做了一次“端云協(xié)同”的新嘗試。在AI大模型的浪潮下，手機已成為AI落地的主要戰(zhàn)場之一。但如何既能準(zhǔn)確理解、分析用戶的復(fù)雜任務(wù)需求，同時又提供高效靈活的用戶體驗？

榮耀和百度智能云的“端云協(xié)同”提供了答案。

在云側(cè)，百度文心大模型為榮耀YOYO助理打造更專業(yè)的用戶服務(wù)，帶來本地化的文本創(chuàng)作、知識問答、生活建議等。同時，云上的“文心大模型”與榮耀平臺級端側(cè)AI大模型“魔法大模型”的能力互補，端側(cè)大模型負責(zé)理解用戶意圖，將需求轉(zhuǎn)化成更專業(yè)的提示詞，再由更強大的云端大模型給出更深入和更全面的解答。同時，在隱私保護上，“端云協(xié)同”下，端側(cè)大模型也可以做本地化防護，確保個人隱私不上云。

舉個例子，比如，當(dāng)用戶在手機上提出“幫我制定健康計劃”這一需求時，榮耀“魔法大模型”會先分析用戶健康信息，自動生成具象化提示詞，再調(diào)度云端百度文心大模型的能力，為用戶生成更全面的個人定制健身計劃。

不止是與榮耀的強強聯(lián)合。截至2024年3月，百度智能云千帆大模型近6個月的合作伙伴數(shù)量增長超過500%，朋友圈不斷擴容，智能時代的云平臺生態(tài)正在快速發(fā)展，產(chǎn)業(yè)價值也正在加速顯現(xiàn)。

從這一點來看，百度智能云發(fā)布“萬源”并非是偶然，而是智能時代下云廠商迭代自身的必然。

在百度智能云的設(shè)想中，“萬源”未來將釋放更大的潛能。向上通過開發(fā)更多的能力和接口，連接賦能更多的開發(fā)者；向左，企業(yè)行業(yè)可以用“萬源”為基礎(chǔ)，打造垂直行業(yè)的操作系統(tǒng)；向右，“萬源”也可部署在企業(yè)自己的智算中心里，提供穩(wěn)定、安全、高效的智能計算環(huán)境；向下，則將適配更多的芯片，為開發(fā)者隱去異構(gòu)集群的復(fù)雜性，讓不同的芯片發(fā)揮最大的效能。

云計算行業(yè)發(fā)展至今，中國云廠商從卷價格、卷產(chǎn)品到卷服務(wù)，究竟還有沒有新創(chuàng)新？這是一個時常會被問的問題。百度智能云“萬源”從一個新角度回答了這一問題：一個新的時代，需要一個新的操作系統(tǒng)，一個新的技術(shù)體系，也唯有如此，才能為行業(yè)帶來新可能與新想象。