3月27日，作為2026中關(guān)村論壇核心組成部分，由趨境科技與九源智能計(jì)算系統(tǒng)生態(tài)聯(lián)合體共同主辦的“全棧智能 全域推理：Token爆發(fā)元年的全場景大規(guī)模推理服務(wù)”專題研討會成功舉辦。論壇匯聚院士、頂尖學(xué)者及產(chǎn)業(yè)領(lǐng)軍人物，聚焦大模型時(shí)代推理服務(wù)的核心技術(shù)、產(chǎn)業(yè)實(shí)踐和生態(tài)協(xié)同，共探高效、穩(wěn)定、安全、普惠的大模型推理服務(wù)體系建設(shè)。

活動(dòng)特邀九源智能計(jì)算生態(tài)聯(lián)合體秘書長、清華大學(xué)教授、趨境科技首席科學(xué)家武永衛(wèi)擔(dān)任主持人。啟元實(shí)驗(yàn)室副主任劉航、工業(yè)和信息化部電子工業(yè)標(biāo)準(zhǔn)化研究院副院長郭楠為活動(dòng)致辭。中國工程院院士、九源智能計(jì)算系統(tǒng)生態(tài)聯(lián)合體理事長、清華大學(xué)教授、趨境科技首席科學(xué)顧問鄭緯民受邀出席并做主旨演講，從宏觀視角解讀了從“模型服務(wù)”邁向“Token服務(wù)”的底層邏輯與基礎(chǔ)設(shè)施變革。趨境科技創(chuàng)始人兼CEO艾智遠(yuǎn)現(xiàn)場發(fā)布全新一代AI推理平臺——趨境 ATaaS 高效能 AI Token 生產(chǎn)服務(wù)平臺（Approaching.AI Token as a Service），為破解算力投入與Token產(chǎn)出失衡難題提供了系統(tǒng)性解決方案。眾多等產(chǎn)業(yè)鏈領(lǐng)軍企業(yè)代表現(xiàn)場帶來主旨演講，分享AI推理服務(wù)產(chǎn)業(yè)的發(fā)展新路徑。

鄭緯民院士：AI產(chǎn)業(yè)核心已從模型服務(wù)轉(zhuǎn)向Token服務(wù)

鄭緯民院士在題為《從模型服務(wù)到Token服務(wù)》的主旨演講中指出，隨著智能體、AI Coding等應(yīng)用的爆發(fā)式增長，Token消耗量呈百倍、千倍級躍升，2026年已成為名副其實(shí)的“Token爆發(fā)元年”。AI產(chǎn)業(yè)的核心關(guān)注焦點(diǎn)，正從“模型參數(shù)規(guī)模、模型可用性”全面轉(zhuǎn)向“穩(wěn)定、低成本、高質(zhì)量交付的Token產(chǎn)能”。

“未來的智能基礎(chǔ)設(shè)施應(yīng)圍繞‘Token即服務(wù)（TaaS，Token as a Service）’進(jìn)行重構(gòu)”。鄭緯民院士表示，傳統(tǒng)模型服務(wù)的核心是保障模型可得性與接口完整性，而Token服務(wù)的核心是保障Token產(chǎn)能的可用性，更關(guān)注成本、吞吐、延遲與可靠性等生產(chǎn)性指標(biāo)，是一個(gè)極端復(fù)雜的多維系統(tǒng)最優(yōu)化問題，必須完成全鏈路的系統(tǒng)級創(chuàng)新。

對此，鄭緯民院士明確了TaaS發(fā)展的三大核心技術(shù)底座：一是全系統(tǒng)異構(gòu)協(xié)同，通過將不同計(jì)算任務(wù)合理分配至GPU、CPU、內(nèi)存和SSD，打破算力瓶頸；二是存算協(xié)同實(shí)現(xiàn)“以存換算”，通過前置KV Cache等技術(shù)，大幅降低重復(fù)計(jì)算量，提升推理效率；三是面向SLO的智能調(diào)度，精準(zhǔn)地將用戶業(yè)務(wù)需求“翻譯”為底層資源決策。鄭院士表示：“只有讓智能生成像水電一樣被穩(wěn)定地調(diào)度與供給，才能真正迎來算力制造Token為王的普惠智能時(shí)代?！?/p>

趨境ATaaS平臺重磅發(fā)布，打造全球領(lǐng)先的Token生產(chǎn)效能放大器

趨境科技在論壇上重磅發(fā)布了其核心產(chǎn)品——趨境ATaaS高效能AI Token生產(chǎn)服務(wù)平臺。本次發(fā)布由趨境科技創(chuàng)始人兼CEO艾智遠(yuǎn)，與中國工程院院士、九源智能計(jì)算生態(tài)聯(lián)合體理事長、清華大學(xué)教授、趨境科技首席科學(xué)家鄭緯民，以及并行科技董事長陳健、中科曙光智能計(jì)算產(chǎn)品事業(yè)部總經(jīng)理杜夏威、華為昇騰計(jì)算業(yè)務(wù)副總裁兼首席產(chǎn)品規(guī)劃師葉耀榮、京東Infra產(chǎn)品負(fù)責(zé)人郝鵬、浦江實(shí)驗(yàn)室代表鐘普共同揭曉。

針對當(dāng)前大模型推理服務(wù)中普遍存在的硬件資源閑置、軟件適配滯后、算力配置粗放、架構(gòu)演進(jìn)失衡四大核心難題，該平臺將有效破解大額硬件投入難以轉(zhuǎn)化為優(yōu)質(zhì) Token 產(chǎn)能、資源浪費(fèi)與成本空耗突出的行業(yè)困境，以高效能Token生產(chǎn)為核心目標(biāo)，可支撐萬級別AI推理需求，并達(dá)到日均萬億級別Token整體產(chǎn)能。

趨境ATaaS平臺依托四大自研核心技術(shù)，構(gòu)建覆蓋異構(gòu)整合、智能調(diào)度、彈性擴(kuò)容的全鏈路能力：

·六合：異構(gòu)推理2.0：全球首創(chuàng)大模型計(jì)算邏輯重構(gòu)技術(shù)，深度融合CPU+GPU、國產(chǎn)與非國產(chǎn)算力，實(shí)現(xiàn)任務(wù)的智能分流，可將萬卡級智算集群運(yùn)營成本壓降20%以上。

·月餅：以存換算2.0：全球首創(chuàng)超體量KV Cache緩存技術(shù)，將KV Cache存儲空間擴(kuò)展百倍至千倍，緩存命中率最高可達(dá)90%，直接削減90%的GPU算力開銷。

·雙儀：虛實(shí)同構(gòu)：全球首創(chuàng)算子級SLO仿真技術(shù)，實(shí)現(xiàn)算力資源的智能預(yù)規(guī)劃與動(dòng)態(tài)調(diào)優(yōu)，可精準(zhǔn)切分異構(gòu)算力，將萬卡級智算集群硬件綜合資源利用率最高提升數(shù)倍。

·萬象：極致彈性：打通規(guī)?；慨a(chǎn)最后壁壘，支持萬億參數(shù)大模型7秒快速拉起與動(dòng)態(tài)配置變更、數(shù)百節(jié)點(diǎn)超大規(guī)模EP彈性調(diào)度，為萬卡級高性能橫向擴(kuò)展提供關(guān)鍵能力。

趨境ATaaS平臺的發(fā)布為AI基礎(chǔ)設(shè)施的建設(shè)和運(yùn)營提供了新的思路和行業(yè)標(biāo)準(zhǔn)，使每單位算力和能耗投入都能夠數(shù)倍轉(zhuǎn)化為更穩(wěn)定、更可衡量的Token價(jià)值產(chǎn)出，更標(biāo)志著AI基礎(chǔ)設(shè)施發(fā)展焦點(diǎn)從單純的算力規(guī)模競爭，轉(zhuǎn)向?qū)?Token 生產(chǎn)效率的綜合衡量，推動(dòng)算力基礎(chǔ)設(shè)施從“數(shù)據(jù)中心”向“Token工廠”全面演進(jìn)。

全產(chǎn)業(yè)鏈生態(tài)協(xié)同，凝聚國產(chǎn)算力發(fā)展核心共識

本次論壇不僅是技術(shù)的展示臺，更是產(chǎn)業(yè)生態(tài)協(xié)同的匯聚點(diǎn)。趨境科技積極推動(dòng)與產(chǎn)業(yè)鏈上下游伙伴的深度合作，致力于構(gòu)建開放共贏的智能計(jì)算生態(tài)。論壇上，來自并行科技、九源智能計(jì)算系統(tǒng)生態(tài)聯(lián)合體、中科曙光、京東云、阿里云、華為、商湯科技等企業(yè)的代表在論壇上圍繞國產(chǎn)算力多場景推理優(yōu)化實(shí)踐、推理框架實(shí)踐、Token時(shí)代AI引擎、算力底座高效推理等前沿話題以及與趨境科技的深度合作展開深入分享。

并行科技作為國內(nèi)領(lǐng)先的算力服務(wù)商，在第三方算力服務(wù)領(lǐng)域位列第一，并行科技董事長陳健在演講中指出，其MaaS服務(wù)得到趨境科技的大力支持，雙方合作將高質(zhì)量Token的生產(chǎn)成本大幅優(yōu)化，并將特定場景下的集群性能提升50%，共同為智譜、Kimi、MiniMax、DeepSeek等頭部大模型客戶提供優(yōu)質(zhì)服務(wù)。

九源智能計(jì)算系統(tǒng)生態(tài)聯(lián)合體副秘書長王豪杰指出，Token時(shí)代競爭轉(zhuǎn)向單位成本產(chǎn)出，國產(chǎn)卡面臨“生態(tài)驅(qū)動(dòng)”困局。九源聯(lián)合體打造國產(chǎn)智能計(jì)算生態(tài)，已取得多項(xiàng)成果：全國產(chǎn)化方案適配多款GPU、串行代碼高效并行的九源領(lǐng)域編程語言“九齒”、支撐Mooncake推理加速系統(tǒng)、基于國產(chǎn)芯片的高效智能體，并與KTransformers等框架深度聯(lián)動(dòng)，推動(dòng)國產(chǎn)算力從“可用”邁向“好用”。

京東云AI Infra產(chǎn)品負(fù)責(zé)人郝鵬表示，京東云已與趨境科技達(dá)成深度合作，聯(lián)合打造下一代推理引擎，共同賦能Mooncake開源生態(tài)。華為昇騰計(jì)算業(yè)務(wù)副總裁、首席產(chǎn)品規(guī)劃師葉耀榮強(qiáng)調(diào)，趨境與昇騰展開了全方位的技術(shù)和商業(yè)化合作，部分項(xiàng)目中在昇騰AI集群上實(shí)現(xiàn)了2倍以上性能提升。此外，阿里云政企事業(yè)部教育科研解決方案總監(jiān)楊坤、商湯科技大裝置首席架構(gòu)師項(xiàng)鐵堯等也分享了與趨境科技在Mooncake等開源項(xiàng)目上深度合作，以及為趨境Token服務(wù)提供高可靠算力支持的實(shí)踐。

在圓桌對話環(huán)節(jié)，清華大學(xué)計(jì)算機(jī)系副教授章明星與中國移動(dòng)數(shù)智化部副總經(jīng)理陳國，天數(shù)智芯副總裁宋煜，中國科學(xué)技術(shù)大學(xué)計(jì)算機(jī)學(xué)院特任教授、博導(dǎo)李誠，美團(tuán)首席工程師錢玉磊，趨境科技Mooncake首席工程師楊珂，圍繞“國產(chǎn)推理基礎(chǔ)設(shè)施從‘可用’到‘好用’的路線選擇與關(guān)鍵突破”展開探討。各方凝聚了三大共識：一是軟硬深度協(xié)同是釋放國產(chǎn)算力潛能的關(guān)鍵，需通過系統(tǒng)級優(yōu)化彌合硬件性能與業(yè)務(wù)需求之間的鴻溝；二是生態(tài)統(tǒng)一與標(biāo)準(zhǔn)建設(shè)至關(guān)重要，打破“百花齊放”帶來的適配難題，才能實(shí)現(xiàn)規(guī)?；瘧?yīng)用；三是人才培養(yǎng)是產(chǎn)業(yè)根基，需通過開源社區(qū)、技術(shù)競賽等方式，培育兼具理論與工程能力的AI Infra人才。

本次研討會的成功舉辦，恰逢AI產(chǎn)業(yè)從模型競爭轉(zhuǎn)向規(guī)?；瘧?yīng)用、從MaaS轉(zhuǎn)向TaaS的關(guān)鍵節(jié)點(diǎn)，不僅為AI推理服務(wù)領(lǐng)域搭建了產(chǎn)學(xué)研用深度交流的平臺，更為AI產(chǎn)業(yè)高質(zhì)量發(fā)展謀劃路徑。論壇同期宣布2026年春季啟元人工智能大賽正式啟動(dòng)，旨在通過賽教融合，為國產(chǎn)智能計(jì)算生態(tài)培育新一代人才，持續(xù)推動(dòng)AI產(chǎn)業(yè)的開源創(chuàng)新與規(guī)?；瘧?yīng)用。

轉(zhuǎn)載來源：趨境科技

本文為量子位獲授權(quán)轉(zhuǎn)載，觀點(diǎn)僅為原作者所有。