第一個(gè)用大語(yǔ)言模型能力，來(lái)“系統(tǒng)化改造推薦系統(tǒng)”的團(tuán)隊(duì)。

作者丨郭海惟

編輯丨陳彩嫻

在 GPT3.5 橫空出世以前，“推薦”可能是互聯(lián)網(wǎng)歷史上最深刻的技術(shù)。

如果沒(méi)有推薦，人便失去了與浩如煙海的互聯(lián)網(wǎng)信息溝通的渠道。而正是推薦技術(shù)編制了一張龐大的網(wǎng)，將人、內(nèi)容、商品和貨幣串聯(lián)在一起，才有了你所能見(jiàn)到的鮮活線上世界與咋舌的經(jīng)濟(jì)奇跡。

如姜宇寧對(duì) AI 科技評(píng)論所說(shuō)，“過(guò)去的十年是推薦系統(tǒng)主導(dǎo)流量的十年?！?/p>

作為淘寶推薦算法一號(hào)位、阿里巴巴中國(guó)電商事業(yè)群的杰出算法專(zhuān)家，姜宇寧帶領(lǐng)他的團(tuán)隊(duì)掌舵著這個(gè)全球領(lǐng)先電商平臺(tái)的推薦算法系統(tǒng)，每年有數(shù)千億元的交易額由他的算法團(tuán)隊(duì)撮合，他們的每一個(gè)動(dòng)作背后都關(guān)系了上百萬(wàn)的商家與數(shù)百億的成交單數(shù)。

7月初，淘寶推薦算法技術(shù)團(tuán)隊(duì)上線了一個(gè)名為 RecGPT 的百億參數(shù)推薦大模型，對(duì)“猜你喜歡”功能實(shí)現(xiàn)了生成式推薦（ AIGR ）技術(shù)升級(jí)。用姜宇寧的話說(shuō)，他們是第一個(gè)用大語(yǔ)言模型能力，來(lái)“系統(tǒng)化改造推薦算法”的團(tuán)隊(duì)。

某種程度上來(lái)說(shuō)，RecGPT 大概是一個(gè)發(fā)布后便被外界低估的模型。相比于各家廠商都在刷榜 benchmark 的基座通用大模型，RecGPT 專(zhuān)注于對(duì)推薦這個(gè)具體任務(wù)的改造，這使得它一開(kāi)始并沒(méi)有獲得足夠高的媒體關(guān)注。但它卻稱得上是這個(gè)橫亙二十多年電商推薦系統(tǒng)的時(shí)代轉(zhuǎn)折點(diǎn)。按照姜宇寧的說(shuō)法，以此為起點(diǎn)出發(fā)，它將逐步生長(zhǎng)成一個(gè)更加成熟的，以 AI 大模型為中樞指揮大腦的全新電商推薦系統(tǒng)。

8月，借著姜宇寧團(tuán)隊(duì)上線 RecGPT 技術(shù)報(bào)告的契機(jī)，AI 科技評(píng)論對(duì)其進(jìn)行了獨(dú)家專(zhuān)訪，我們力圖探究為什么淘寶能率先實(shí)現(xiàn)了 AIGR 在推薦系統(tǒng)的全量上線？淘寶對(duì)推薦系統(tǒng)與大語(yǔ)言模型結(jié)合的思路和打法是什么？它的誕生會(huì)對(duì)淘寶生態(tài)產(chǎn)生怎樣的影響？以及，為什么 AIGR 的系統(tǒng)級(jí)大規(guī)模落地，竟然發(fā)生在 ChatGPT-3.5 上線的整整35個(gè)月后？

你可以簡(jiǎn)單將其中一些答案歸因于，淘寶本身對(duì) AI 的重視——這是所有人都知道的事情。阿里巴巴是對(duì)大模型技術(shù)投入最激進(jìn)的玩家之一。而早在2024年，阿里巴巴中國(guó)電商事業(yè)群首席科學(xué)家、技術(shù)總裁鄭波就提出了 AIGX 技術(shù)體系，就像一張覆蓋電商商業(yè)經(jīng)營(yíng)所需全部場(chǎng)景的生成式 AI 技術(shù)路線圖。

但與其他所有的 AI 玩家不同，淘寶本身又是一個(gè)特殊的生態(tài)，它的一舉一動(dòng)都牽動(dòng)著龐大的交易規(guī)模，它沉淀著可能是中國(guó)最全面最豐富與歷史最悠久的電商數(shù)據(jù)。尤其隨著“外賣(mài)大戰(zhàn)”如火如荼，閃購(gòu)帶來(lái)的日活用戶激增也給這套算法體系提出了更多的挑戰(zhàn)。

姜宇寧對(duì) AI 科技評(píng)論表示，AI 大模型實(shí)際上賦予了傳統(tǒng)推薦系統(tǒng)一些全新的能力。

首先，他說(shuō)，傳統(tǒng)推薦系統(tǒng)是一個(gè)黑盒，有時(shí)候它的推薦結(jié)果不僅用戶不能控制，連搭建推薦系統(tǒng)的算法工程師也不能百分百解釋。而大語(yǔ)言模型具備很好的語(yǔ)言遵從能力，可以起到讓傳統(tǒng)推薦系統(tǒng)“白盒”化的作用。在大語(yǔ)言模型的加持下，推薦系統(tǒng)可以更好遵從用戶指令，執(zhí)行平臺(tái)的策略意志。

其次，與傳統(tǒng)系統(tǒng)更關(guān)注用戶的短期行為不同，大語(yǔ)言模型具備較長(zhǎng)上下文窗口的理解能力，因此可以將海量的長(zhǎng)歷史周期的用戶資料投喂進(jìn)去，從而讓系統(tǒng)可以在更長(zhǎng)的時(shí)間維度中理解用戶行為。而語(yǔ)言模型的推理能力又使其能預(yù)測(cè)用戶需求的演進(jìn)，從而讓系統(tǒng)跳出只依靠用戶短期行為而出現(xiàn)“信息繭房”現(xiàn)象。

在 RecGPT 中，大模型更像是在傳統(tǒng)的預(yù)估模型之外增加了一個(gè)模塊化的能力。它不替代預(yù)估模型，而只是預(yù)估模型外前置了一個(gè)更高效的篩選與排序裝置，從而讓系統(tǒng)的身段變得更加靈活。而姜宇寧認(rèn)為，這樣的靈活會(huì)進(jìn)一步推動(dòng)淘寶推薦生態(tài)的變化——新用戶、長(zhǎng)尾商品、創(chuàng)意屬性的高情緒價(jià)值的商品會(huì)因此收益，比如“曝光量增長(zhǎng)最多的品類(lèi)其實(shí)是潮流款服飾和新奇玩具”。

姜宇寧認(rèn)為，推薦系統(tǒng)的 AI 進(jìn)程其實(shí)與平臺(tái)的屬性、目標(biāo)不無(wú)關(guān)系。

淘寶的優(yōu)勢(shì)在于豐富的商品供應(yīng)與用戶數(shù)據(jù)資源，而淘寶的戰(zhàn)略是“萬(wàn)能的淘寶”，這意味著用戶需要在手淘里有更沉浸式的消費(fèi)體驗(yàn)、讓海量商品與高個(gè)性化的用戶產(chǎn)生高質(zhì)量的鏈接，而這一切都恰好是大語(yǔ)言模型擅長(zhǎng)的事情?！凹夹g(shù)架構(gòu)設(shè)計(jì)必然是服務(wù)于業(yè)務(wù)戰(zhàn)略的”，姜宇寧對(duì) AI 科技評(píng)論表示，相反，假如“狂推頭部爆品”或者“逮著低價(jià)商品推”，其實(shí)都不太需要一個(gè)大模型來(lái)輔助推薦模型。

姜宇寧透露，目前 RecGPT 的版本是在各個(gè)環(huán)節(jié)輔助推薦系統(tǒng)，而下一步是要在所有環(huán)節(jié)上建設(shè)一個(gè)“大模型指揮官”，協(xié)調(diào)和指揮推薦的所有環(huán)節(jié)，從而讓推薦系統(tǒng)有更好的一致性。至于行業(yè)討論很火的“端到端”方案，姜宇寧認(rèn)為它有可能是未來(lái)的最優(yōu)解，但目前仍需要保持謹(jǐn)慎探索的態(tài)度。他對(duì) AI 科技評(píng)論表示，現(xiàn)在各家所說(shuō)的“端到端”方案只是借鑒了大模型的 scaling-up 思路，而卻浪費(fèi)了大語(yǔ)言模型豐富的世界知識(shí)和強(qiáng)大的推理能力，其實(shí)是“買(mǎi)櫝還珠”了。

而一切到最后都要回到 ROI 上。每當(dāng)姜宇寧提到“端到端”，他總會(huì)配上 ROI 這個(gè)詞，整個(gè)人保持一種不否認(rèn)但也不興奮的觀望狀態(tài)。

正如他在結(jié)尾所說(shuō)的，十幾年 AI 算法從業(yè)經(jīng)驗(yàn)教會(huì)他的事情是，“ AI 一定要?jiǎng)?chuàng)造商業(yè)價(jià)值，一定要落到業(yè)務(wù)場(chǎng)景里并且形成正向的商業(yè)循環(huán)， AI 才能在里面落地生根發(fā)芽。”

這大概就是淘寶的 AI 團(tuán)隊(duì)與其他團(tuán)隊(duì)最大的不同。

以下是本次專(zhuān)訪的內(nèi)容，AI 科技評(píng)論作了不改原意的整理與編輯：

01

推薦系統(tǒng)是個(gè)“黑盒”，大模型能讓它“白盒化”

AI 科技評(píng)論：聽(tīng)說(shuō)你們是第一個(gè)將大模型能力落地到推薦系統(tǒng)中的團(tuán)隊(duì)。

姜宇寧：其實(shí)最近兩年國(guó)內(nèi)外都有不少做大模型和推薦算法結(jié)合的研究工作。不過(guò)推薦是一個(gè)系統(tǒng)級(jí)能力，分成很多環(huán)節(jié)和模塊，我們將每一個(gè)環(huán)節(jié)模塊都做了改造，所以我們算是第一個(gè)（用大模型）系統(tǒng)化改造推薦系統(tǒng)并全量到生產(chǎn)環(huán)境的。

AI 科技評(píng)論：不同的玩家似乎在推薦這件事情上采用了不同的邏輯，比如快手和亞馬遜，都提出了一些端到端的概念，但你們是分段的方式。

姜宇寧：對(duì)，這是兩個(gè)完全不同的思路。

端到端本質(zhì)并沒(méi)有在用大模型的能力，它是在模仿大模型在 NLP 里面的成功經(jīng)驗(yàn)，在借助 scaling law 的方法論。

我們其實(shí)也在做類(lèi)似端到端的嘗試。但它的 ROI 不一定會(huì)很高，可能需要大量資源才能上漲一點(diǎn)的收益。所以在當(dāng)前階段，分段和現(xiàn)有推薦系統(tǒng)結(jié)合是大模型可以比較快拿到回報(bào)的事情。

AI 科技評(píng)論：能不能理解說(shuō)，我們目前分段是階段性的，早晚也是要去做端到端的？

姜宇寧：（端到端）肯定會(huì)做的。但現(xiàn)在大模型的能力很強(qiáng)，如果你不用它的能力，而只用它的建模方法，其實(shí)有點(diǎn)買(mǎi)櫝還珠的感覺(jué)。

其次，過(guò)去推薦模式是黑盒的形式。為什么給你推這個(gè)東西，你完全不了解，可控性也非常差。不可解釋。就像大家現(xiàn)在刷抖音，需要養(yǎng)號(hào)，要點(diǎn)很多東西以后才會(huì)推想看的東西。但是大模型可以推進(jìn)系統(tǒng)的“白盒化”——因?yàn)橥扑]系統(tǒng)有了語(yǔ)言遵從能力，所以可以讓系統(tǒng)朝著平臺(tái)或用戶自己想要的方向去做推薦。

AI 科技評(píng)論：很有意思，大家之前聊大模型都說(shuō)模型是黑盒，但現(xiàn)在反而能讓推薦系統(tǒng)變成白盒？

姜宇寧：大模型本身當(dāng)然是黑盒的。但是如果拿過(guò)來(lái)用，已經(jīng)比原來(lái)的算法有了更多可解釋性。過(guò)去 NLP 或者 CV 問(wèn)題，結(jié)果為何，不可解釋。但現(xiàn)在大模型有 thinking 的過(guò)程。

雖然大模型為什么這么想，終究是不可解釋的。但如果你把它當(dāng)做插件，接到原來(lái)的算法里，原來(lái)的算法就有了一定的可解釋性。

AI 科技評(píng)論：推薦系統(tǒng)為什么是一個(gè)黑盒？可以解釋一下嗎？

姜宇寧：推薦系統(tǒng)的本質(zhì)是，你一邊有一個(gè)用戶，另一邊有幾十億個(gè)商品，你要從中去找到最匹配二三十個(gè)商品。

匹配分是由一個(gè)類(lèi)似雙塔結(jié)構(gòu)的模型送上去，一邊是用戶特征一邊是商品特征，吭哧吭哧算完后出來(lái)一個(gè)數(shù)字，比方說(shuō)，“0.9”。但“0.9”代表了什么？它不具備可解釋性——它又多大程度上跟你的什么興趣、什么特點(diǎn)匹配，其實(shí)是不知道的。

就像你在短視頻里刷到一個(gè)博主，平臺(tái)有那么多的博主，但為什么就是 A，而不是 B？系統(tǒng)說(shuō)我就是認(rèn)為你更喜歡 A，至于為什么，系統(tǒng)其實(shí)回答不了這個(gè)問(wèn)題。

AI 科技評(píng)論：傳統(tǒng)推薦模型沒(méi)有辦法還原它的權(quán)重是如何分配的嗎？能不能?chē)L試去拆解這個(gè)權(quán)重嗎，看它有哪些大類(lèi)的影響？

姜宇寧：這就是要涉及到一個(gè)推薦系統(tǒng)的基本原理——“協(xié)同過(guò)濾”。

你可以這么理解：推薦模型的權(quán)重并不僅僅是通過(guò)你一個(gè)人的行為，而是通過(guò)幾億用戶的行為學(xué)習(xí)出來(lái)的。哪些跟你有類(lèi)似行為的用戶，他們又點(diǎn)擊了哪些商品，我們構(gòu)建了數(shù)十億這樣的行為對(duì)，模型的權(quán)重是在這個(gè)數(shù)據(jù)基礎(chǔ)上學(xué)習(xí)到的統(tǒng)計(jì)值。因此，它沒(méi)有辦法被簡(jiǎn)單還原到某個(gè)個(gè)體行為上：你有什么特征，所以出了推什么結(jié)果。

當(dāng)然我們可以去嘗試解釋?zhuān)@更像一個(gè)事后的找補(bǔ)——分已經(jīng)打出來(lái)了，再做一個(gè)事后諸葛亮。

AI 科技評(píng)論：那既然都是匹配，為什么傳統(tǒng)推薦模型難以解釋?zhuān)谴竽Ｐ途涂梢裕?/b>

姜宇寧：首先傳統(tǒng)的打分模型并沒(méi)有被替換掉，大模型相當(dāng)于在幫它找候選集。大模型的好處是，我可以在匹配的時(shí)候，直接要求系統(tǒng)給出大致匹配的理由。然后再讓系統(tǒng)遵從你的語(yǔ)言指令，通過(guò)對(duì)用戶不同維度的拆解，來(lái)匹配商品。

比如，給定一個(gè)用戶畫(huà)像，和一個(gè)有語(yǔ)義遵從能力的推薦大模型，你可以對(duì)它說(shuō)，“請(qǐng)從用戶3天內(nèi)的購(gòu)買(mǎi)行為來(lái)推薦商品”，也可以“請(qǐng)從用戶居住地的天氣來(lái)推薦商品”。這樣候選的商品其實(shí)就遵從了不同的維度。

其次，大模型的思考能力讓它有了延伸推理的可能。比如，系統(tǒng)發(fā)現(xiàn)我買(mǎi)了奧特曼的東西，進(jìn)而推斷我家可能是有個(gè)喜歡日本動(dòng)漫的小孩，從而推出我可能需要有兒童書(shū)籍的需求。它相當(dāng)于可以跳出過(guò)去歷史行為去做進(jìn)一步延伸分析的，而且它延伸的維度，是按照你的 prompt 提示詞去延伸的。

AI 科技評(píng)論：所以如果用了大模型，其實(shí)系統(tǒng)可以推薦過(guò)去推不到的東西？

姜宇寧：對(duì)，我認(rèn)為大語(yǔ)言模型對(duì)推薦系統(tǒng)最大的收益就來(lái)自兩點(diǎn)：推理能力以及語(yǔ)言遵從能力。

剛上面提到的，大模型的推理能力能讓推薦系統(tǒng)更具有“可解釋的發(fā)現(xiàn)性”，讓推薦結(jié)果既在意料之外，又在情理之中。而語(yǔ)言遵從能力能讓大模型具有“可調(diào)度性”，我們可以去直接命令大模型，按照什么維度去推，“不要推看過(guò)的”、“不要推歷史過(guò)久的”、“要新鮮的”。這樣真的實(shí)現(xiàn)了“human in the loop”。

AI 科技評(píng)論：這是不是意味著運(yùn)營(yíng)人才也能加入其中。

姜宇寧：對(duì)，他對(duì)推薦系統(tǒng)的好處是開(kāi)了一個(gè)口子，使得除了算法工程師外的很多人能參與進(jìn)來(lái)，貢獻(xiàn)想法。

大互聯(lián)網(wǎng)平臺(tái)有非常實(shí)際的業(yè)務(wù)問(wèn)題，即推薦系統(tǒng)在大流量平臺(tái)中承擔(dān)了非常多的調(diào)度功能，不完全是效率導(dǎo)向的。你可以認(rèn)為推薦系統(tǒng)是一個(gè)供電網(wǎng)絡(luò)，要通過(guò)調(diào)度流量，根據(jù)需求把流量分配到不同的行業(yè)和內(nèi)容——除了滿足一定的效率約束外，還要思考如何讓他指哪打哪。

過(guò)去的方法可能是要算法同學(xué)去“調(diào)度”系統(tǒng)，或者去做加權(quán)或者降權(quán)，才能達(dá)成這個(gè)目的。但現(xiàn)在我可以直接告訴系統(tǒng)，今天有什么熱點(diǎn)，著重去推薦這個(gè)東西。一句話就能搞定。

AI 科技評(píng)論：所以可調(diào)度性其實(shí)是很重要的。

姜宇寧：我是做算法出身的，算法本身是追求效率最大化的。但在實(shí)際上任何算法都不全知全能，它需要策略的干預(yù)。比如今天有一天突發(fā)熱點(diǎn)，什么發(fā)布會(huì)上同款軍大衣突然火了，靠純算法效率驅(qū)動(dòng)一定會(huì)有滯后性。那如何能快速且高效地調(diào)度流量分配就很考驗(yàn)推薦系統(tǒng)的整體設(shè)計(jì)。

我認(rèn)為在大模型+推薦系統(tǒng)的結(jié)合中，一方面要追求效率的提升，一方面也要兼顧可調(diào)度性。最近友商發(fā)表的一些論文其實(shí)沒(méi)有真正考慮到可調(diào)度的推薦場(chǎng)景。但我們要知道，推薦系統(tǒng)背后其實(shí)是有平臺(tái)意志的。

AI 科技評(píng)論：路線選擇不同，會(huì)不會(huì)跟平臺(tái)特性也有關(guān)系？因?yàn)樘詫毱鋵?shí)是運(yùn)營(yíng)相對(duì)重的公司。

姜宇寧：未必。其實(shí)很多平臺(tái)都有很強(qiáng)的運(yùn)營(yíng)屬性。這最后就是一個(gè)在效率最優(yōu)和可調(diào)度性之間的平衡問(wèn)題。就像一個(gè)小孩，他總能考很高的分?jǐn)?shù)，但是跟人交流的能力不太行，不能按照你的指令做事，有時(shí)你也會(huì)很頭疼。而大模型現(xiàn)在提供了一個(gè)能夠把兩者兼得的可行路徑。

02

大模型在推薦系統(tǒng)落地晚，因?yàn)?/b>Baseline 太高

AI 科技評(píng)論：其實(shí) GPT-3.5 已經(jīng)出來(lái)兩年多了，你們技術(shù)報(bào)告里也提到，用大模型來(lái)改造推薦系統(tǒng)的嘗試其實(shí)相對(duì)較少，這是為什么呢？

姜宇寧：看要跟誰(shuí)比了。你看大模型出來(lái)以后，大家的第一反應(yīng)是改造搜索，而不是推薦。因?yàn)榇竽Ｐ吞烊贿m合對(duì)話，而推薦是沒(méi)有對(duì)話入口的。推薦是你進(jìn)了這個(gè)飯店，小二給你上什么菜你就吃什么菜，你沒(méi)有點(diǎn)單的權(quán)利，但是搜索系統(tǒng)你是可以點(diǎn)單的。所以推薦上的改造慢于搜索，這是大語(yǔ)言模型本身特性決定的。

AI 科技評(píng)論：但推薦是一個(gè)價(jià)值很高的場(chǎng)景。所以按道理，一旦有新技術(shù)，大家都應(yīng)該會(huì)跟進(jìn)探索。你覺(jué)得它落地比較晚，背后的技術(shù)難度在哪里？

姜宇寧：我覺(jué)得最大難度是原來(lái)一套系統(tǒng)的 baseline 已經(jīng)太高了。推薦算法其實(shí)是一個(gè)系統(tǒng)科學(xué)，發(fā)展了十多年，現(xiàn)在不管是基于協(xié)同過(guò)濾，還是基于什么其他的方法，已經(jīng)推得非常準(zhǔn)了。尤其對(duì)深度用戶的行為，累計(jì)了很多數(shù)據(jù)，系統(tǒng)對(duì)你非常了解了你的歷史行為序列，雖然它是黑盒算的，但一定能找到非常好的匹配。然后會(huì)把你的整體的指標(biāo)用戶指標(biāo)拉得非常高。

但推薦系統(tǒng)有的時(shí)候黏性高，是“有毒”的，它造成了非常強(qiáng)的繭房效應(yīng)。如果基于歷史信息推薦，就會(huì)越推越類(lèi)似。另外一面，我們反過(guò)來(lái)，假如用戶是新進(jìn)入的，原有的系統(tǒng)其實(shí)就很難推準(zhǔn)。這其實(shí)都是一個(gè)問(wèn)題的一體兩面。

AI 科技評(píng)論：傳統(tǒng)模型和大模型的關(guān)系到底是怎么樣的？為什么它無(wú)法被大模型替代呢？

姜宇寧：其實(shí)現(xiàn)在一些端到端的構(gòu)想，到最后仍然接了一個(gè)傳統(tǒng)深度學(xué)習(xí)模型。

假設(shè)我們有 A、B 兩個(gè)商品，推薦系統(tǒng)不是簡(jiǎn)單地做排序，知道 A 比 B 好就可以了，而是要給他們打一個(gè)分?jǐn)?shù)，A 比 B 好多少，20%，50%還是100%。因?yàn)橥扑]系統(tǒng)，尤其是電商領(lǐng)域，要跟成交金額、廣告收入、抽傭等等數(shù)字相關(guān)，所以你需要量化推薦的分?jǐn)?shù)。

AI 確實(shí)適合干非常多的事情，比如基于長(zhǎng)上下文的推理，但它就是不適合干精確數(shù)字計(jì)算的活。所以 AI 目前是做初步篩選，剩下精確數(shù)值計(jì)算的部分交給傳統(tǒng)的打分模型來(lái)做。

AI 科技評(píng)論：這種長(zhǎng)上下文的輸入，在技術(shù)實(shí)現(xiàn)上的效率高嗎？

姜宇寧：我覺(jué)得這是我們這次的核心進(jìn)步之一。

原來(lái)推薦系統(tǒng)更喜歡關(guān)注近期行為，尤其是這一兩周買(mǎi)了什么、看了什么，就會(huì)拼命推，但往往會(huì)忘記用戶的長(zhǎng)期興趣。而 RecGPT 可以從長(zhǎng)期興趣的角度出發(fā)，完成更多的探索。

不僅如此，我們基于用戶數(shù)據(jù)逐步實(shí)現(xiàn)了一些推理能力。比如一年前你買(mǎi)了孕婦相關(guān)的東西，那么一年后就不能再推孕婦產(chǎn)品，而是要推寶寶產(chǎn)品了。所以標(biāo)簽本身也具備了演化和推理能力。

AI 科技評(píng)論：所以過(guò)去的標(biāo)簽是沒(méi)有演化的嗎？

姜宇寧：以前的標(biāo)簽如果要演化，必須是你有了某種行為之后才行。比如標(biāo)簽什么時(shí)候從孕婦演化成寶媽呢？就是當(dāng)你開(kāi)始買(mǎi)嬰兒產(chǎn)品的時(shí)候。

所以傳統(tǒng)推薦系統(tǒng)的學(xué)習(xí)是后置的：你先有某個(gè)行為，模型學(xué)習(xí)到了，再給你推薦。但大模型的推理能力就能讓推薦模型的更新發(fā)生在用戶行為之前。

AI 科技評(píng)論：你剛才說(shuō)，大模型在搜索領(lǐng)域的發(fā)展比推薦更早。但電商的場(chǎng)景里似乎不太一樣，好像推薦的落地比搜索更前？

姜宇寧：其實(shí)也不是。電商有很多落地沒(méi)有被大家看見(jiàn)。但有一點(diǎn)是：電商是一個(gè)偏消費(fèi)決策的場(chǎng)景，不是一個(gè)做信息收集類(lèi)的場(chǎng)景。所以大模型在電商搜索上的應(yīng)用，并不是在于帶來(lái)多 fancy 的信息交互形式，而更側(cè)重在如何更準(zhǔn)確地理解用戶意圖，如何產(chǎn)生更高質(zhì)量的數(shù)據(jù)，如何潛移默化地影響用戶做決策。這些背后的改進(jìn)只是不容易被注意到罷了。

AI 科技評(píng)論：其實(shí)大家之前確實(shí)也做過(guò)通過(guò)自然語(yǔ)言交互去做電商搜索的嘗試。

姜宇寧：就像剛才說(shuō)的，大家在搜某個(gè)具體東西的時(shí)候，大部分時(shí)間已經(jīng)做好決策，不需要大語(yǔ)言模型再去寫(xiě)一大段文字告訴他們應(yīng)該買(mǎi)什么。

大模型在電商搜索正在的應(yīng)用應(yīng)該在于：當(dāng)用戶搜索“網(wǎng)球拍”時(shí)，你得知道這個(gè)用戶到底是什么特性？比如，價(jià)格敏感型還是服務(wù)敏感型？新手初學(xué)還是進(jìn)階選手？接著你再根據(jù)用戶特性去推薦服務(wù)最好的商家或最便宜的商家，入門(mén)裝備或高階裝備。這才是真正能提升用戶體驗(yàn)的地方。

03

所有的推薦系統(tǒng)都是 EE 問(wèn)題

AI 科技評(píng)論：你曾經(jīng)講過(guò)70%內(nèi)容是基于推薦引擎，30%內(nèi)容是試錯(cuò)，目的是讓系統(tǒng)不要進(jìn)入繭房效應(yīng)的同時(shí)又保證效率。

姜宇寧：對(duì)，我們就是要想辦法，保證70%的部分效率不跌的情況下，把30%的效率提上去。

其實(shí)所有推薦系統(tǒng)都是一個(gè) EE 問(wèn)題（ Exploitation 和 Exploration，利用與探索），在兩個(gè)E中尋求平衡。過(guò)去，Exploration 的部分是幾乎隨機(jī)的策略，跟扔骰子一樣。但現(xiàn)在有了 RecGPT 的大模型輔助，這部分的效率會(huì)顯著提升。它也能遵循指令，比如讓用戶探索一下零食品類(lèi)、服飾品類(lèi)等，不再完全是盲目的探索了。

AI 科技評(píng)論： Exploration 給 Exploitation提供了更多的數(shù)據(jù)，如果前者更高效、沉淀數(shù)據(jù)的效率更高，那么后面也相應(yīng)會(huì)更高效，這樣形成一個(gè)AI模型與傳統(tǒng)模型之間的循環(huán)？

姜宇寧：是的。我們可以將系統(tǒng)分成“效率圈”和“探索圈”?！疤剿魅Α睗q得快，數(shù)據(jù)才可以補(bǔ)到“效率圈”，與用戶發(fā)生關(guān)系的商品才會(huì)越來(lái)越多。

AI 科技評(píng)論：那能不能這么理解：效率圈就是靠傳統(tǒng)推薦模型，探索圈就是靠大語(yǔ)言模型？

姜宇寧：這么說(shuō)不準(zhǔn)確，其實(shí)兩個(gè)圈或叫兩個(gè)任務(wù)都升級(jí)到了大語(yǔ)言模型加傳統(tǒng)推薦模型的新模式。只是這個(gè)模式對(duì) Exploration 的幫助比對(duì) Exploitation 的更大。

AI 科技評(píng)論：這兩者的效率提升之差能有多少？

姜宇寧：效率圈是個(gè)位數(shù)的增加，探索圈的提升能有百分之五十以上。

回到推薦系統(tǒng)難點(diǎn)的那個(gè)問(wèn)題。原來(lái)大模型想要提升“效率圈”的效果，會(huì)發(fā)現(xiàn)投入大量資源，但提升效果有限，因?yàn)橄到y(tǒng)已經(jīng)做得很好了。反而“探索圈”是一個(gè)靠傳統(tǒng)方法很難做好的部分，大模型應(yīng)用空間就很大。

AI 科技評(píng)論：那是不是可以理解，大模型的應(yīng)用會(huì)對(duì)新用戶很友好？

姜宇寧：（對(duì)）新用戶和長(zhǎng)尾商品（都友好）。

這套系統(tǒng)緩解了商品的馬太效應(yīng)。假如我們效率圈的曝光是70%，這70%的曝光其實(shí)只給了10%的商品，而剩下30%探索圈的曝光，分配給了90%的商品。這其實(shí)非常不均勻。

而一個(gè)商品要從探索圈進(jìn)入效率圈的前提，必須是要讓商品和人之間產(chǎn)生點(diǎn)擊，然后才能打準(zhǔn)分?jǐn)?shù)。但因?yàn)殚L(zhǎng)尾商品的打分是很難準(zhǔn)確的，所以探索圈的點(diǎn)擊效率就是很低的。假如300個(gè)探索曝光只收獲了6個(gè)點(diǎn)擊，那么其實(shí)只有 6 個(gè)有效的數(shù)據(jù)可以被效率圈學(xué)習(xí)到；但大模型上來(lái)后，我可能有 10 個(gè)點(diǎn)擊，那就會(huì)有更多的商品被激活，能夠進(jìn)入到效率圈。

AI 科技評(píng)論：所以淘寶過(guò)去數(shù)據(jù)很多，但很多其實(shí)是沒(méi)有被激活的。

姜宇寧：淘寶也叫“萬(wàn)能的淘寶”，在所有電商平臺(tái)里，淘寶的商品豐富度是最多的。我們平?？吹降奶詫?，只是淘寶商品庫(kù)中的一小部分，它有大量好玩的商品其實(shí)沒(méi)有被推出來(lái)。所以才需要我們利用大模型去改善這一點(diǎn)。

AI 科技評(píng)論：其實(shí)很多用戶都吐槽，為什么大數(shù)據(jù)會(huì)給我推很多我購(gòu)買(mǎi)過(guò)的內(nèi)容。為什么這件事情就是規(guī)避不了呢？比如做一個(gè)簡(jiǎn)單的規(guī)則。

姜宇寧：因?yàn)槿魏我?guī)則都或多或少有漏洞。

比如我買(mǎi)了一包開(kāi)心果，覺(jué)得很不錯(cuò)，我確實(shí)想復(fù)購(gòu)，但是系統(tǒng)再也不推了。或者這個(gè)規(guī)則的時(shí)間范圍該怎么設(shè)定？3天之內(nèi)不出，還是3個(gè)月、9個(gè)月不出？這個(gè)周期該怎么定？那如果今天我復(fù)購(gòu)的是一袋洗衣粉，這個(gè)周期還適用嗎？

所以我現(xiàn)在更希望把事情放到前鏈路去做，盡量讓大模型去學(xué)習(xí)和判斷，這個(gè)商品到底有沒(méi)有復(fù)購(gòu)屬性，周期該怎么設(shè)置，而不是簡(jiǎn)簡(jiǎn)單單拍個(gè)規(guī)則。

AI 科技評(píng)論：你剛才說(shuō)，RecGPT 對(duì)新用戶很友好。那像閃購(gòu)、外賣(mài)這樣的業(yè)務(wù)進(jìn)來(lái)以后，平臺(tái)的日活漲了很多，都是新用戶，對(duì)于推薦系統(tǒng)來(lái)說(shuō)是不是有壓力的？RecGPT 剛好能發(fā)揮作用？

姜宇寧：我們當(dāng)然希望能看到這樣的增長(zhǎng)。新用戶進(jìn)來(lái)，能不能轉(zhuǎn)化地好，其實(shí)很大程度上也是我們推得好不好。這其實(shí)對(duì)我們來(lái)說(shuō)是很大的挑戰(zhàn)和機(jī)會(huì)。因?yàn)樗麄冎暗馁?gòu)物都是非傳統(tǒng)電商的行為，比如外賣(mài)、奶茶，以及一些身份和地點(diǎn)信息。

AI 科技評(píng)論：什么樣的商品推薦是比較適合留下閃購(gòu)用戶的？

姜宇寧：零食是很天然的轉(zhuǎn)化品類(lèi)。用戶吃過(guò)什么外賣(mài)，喜歡什么口味的，如果愛(ài)吃辣的，首頁(yè)就可以推辣條。我最近發(fā)現(xiàn)，我們經(jīng)常給一些四川的同學(xué)推重慶米線，效果還不錯(cuò)。

04

如果只推低價(jià)，是不需要大語(yǔ)言模型的

AI 科技評(píng)論：我們?cè)谧鲈u(píng)判的時(shí)候，好像既采用了人工評(píng)判，也做了一個(gè)小的模型。你們是出于什么考慮這樣做的？

姜宇寧：假如用一個(gè)大模型去做對(duì)話機(jī)器人，其中最難的事情之一，可能就是把好的對(duì)話的標(biāo)準(zhǔn)定義出來(lái)。電商也是一樣，大模型總結(jié)出了一個(gè)用戶畫(huà)像，這個(gè)畫(huà)像好還是不好、是否全面，我們其實(shí)做了大量的人工的檢驗(yàn)——我們不是標(biāo)注，只是檢驗(yàn)。

比如，我的標(biāo)簽是一個(gè)極客，那大模型給我推一個(gè)純鈦水杯是否合理？商品庫(kù)里是否真的存在一個(gè)純鈦水杯？如果不存在，那說(shuō)明出現(xiàn)了幻覺(jué)。但人工的標(biāo)注成本是很高的，所以我們會(huì)把結(jié)果記錄下來(lái)，再用另外一個(gè)模型去學(xué)習(xí)人工標(biāo)注。

AI 科技評(píng)論：你覺(jué)得推薦是有數(shù)據(jù)飛輪的嗎？如果一個(gè)平臺(tái)數(shù)據(jù)更多、供應(yīng)更多、行為的維度更多，是不是這樣的平臺(tái)在未來(lái)的AI時(shí)代就是更有機(jī)會(huì)的？

姜宇寧：當(dāng)然，毫無(wú)疑問(wèn)。做 AI 一定要充足的現(xiàn)金流、好的商業(yè)循環(huán)和好的數(shù)據(jù)循環(huán)，缺一不可。

AI 科技評(píng)論：我們有涉及到多模態(tài)的內(nèi)容么？未來(lái)大模型會(huì)學(xué)習(xí)人類(lèi)審美來(lái)做推薦么？

姜宇寧：審美這件事情還是由用戶來(lái)決定的，平臺(tái)只是來(lái)做匹配。

但我們接下來(lái)會(huì)做一個(gè)新的基于多模態(tài)的 ID 體系。這樣商品的 ID 數(shù)量會(huì)大幅減少，不再依賴原來(lái)一個(gè)商品一個(gè)鏈接對(duì)應(yīng)一個(gè) ID 。這樣一個(gè)商品哪怕更換商品鏈接，它的語(yǔ)義 ID 是不會(huì)變的。

AI科技評(píng)論：這聽(tīng)起來(lái)是一個(gè)改變非常大的事情。

姜宇寧：會(huì)改變很多商家的運(yùn)營(yíng)習(xí)慣吧，原來(lái)很多商家喜歡養(yǎng)鏈接，把不同的商品掛在一個(gè)鏈接上來(lái)繼承流量，這造成了一些“貨不對(duì)板”的情況，但以后這樣做就沒(méi)有收益了。

AI 科技評(píng)論：你覺(jué)得不同的平臺(tái)生態(tài)，對(duì)推薦策略和技術(shù)的需求有什么不同？

姜宇寧：當(dāng)然有。比如你如果做的是極致低價(jià)策略，那么就是要制造同品的價(jià)格內(nèi)卷，每個(gè) ID 里只出價(jià)格最低的那個(gè)商品。所以整個(gè)推薦架構(gòu)必然是服務(wù)于這個(gè)業(yè)務(wù)戰(zhàn)略。我們的 RecGPT 本質(zhì)上是服務(wù)“萬(wàn)能的淘寶”的。我們既不是狂推頭部熱銷(xiāo)品，也不是逮著低價(jià)商品來(lái)推，所以才需要 RecGPT 這樣的算法設(shè)計(jì)。

其實(shí)商品豐富性對(duì)于淘寶的 AI 發(fā)展來(lái)說(shuō)是一個(gè)很大的優(yōu)勢(shì)，我們的推薦系統(tǒng)能比別人回答更多的問(wèn)題。說(shuō)實(shí)話，如果你只是同品類(lèi)推一個(gè)低價(jià)，其實(shí)不需要 AI 去推的。

AI 科技評(píng)論：如果我們接下來(lái)進(jìn)入 AI 大模型推薦的時(shí)代，你對(duì)商家有什么建議？

姜宇寧：多研究平臺(tái)的政策和規(guī)則，多做創(chuàng)意。你知道系統(tǒng)上線后，哪個(gè)品類(lèi)增長(zhǎng)最快嗎？玩具。有更高情緒價(jià)值的新、奇、特商品，一定會(huì)得到更好的流量回報(bào)。

05

推薦系統(tǒng)離“驚嚇”還很遠(yuǎn)

AI 科技評(píng)論：你們有沒(méi)有考慮過(guò)，如果用戶覺(jué)得系統(tǒng)太懂自己了，可能會(huì)覺(jué)得被冒犯？

姜宇寧：以目前的技術(shù)水平來(lái)說(shuō)，這樣的情況并不多見(jiàn)。

我前兩天遇到一個(gè)巧合，我正在一邊吃同事買(mǎi)的某款肉松，一邊邊刷淘寶，突然發(fā)現(xiàn)竟然給我推薦了一個(gè)完全同款，把我嚇了一跳。后來(lái)我專(zhuān)門(mén)研究了這個(gè) case ，其實(shí)就是簡(jiǎn)單的巧合——因?yàn)檫@個(gè)肉松的商家在大力推廣告，所以同事被種草了，而我刷到的其實(shí)也就是商家的廣告而已。

未來(lái)如果真的出現(xiàn)類(lèi)似“精準(zhǔn)”的情況，確實(shí)不知道是驚喜多一點(diǎn)，還是驚嚇多一點(diǎn)。不過(guò)總的來(lái)說(shuō)，目前推薦系統(tǒng)離讓人有“監(jiān)視感”的程度還非常遠(yuǎn)，現(xiàn)在大家吐槽最多的還是“信息繭房”。

AI 科技評(píng)論：但假設(shè)我買(mǎi)了一個(gè)紙尿褲，平臺(tái)立刻知道我要生小孩了，我可能就會(huì)有被冒犯的感覺(jué)。

姜宇寧：像我們最近在“猜你喜歡”主頁(yè)的商品下面加入“推薦理由”，內(nèi)部是有明確的審核與風(fēng)控的，涉及到用戶的年齡、身高、外表都不會(huì)有任何評(píng)價(jià)。

其實(shí)隱私不止是用戶的事情，對(duì)于平臺(tái)也是有很大的風(fēng)險(xiǎn)的。比如，在敏感的時(shí)間節(jié)點(diǎn)給有文化敏感的人群，誤推了一些敏感的商品等等。我們過(guò)去只能硬寫(xiě)規(guī)則，但系統(tǒng)本身是無(wú)法理解的。有了大模型以后，類(lèi)似的風(fēng)險(xiǎn)會(huì)更容易被規(guī)避掉。

06

未來(lái)要讓大模型做“推薦指揮官”

AI 科技評(píng)論：在你看來(lái)，未來(lái)推薦系統(tǒng)技術(shù)演變的方向是什么？

姜宇寧：三條路。

第一條路我叫它“插件式”，也就是 RecGPT 現(xiàn)在的方式，用大模型去對(duì)現(xiàn)在推薦系統(tǒng)的每一個(gè)環(huán)節(jié)做改造增強(qiáng)。利用它的推理、長(zhǎng)周期的記憶能力，來(lái)豐富系統(tǒng)能力。

第二條路是讓大模型做推薦系統(tǒng)的“指揮官”，構(gòu)建一個(gè)大腦去做每一個(gè)環(huán)節(jié)的控制。因?yàn)楝F(xiàn)在推薦系統(tǒng)還是有非常多環(huán)節(jié)的，如果每一個(gè)環(huán)節(jié)各自優(yōu)化、各自迭代，會(huì)導(dǎo)致推薦系統(tǒng)出現(xiàn)不一致性。如果有一個(gè)指揮官，我可以在不同的時(shí)間階段去做不同的策略部署。比如雙十一，那就成交效率最大化，那推薦各個(gè)環(huán)節(jié)就都以成交為目標(biāo)；或者日常的一些時(shí)間，可以是種草目標(biāo)為主，那各個(gè)環(huán)節(jié)都調(diào)整對(duì)齊到種草目標(biāo)。由這個(gè)大模型大腦通過(guò)超參來(lái)調(diào)度推薦全系統(tǒng)，提升一致性。

第三條路就是我們說(shuō)的“端到端”，即減少中間環(huán)節(jié)同時(shí)對(duì)打分模型做 scaling law 。如果我們相信，規(guī)模就能產(chǎn)生奇跡，那么既然在 NLP、CV 問(wèn)題上能成功，推薦系統(tǒng)也有可能會(huì)成功。

AI 科技評(píng)論：你覺(jué)得它是不同的演化階段嗎？從1到2，再到3。

姜宇寧：從實(shí)現(xiàn)難度上來(lái)看，是這樣的。

AI 科技評(píng)論：其實(shí)大家對(duì)第三條路還是很癡迷的。

姜宇寧：十年前，推薦系統(tǒng)只是一個(gè)簡(jiǎn)單的回歸模型。深度學(xué)習(xí)先在 CV 和 NLP 問(wèn)題證明了自己，才被用到推薦系統(tǒng)里，變成了 DIN 等現(xiàn)在主流的深度推薦模型。

為什么大家信 one model（端到端）？因?yàn)檫@好像跟十年前非常相似，又是一個(gè)新的模型結(jié)構(gòu)，比原來(lái)的更大（深度學(xué)習(xí)也要比邏輯回歸大很多），同樣在 CV 和 NLP 問(wèn)題里也證明了成功，所以很容易讓大家產(chǎn)生一些思維認(rèn)知的慣性。

我從來(lái)不否認(rèn)這個(gè)方向的可能性，但推薦的任務(wù)性質(zhì)和自然語(yǔ)言有很大不同。在這個(gè)任務(wù)上，推薦模型要 scaling-up 到多少才能讓它具有質(zhì)變的能力，而達(dá)到這個(gè)質(zhì)變的奇點(diǎn)又要付出的成本？我們需要算 ROI。

AI 科技評(píng)論：這和目前大模型的智能上限有關(guān)系嗎？

姜宇寧：推薦系統(tǒng)里做 scaling law 跟這個(gè)沒(méi)關(guān)系，因?yàn)樗鼪](méi)有真的用大模型的智能，只是把打分模型做大了幾十倍、甚至幾百倍的參數(shù)。它沒(méi)有世界的知識(shí)，只是一個(gè)更強(qiáng)的考官而已。

AI 科技評(píng)論：你覺(jué)得淘寶現(xiàn)在什么階段？

姜宇寧：1和2之間吧。接下來(lái)要往2的方向去走，我也相信這條大模型做指揮官的方式會(huì)很快實(shí)現(xiàn)。同時(shí)也會(huì)有人探索3端到端的事情。

AI 科技評(píng)論：你曾經(jīng)是曠視工號(hào)第五的員工，經(jīng)歷了從 CV AI 到大語(yǔ)言模型的十余年歷程。你覺(jué)得過(guò)去的經(jīng)歷，對(duì)你現(xiàn)在來(lái)說(shuō)最寶貴的經(jīng)驗(yàn)是什么？

姜宇寧：AI 一定要?jiǎng)?chuàng)造商業(yè)價(jià)值。一定要通過(guò)正向的商業(yè)循環(huán)，能夠找到一個(gè)業(yè)務(wù)場(chǎng)景，AI 才能在里面落地生根發(fā)芽。

未經(jīng)「AI科技評(píng)論」授權(quán)，嚴(yán)禁以任何方式在網(wǎng)頁(yè)、論壇、社區(qū)進(jìn)行轉(zhuǎn)載！

公眾號(hào)轉(zhuǎn)載請(qǐng)先在「AI科技評(píng)論」后臺(tái)留言取得授權(quán)，轉(zhuǎn)載時(shí)需標(biāo)注來(lái)源并插入本公眾號(hào)名片。