2025年7月5日下午，華為盤(pán)古大模型團(tuán)隊(duì)通過(guò)官方渠道（如“昇騰CANN”微信公眾號(hào)）發(fā)布正式聲明，回應(yīng)了近日圍繞其開(kāi)源模型“盤(pán)古Pro MoE”是否抄襲阿里“通義千問(wèn) Qwen-2.5 14B”模型的爭(zhēng)議。聲明稱，盤(pán)古是基于昇騰硬件平臺(tái)自研訓(xùn)練的混合專家模型，強(qiáng)調(diào)了“MoGE架構(gòu)”創(chuàng)新，并否認(rèn)抄襲。

而爭(zhēng)議的起點(diǎn)則是來(lái)自GitHub上名為HonestAGI用戶（該用戶目前已顯示404）發(fā)布的“LLM-Fingerprint”分析，該分析指出，盤(pán)古Pro MoE與Qwen?2.5?14B在注意力層參數(shù)上顯示出平均相關(guān)性為0.927，遠(yuǎn)高于同行模型間的對(duì)比范圍，暗示可能其通過(guò)“升級(jí)改造”獲得，而非從零訓(xùn)練，并在圈內(nèi)引發(fā)盤(pán)古Pro MoE的抄襲質(zhì)疑。

盤(pán)古團(tuán)隊(duì)隨后在GitHub issue區(qū)進(jìn)行技術(shù)回應(yīng)，否認(rèn)指控，并指出對(duì)比方法“不科學(xué)”。聲明強(qiáng)調(diào)遵守開(kāi)源許可，部分基礎(chǔ)組件參考了開(kāi)源實(shí)踐。

“驚人的0.927相關(guān)性”：參數(shù)高相似度是否等同于抄襲？

眾所周知，在模型訓(xùn)練中，即使使用相同的開(kāi)源數(shù)據(jù)集和相似的模型架構(gòu)，由于初始化參數(shù)的隨機(jī)性、訓(xùn)練過(guò)程中的隨機(jī)性（如dropout、數(shù)據(jù)洗牌順序等）以及不同的超參數(shù)設(shè)置，最終訓(xùn)練出的模型參數(shù)幾乎不可能完全一致，這意味著，相關(guān)性達(dá)到0.927極不尋常，甚至遠(yuǎn)遠(yuǎn)超出了“巧合”可以解釋的范疇。

而這種極不尋常，通常只意味著兩種可能。一種是增量訓(xùn)練（Continual Pre-training），即一方（例如華為盤(pán)古Pro MoE）在另一方已經(jīng)訓(xùn)練好的模型（例如Qwen-2.5 14B）基礎(chǔ)上，使用自己的數(shù)據(jù)繼續(xù)進(jìn)行訓(xùn)練，而這種做法會(huì)保留大部分原始模型的參數(shù)結(jié)構(gòu)和數(shù)值特征，導(dǎo)致高度相似；另外一種則是參數(shù)復(fù)制或遷移，即華為直接或經(jīng)過(guò)少量修改后，將Qwen-2.5 14B模型的參數(shù)用到了自家的盤(pán)古Pro MoE模型中。

不過(guò)，也有業(yè)內(nèi)對(duì)此提出了不同的看法，例如導(dǎo)致參數(shù)相關(guān)性高的原因很多，類似的訓(xùn)練目標(biāo)、相近的模型規(guī)模，或設(shè)計(jì)上采用了類似的注意力機(jī)制等都可能產(chǎn)生參數(shù)的高相關(guān)性，尤其是在Transformer架構(gòu)被廣泛共享的背景下。況且，若無(wú)明確代碼或權(quán)重直接復(fù)制記錄，僅憑統(tǒng)計(jì)參數(shù)相關(guān)性也無(wú)法斷定抄襲。

此外，上述“LLM-Fingerprint”的技術(shù)研究，似乎只關(guān)注了QKV參數(shù)相關(guān)性，缺乏對(duì)激活模式、訓(xùn)練流程、數(shù)據(jù)來(lái)源等多維度分析，畢竟專業(yè)評(píng)估需要多層級(jí)、多模型對(duì)比、顯著統(tǒng)計(jì)差異分析，而非單一模型參數(shù)相關(guān)性的測(cè)算。

而華為盤(pán)古團(tuán)隊(duì)認(rèn)為對(duì)比方法“不科學(xué)”的解釋中似乎也點(diǎn)明了這點(diǎn)，同時(shí)強(qiáng)調(diào)了其“分組混合專家模型（MoGE）”架構(gòu)的獨(dú)特性和創(chuàng)新性。

事實(shí)是，MoE（Mixture ofExperts）模型本身就是一種將大模型拆分成多個(gè)“專家”（子網(wǎng)絡(luò)或者模塊）的架構(gòu)。如果盤(pán)古的MoGE架構(gòu)在專家分組、路由機(jī)制等方面有顯著創(chuàng)新，那么即便某些基礎(chǔ)組件（如每個(gè)專家內(nèi)部的Transformer塊）的實(shí)現(xiàn)參考了開(kāi)源代碼，也不能完全等同于對(duì)整個(gè)模型的抄襲。

盡管如此，要想反駁抄襲的質(zhì)疑，盤(pán)古團(tuán)隊(duì)還理應(yīng)透明地解釋其MoGE架構(gòu)與Qwen-2.5的異同，并說(shuō)明為何在上述架構(gòu)存在獨(dú)特性和創(chuàng)新性的前提下，參數(shù)相似度還依然如此之高

遺憾的是，這些并未出現(xiàn)在盤(pán)古團(tuán)隊(duì)的回復(fù)中，其也未詳細(xì)解釋“LLM-Fingerprint”的評(píng)估方法何以不科學(xué)，同時(shí)缺乏官方GitHub或其他平臺(tái)的完整聲明，進(jìn)而導(dǎo)致華為的否認(rèn)缺乏反證數(shù)據(jù)支撐，難以形成有力的回應(yīng)。

化簡(jiǎn)為繁：用戶無(wú)法證偽，華為不能證真

如上述，無(wú)論是盤(pán)古團(tuán)隊(duì)回復(fù)中提及的“LLM-Fingerprint”分析的不科學(xué)，還是業(yè)內(nèi)部分觀點(diǎn)認(rèn)為，判斷盤(pán)古Pro MoE是否抄襲，需要多層級(jí)、多模型對(duì)比、顯著統(tǒng)計(jì)差異分析等的專業(yè)評(píng)估，都揭示出證偽的系統(tǒng)性和復(fù)雜性。

那么問(wèn)題來(lái)了，我們能否僅在“LLM-Fingerprint”的層面（畢竟盤(pán)古團(tuán)隊(duì)回復(fù)中所指出的不科學(xué)也僅限于此），即質(zhì)疑方除了前述HonestAGI用戶采用的屬于“LLM-Fingerprint”的參數(shù)指紋（Parameter Fingerprint），還可以使用同屬于“LLM-Fingerprint”的其他驗(yàn)證方式以增加質(zhì)疑的權(quán)重和說(shuō)服力；而華為也可以借此反駁質(zhì)疑方的質(zhì)疑，也是最直接和簡(jiǎn)單的方法，同級(jí)驗(yàn)證中的“一正一反”，質(zhì)疑至少在同一技術(shù)層面的爭(zhēng)議中歸零。

這里我們需要簡(jiǎn)單說(shuō)明的是，HonestAGI提及的“LLM-Fingerprint”指的就是所謂的模型指紋（Model Fingerprinting），簡(jiǎn)而言之，它是指通過(guò)一組可量化的特征或統(tǒng)計(jì)量，對(duì)一個(gè)機(jī)器學(xué)習(xí)模型（特別是大語(yǔ)言模型LLM）建立獨(dú)一無(wú)二的“身份識(shí)別”，類似于人類的指紋或設(shè)備的序列號(hào)，主要用來(lái)識(shí)別模型來(lái)源；檢測(cè)模型抄襲、篡改或未經(jīng)授權(quán)的衍生；對(duì)模型“去匿名化”等，通常包括我們上述第一部分論述的，HonestAGI用戶采用的參數(shù)指紋外，還有行為指紋、輸出指紋、梯度指紋等。

不幸的是，除參數(shù)指紋外，對(duì)于用戶和社區(qū)來(lái)說(shuō)，基于動(dòng)態(tài)驗(yàn)證方法的行為指紋、輸出指紋、梯度指紋等這些更強(qiáng)、更深層、更具解釋力的驗(yàn)證手段都無(wú)法進(jìn)行。

原因很簡(jiǎn)單，盤(pán)古ProMoE既未開(kāi)放完整模型權(quán)重，也沒(méi)有提供任何在線API、推理或DEMO接口。

注：白盒（White-box）：完全可見(jiàn)模型內(nèi)部結(jié)構(gòu)與參數(shù)，如模型權(quán)重

灰盒（Grey-box）：有限開(kāi)放部分中間結(jié)果，如梯度、logits

黑盒（Black-box）：只開(kāi)放輸入輸出接口，不公開(kāi)模型內(nèi)部結(jié)構(gòu)

例如在華為官方介紹中，盤(pán)古大模型主要定位為企業(yè)級(jí)應(yīng)用、昇騰硬件加速平臺(tái)上的基礎(chǔ)模型，聚焦政企行業(yè)解決方案，相關(guān)產(chǎn)品多以集成形式對(duì)外提供，未見(jiàn)單獨(dú)面向開(kāi)發(fā)者或公眾的API服務(wù)開(kāi)放；華為云官網(wǎng)雖然提供部分AI服務(wù)，但并未列出針對(duì)盤(pán)古ProMoE的API調(diào)用入口或開(kāi)放平臺(tái)；華為ModelArts或其它云服務(wù)平臺(tái)未發(fā)現(xiàn)有盤(pán)古Pro MoE對(duì)外API。

而在開(kāi)源平臺(tái)與模型庫(kù)中，盡管盤(pán)古Pro MoE的相關(guān)代碼和訓(xùn)練框架在GitHub開(kāi)源，但未提供推理API或在線服務(wù)Demo；至于相關(guān)社區(qū)也沒(méi)有發(fā)現(xiàn)公開(kāi)可用的盤(pán)古Pro MoE Web Demo或API，開(kāi)源愛(ài)好者和企業(yè)用戶均反映無(wú)法通過(guò)接口直接調(diào)用。

最后，據(jù)多個(gè)國(guó)內(nèi)行業(yè)媒體報(bào)道，盤(pán)古Pro MoE面向昇騰芯片定制，且目前主要作為底層基礎(chǔ)模型，不對(duì)外提供單獨(dú)API。

這意味著僅在模型指紋領(lǐng)域，比基于靜態(tài)驗(yàn)證方法的參數(shù)指紋更具說(shuō)服力的其他基于“動(dòng)態(tài)驗(yàn)證方法”的模型指紋都被華為有意或者無(wú)意間所屏蔽，只剩下無(wú)需API，只要公開(kāi)權(quán)重，即可對(duì)模型權(quán)重中特征矩陣的相似度進(jìn)行靜態(tài)分析的參數(shù)指紋可用。

到此，我們認(rèn)為，從用戶和社區(qū)端，想要再添加更有說(shuō)服力的證據(jù)幾乎沒(méi)有可能，那么就如我們前面所述，華為自身能否通過(guò)除去其質(zhì)疑不科學(xué)的參數(shù)指紋外，用其他模型指紋中的任何一種或幾種進(jìn)行交叉驗(yàn)證，來(lái)反駁能，且只能采用參數(shù)指紋進(jìn)行驗(yàn)證的用戶的質(zhì)疑呢？

按理說(shuō)這對(duì)于華為來(lái)說(shuō)再簡(jiǎn)單不過(guò)。

但隨之而來(lái)的問(wèn)題是，如果華為真的自己去驗(yàn)證，這種類似于既當(dāng)運(yùn)動(dòng)員，又當(dāng)裁判員的做法能否服眾？也許最客觀、公正的做法就是更加開(kāi)放，例如對(duì)外開(kāi)放自己的API和推理或DEMO接口，接受社區(qū)和用戶的檢驗(yàn)，但這又和我們前述人家華為盤(pán)古Pro MoE多以集成形式對(duì)外提供服務(wù)的商業(yè)模式相悖。畢竟選擇何種商業(yè)模式是廠商的自由。

到這里，業(yè)內(nèi)是否發(fā)現(xiàn)，無(wú)論是社區(qū)和用戶對(duì)于盤(pán)古Pro MoE的進(jìn)一步證偽，還是華為反駁的自我證真，實(shí)際的操作非常簡(jiǎn)單，但因?yàn)槲覀兦笆龅睦碛蓞s變得異常復(fù)雜，且“合情合理”，而這種化簡(jiǎn)為繁的操作，極有可能讓此次盤(pán)古Pro MoE的抄襲風(fēng)波，成為用戶無(wú)法證偽，華為不能證真的游戲而不了了之。

站在巨人的肩膀：借鑒應(yīng)有理有據(jù)有節(jié)，莫讓唯自研論反噬

曾幾何時(shí)，物理學(xué)巨匠艾薩克?牛頓在1675年寫(xiě)給羅伯特?胡克的信中所言的：“如果我看得更遠(yuǎn)，那是因?yàn)槲艺驹诰奕说募绨蛏稀背蔀榭茖W(xué)精神的經(jīng)典象征，傳達(dá)出一種謙遜、尊重前人、積累創(chuàng)新的價(jià)值觀。

而科技發(fā)展到今天，特別是在AI領(lǐng)域，完全從零開(kāi)始構(gòu)建一切已不現(xiàn)實(shí)，因?yàn)閹缀跛械难芯亢烷_(kāi)發(fā)都是基于前人的努力或者成果。

例如Transformer架構(gòu)（由谷歌2017年提出）已成為幾乎所有現(xiàn)代大模型的基礎(chǔ)。無(wú)論是GPT、BERT、LLaMA、通義千問(wèn)還是盤(pán)古，都是在其之上的繼承和發(fā)展。而在開(kāi)源日益流行的大模型領(lǐng)域更是如此。

這讓使用開(kāi)源模型、開(kāi)源數(shù)據(jù)集、參考優(yōu)秀論文等的自我實(shí)現(xiàn)，已經(jīng)成為行業(yè)常態(tài)。而在這種背景下，創(chuàng)新的核心其實(shí)已經(jīng)從所謂零開(kāi)始的完全自研，轉(zhuǎn)向是否提供了新的、有價(jià)值的東西。

以盤(pán)古Pro MoE為例，從其發(fā)布的論文看，面向自家的昇騰硬件就是其核心自主創(chuàng)新之一。因?yàn)獒槍?duì)特定硬件進(jìn)行深度優(yōu)化，本身就是重要的工程創(chuàng)新，可以提升訓(xùn)練和推理效率；又如其MoGE架構(gòu)，如果此架構(gòu)確實(shí)如其所言，解決了大規(guī)模分布式訓(xùn)練的負(fù)載均衡難題，無(wú)疑也是相當(dāng)具有價(jià)值的架構(gòu)創(chuàng)新。

但隨之而來(lái)的疑問(wèn)是，如果盤(pán)古Pro MoE在架構(gòu)和硬件適配上有如此重要的創(chuàng)新，為何還需要大量借鑒，甚至可能直接使用了Qwen的核心參數(shù)（按照HonestAGI用戶的參數(shù)指紋驗(yàn)證）呢？

結(jié)合上述，我們認(rèn)為，所謂針對(duì)昇騰硬件的優(yōu)化嚴(yán)格來(lái)說(shuō)只能算是“部署優(yōu)化”，不涉及模型本身的原創(chuàng)性；而MoGE架構(gòu)也僅是架構(gòu)創(chuàng)新，所以二者能否支撐“盤(pán)古Pro MoE是完全獨(dú)立訓(xùn)練的大模型”之說(shuō)，依然值得商榷。

而提及盤(pán)古Pro MoE是完全獨(dú)立訓(xùn)練的大模型，除了上述盤(pán)古Pro MoE的論文外，我們不得不再提及華為盤(pán)古團(tuán)隊(duì)對(duì)于質(zhì)疑的回應(yīng)。

回應(yīng)中，盤(pán)古團(tuán)隊(duì)強(qiáng)調(diào)其“嚴(yán)格遵循開(kāi)源許可證的要求，在開(kāi)源代碼文件中清晰標(biāo)注開(kāi)源代碼的版權(quán)聲明”。這可以被解讀為，其承認(rèn)使用了其他開(kāi)源模型的代碼（可能包括Qwen），但認(rèn)為自己的使用方式在法律上是合規(guī)的。

但問(wèn)題的關(guān)鍵在于“使用”的程度，其并沒(méi)有詳細(xì)說(shuō)明。

而在我們看來(lái)，如果使用僅僅是參考了某個(gè)函數(shù)的實(shí)現(xiàn)方式，或者使用了某些基礎(chǔ)庫(kù)，這在開(kāi)源社區(qū)是完全正常且被鼓勵(lì)的，但如果是將一個(gè)模型的“核心資產(chǎn)”，即人家花費(fèi)大量算力和數(shù)據(jù)訓(xùn)練出來(lái)的權(quán)重參數(shù)進(jìn)行“換皮”式使用，并聲稱是完全獨(dú)立訓(xùn)練的大模型，那么即便在代碼層面標(biāo)注了來(lái)源，法律上合規(guī)，但在道義和學(xué)術(shù)誠(chéng)信上也會(huì)引發(fā)巨大爭(zhēng)議，尤其是在開(kāi)源領(lǐng)域，這種道義和學(xué)術(shù)誠(chéng)信上的爭(zhēng)議，對(duì)于相關(guān)企業(yè)，乃至中國(guó)開(kāi)源領(lǐng)域都會(huì)造成不小的負(fù)面影響。

寫(xiě)在最后：俗話說(shuō)：“欲戴皇冠，必承其重”。當(dāng)一家企業(yè)因?yàn)榉鞘袌?chǎng)因素的限制，而被部分業(yè)內(nèi)和媒體頻頻冠以自研，且該企業(yè)借此收獲大量情緒價(jià)值，并能將其轉(zhuǎn)化為實(shí)際商業(yè)營(yíng)收和利潤(rùn)之時(shí)，該企業(yè)難免受到一定的影響。

例如明明某些領(lǐng)域、某些技術(shù)的核心來(lái)自供應(yīng)商，該企業(yè)充其量是優(yōu)化或者適配，卻被換上個(gè)高大上的名字或者艱澀難懂的所謂科技術(shù)語(yǔ)，搖身一變成為自研，久而久之，習(xí)慣成自然，自研被標(biāo)簽化，仿佛不自研，該企業(yè)就不成活。但稍有業(yè)內(nèi)常識(shí)的人都清楚，任何產(chǎn)業(yè)或者產(chǎn)品的創(chuàng)新和成功，都不可能憑借一家企業(yè)的自研之力可為之。

而此次盤(pán)古大模型陷抄襲風(fēng)波足以提醒我們的企業(yè)，要么是真的自研，勇于接受市場(chǎng)的質(zhì)疑和檢驗(yàn)；要么在嚴(yán)格遵守相關(guān)行業(yè)或者產(chǎn)業(yè)協(xié)議和規(guī)則等的前提下，站在巨人的肩膀上去發(fā)展。否則，輿論長(zhǎng)期停留在“猜測(cè)”與“對(duì)抗”之間，最終，不僅相關(guān)企業(yè)會(huì)被所謂的自研反噬，還會(huì)極大消耗中國(guó)科技產(chǎn)業(yè)及自主品牌的公信力和競(jìng)爭(zhēng)力。