近年來，數(shù)字經(jīng)濟(jì)高速發(fā)展，網(wǎng)絡(luò)交易、直播電商等新業(yè)態(tài)蓬勃興起，AI生成內(nèi)容、數(shù)字人主播等新技術(shù)廣泛應(yīng)用，與此同時(shí)，“僅退款”被惡意濫用、大數(shù)據(jù)殺熟、AI虛假內(nèi)容泛濫等問題日益凸顯，給行業(yè)監(jiān)管帶來新挑戰(zhàn)。

日前，為規(guī)范網(wǎng)絡(luò)交易秩序、保障消費(fèi)者與經(jīng)營(yíng)者合法權(quán)益、促進(jìn)數(shù)字經(jīng)濟(jì)健康可持續(xù)發(fā)展，多部門聯(lián)合發(fā)布《網(wǎng)絡(luò)交易平臺(tái)規(guī)則監(jiān)督管理辦法》與《直播電商監(jiān)督管理辦法》。

新規(guī)不僅將AI生成內(nèi)容、數(shù)字人主播等新興領(lǐng)域納入監(jiān)管范疇，還對(duì)“僅退款”“大數(shù)據(jù)殺熟”等熱點(diǎn)行為作出精細(xì)化規(guī)范，實(shí)現(xiàn)監(jiān)管范圍與行業(yè)發(fā)展的同步延伸。

為深入解讀新規(guī)核心要義、釋放信號(hào)及實(shí)踐挑戰(zhàn)，近日，互聯(lián)網(wǎng)分析師丁道師做客北京新聞廣播，與主持人展開對(duì)話，從新規(guī)亮點(diǎn)、風(fēng)險(xiǎn)應(yīng)對(duì)、權(quán)益平衡等多個(gè)維度，分享了觀點(diǎn)和見解。

以下是節(jié)目實(shí)錄，今天分享給大家，供參考。

1、主持人：新規(guī)把AI生成內(nèi)容納入了監(jiān)管范圍，還對(duì)僅退款、大數(shù)據(jù)殺熟這些行為進(jìn)行了細(xì)化規(guī)范，您認(rèn)為這些新增加的內(nèi)容釋放了哪些關(guān)鍵的信號(hào)呢?

丁道師：首先，監(jiān)管非常及時(shí)。以往我們常說科技互聯(lián)網(wǎng)發(fā)展日新月異，監(jiān)管存在滯后性，但從當(dāng)前情況來看，AI主播、大數(shù)據(jù)殺熟、僅退款等領(lǐng)域，監(jiān)管均能匹配行業(yè)發(fā)展節(jié)奏，意味著監(jiān)管領(lǐng)域已全面延伸至數(shù)字經(jīng)濟(jì)各新業(yè)態(tài)，我國(guó)依法治網(wǎng)體系得到進(jìn)一步完善與夯實(shí)。

此次新規(guī)的亮點(diǎn)在于，不少人認(rèn)為數(shù)字人主播、AI生成內(nèi)容屬于新技術(shù)產(chǎn)物，監(jiān)管可暫作擱置，但此次將其納入監(jiān)管范疇，明確無論技術(shù)如何發(fā)展，只要涉及網(wǎng)絡(luò)交易、直播帶貨，關(guān)乎消費(fèi)者權(quán)益，就必須在合規(guī)框架內(nèi)運(yùn)行，新技術(shù)并非法外之地。

此外，規(guī)則治理此前多為籠統(tǒng)的框架性要求，如今已進(jìn)一步精細(xì)化落地。例如僅退款、大數(shù)據(jù)殺熟，以往多是籠統(tǒng)的禁止性條款，實(shí)操中部分平臺(tái)要么一刀切強(qiáng)制商家退款，要么對(duì)殺熟算法視而不見，此次新規(guī)明確了具體適用邊界，劃定了行為紅線，行業(yè)不能再依賴慣性經(jīng)營(yíng)。

值得關(guān)注的是，新規(guī)不再偏袒某一方，此前相關(guān)規(guī)則更多側(cè)重保護(hù)消費(fèi)者權(quán)益，此次則真正兼顧消費(fèi)者與商家兩端。商家與消費(fèi)者都是行業(yè)生態(tài)的重要參與者，若僅保護(hù)消費(fèi)者而忽視商家，容易導(dǎo)致職業(yè)薅羊毛群體泛濫，損害中小商家利益，不利于行業(yè)長(zhǎng)遠(yuǎn)發(fā)展。

2、主持人：那您覺得，它們主要針對(duì)當(dāng)前網(wǎng)絡(luò)交易生態(tài)中哪些新風(fēng)險(xiǎn)和新痛點(diǎn)呢?

丁道師：新規(guī)針對(duì)的新風(fēng)險(xiǎn)與痛點(diǎn)，正是我們剛剛談及的內(nèi)容。尤其是去年至今，以人工智能為代表的新技術(shù)、新業(yè)態(tài)及衍生產(chǎn)業(yè)，如數(shù)字人主播、AI算法等前沿應(yīng)用場(chǎng)景帶來的各類問題，新規(guī)均針對(duì)性出臺(tái)條款，填補(bǔ)了此前的監(jiān)管空白。

過去兩年人工智能高速發(fā)展，AI虛假內(nèi)容泛濫、內(nèi)容搬運(yùn)抄襲等問題隨之而來，這些領(lǐng)域此前缺乏有效監(jiān)管，此次不僅被納入監(jiān)管范圍，相關(guān)規(guī)定也更為明確。

正如之前所說，新規(guī)還強(qiáng)化了各方權(quán)益保障，凸顯公平性，這亦是核心亮點(diǎn)?？傮w而言，新規(guī)最大的看點(diǎn)在于與時(shí)俱進(jìn)，這也是我國(guó)近年來出臺(tái)新經(jīng)濟(jì)相關(guān)法規(guī)時(shí)，呈現(xiàn)出的鮮明變化與積極升級(jí)態(tài)勢(shì)。

3、主持人：我們看到新規(guī)強(qiáng)調(diào)既要保障消費(fèi)者的權(quán)益，也要保障平臺(tái)內(nèi)經(jīng)營(yíng)者的權(quán)益，剛才你也提到了照顧得很全面，那在您看來，在網(wǎng)絡(luò)交易和直播電商發(fā)展的過程中，如何在保護(hù)消費(fèi)者和為中小商家營(yíng)造公平經(jīng)營(yíng)環(huán)境之間把握平衡呢?

丁道師：商家的權(quán)益此前處于被弱化的狀態(tài)，以僅退款為例，這是過去幾年電子商務(wù)行業(yè)的熱門詞匯，其早期應(yīng)用場(chǎng)景是：商家售賣香蕉、蘋果等生鮮產(chǎn)品，商品送達(dá)消費(fèi)者手中時(shí)，因運(yùn)輸或擠壓等原因出現(xiàn)腐爛，商家會(huì)主動(dòng)提出“無需退回商品，直接辦理僅退款”——此時(shí)商家已承擔(dān)運(yùn)費(fèi)與產(chǎn)品成本，若要求消費(fèi)者退回商品，還需額外承擔(dān)返程成本，且腐爛商品退回后需投入人力物力處理，會(huì)進(jìn)一步增加商家負(fù)擔(dān)，因此僅退款在該場(chǎng)景下是較為合理的設(shè)計(jì)。

但這一規(guī)則出發(fā)點(diǎn)雖好，近年來卻出現(xiàn)明顯漏洞，部分職業(yè)羊毛黨利用規(guī)則漏洞，明明商品完好無損，卻謊稱存在質(zhì)量問題，例如購(gòu)買襪子后自行扯爛，再要求僅退款，最終實(shí)現(xiàn)零成本獲取商品。此類行為愈演愈烈，大量合規(guī)商品被惡意薅羊毛，部分消費(fèi)者從中獲利，商家卻承受巨大損失，不少商家因這一規(guī)則難以持續(xù)經(jīng)營(yíng)。

因此此次新規(guī)倡導(dǎo)雙方地位平等，不能簡(jiǎn)單判定能否退款，而需根據(jù)商品實(shí)際情況實(shí)事求是判定。例如腐爛的香蕉自然可以僅退款，但電器、衣物等高價(jià)商品，不能隨意適用僅退款規(guī)則，不能放任商家利益受損。同時(shí)，明確規(guī)則標(biāo)準(zhǔn)后，也能有效遏制職業(yè)羊毛黨行為，對(duì)雙方權(quán)益保障均為利好。

需要特別強(qiáng)調(diào)的是，新規(guī)還引導(dǎo)建立雙向評(píng)價(jià)體系，這一舉措至關(guān)重要。電商生態(tài)中，消費(fèi)者與商家都是參與者，不能僅考核商家的信用等級(jí)，也需為消費(fèi)者建立信用檔案。若某一消費(fèi)者頻繁購(gòu)買商品后申請(qǐng)僅退款，或吊牌未摘、試用后便退貨，此類行為應(yīng)受到相應(yīng)限制甚至拉黑，唯有如此，才能構(gòu)建真正公平、健康的行業(yè)生態(tài)。

此外，新規(guī)還引導(dǎo)平臺(tái)規(guī)則更加透明化，要求平臺(tái)制定規(guī)則時(shí)不能閉門造車，需公開征求商家、業(yè)界、消費(fèi)者等多方意見，重大規(guī)則調(diào)整更應(yīng)遵循這一原則，杜絕區(qū)別對(duì)待。未來平臺(tái)的處罰行為需有明確依據(jù)，若商家對(duì)處罰結(jié)果有異議，平臺(tái)應(yīng)設(shè)立高效的申訴渠道，切實(shí)保護(hù)商家權(quán)益。因?yàn)楸Ｗo(hù)商家本質(zhì)上是保護(hù)整個(gè)行業(yè)生態(tài)的健康，長(zhǎng)遠(yuǎn)來看，對(duì)消費(fèi)者與平臺(tái)均是利好。

4、主持人：新規(guī)也是對(duì)這一方面提出了一個(gè)方向性的要求。那出臺(tái)之后，您認(rèn)為監(jiān)管部門還有平臺(tái)，在技術(shù)識(shí)別、內(nèi)容審核、責(zé)任界定等方面將面臨哪些主要的挑戰(zhàn)呢?

丁道師：數(shù)字人主播引發(fā)的相關(guān)問題，是全球性的治理難題，不僅我國(guó)，國(guó)外同樣存在數(shù)字人主播，也面臨類似挑戰(zhàn)。最典型的問題是，數(shù)字人主播若出現(xiàn)言論失誤，或帶貨過程中涉及假貨，相關(guān)責(zé)任應(yīng)由誰承擔(dān)?數(shù)字人本身不具備法律主體資格，責(zé)任究竟歸屬使用數(shù)字人的公司，還是研發(fā)數(shù)字人的企業(yè)?這一問題此前缺乏明確界定，目前全球范圍內(nèi)也未形成統(tǒng)一共識(shí)，因此這一前沿且現(xiàn)實(shí)的議題亟需深入探討。

在技術(shù)識(shí)別層面，當(dāng)前技術(shù)發(fā)展迅猛，數(shù)字人主播的表情、語言擬人化程度不斷提升，與真實(shí)主播的差距逐漸縮小，傳統(tǒng)內(nèi)容識(shí)別技術(shù)已難以滿足監(jiān)管需求。目前我國(guó)明確要求使用者在使用數(shù)字人或AI參與的畫面、節(jié)目時(shí)，必須進(jìn)行明確標(biāo)注，當(dāng)前無論是視頻拍攝還是微信公眾號(hào)發(fā)文，均已設(shè)置相關(guān)標(biāo)注選項(xiàng)，這一要求具有強(qiáng)制性。通過平臺(tái)篩查與用戶自主標(biāo)注相結(jié)合的方式，能夠較好地識(shí)別AI數(shù)字人及相關(guān)生成內(nèi)容，進(jìn)而開展針對(duì)性管理。

在內(nèi)容審核層面，AI生成內(nèi)容體量龐大，數(shù)字人主播理論上可實(shí)現(xiàn)24小時(shí)不間斷直播，單純依靠傳統(tǒng)人工審核難以實(shí)現(xiàn)全面覆蓋。盡管當(dāng)前AI已參與審核工作，但仍可能存在誤判問題，例如將正常營(yíng)銷話術(shù)判定為虛假宣傳，或遺漏違規(guī)內(nèi)容。更關(guān)鍵的是，針對(duì)AI內(nèi)容的違規(guī)判定標(biāo)準(zhǔn)尚未形成統(tǒng)一體系，不同平臺(tái)、不同監(jiān)管人員的審核尺度存在差異，容易引發(fā)爭(zhēng)議。

最為棘手的仍是責(zé)任界定問題，前文提及的數(shù)字人主播相關(guān)責(zé)任歸屬，僅是其中一個(gè)簡(jiǎn)單場(chǎng)景，其背后涉及平臺(tái)、機(jī)構(gòu)、技術(shù)服務(wù)商、使用者等多個(gè)主體，一旦出現(xiàn)問題，如何追責(zé)、定責(zé)容易陷入混亂。

這一問題在國(guó)內(nèi)尚且復(fù)雜，若涉及跨國(guó)合作，國(guó)與國(guó)之間不同部門、機(jī)構(gòu)的協(xié)作難度更大，極易出現(xiàn)執(zhí)法盲區(qū)。此外，全球各國(guó)關(guān)于人工智能的法律法規(guī)基礎(chǔ)存在顯著差異，某一產(chǎn)品或服務(wù)在甲國(guó)合法，在乙國(guó)可能構(gòu)成違法，法律適用問題同樣亟待解決。因此，構(gòu)建完善的治理體系，仍面臨諸多挑戰(zhàn)。

5、主持人：那您覺得就是面對(duì)這些挑戰(zhàn)，我們應(yīng)該如何建立與這個(gè)實(shí)踐相適應(yīng)的一些治理框架呢?

丁道師：這一問題其實(shí)已被多次探討，建立與實(shí)踐相適應(yīng)的治理框架，不能依賴單一主體或單一體系，而需多方協(xié)同發(fā)力，通過技術(shù)升級(jí)與制度完善實(shí)現(xiàn)協(xié)同共治。

首先，技術(shù)層面必須緊跟行業(yè)發(fā)展，需搭建平臺(tái)級(jí)乃至產(chǎn)業(yè)級(jí)的AI內(nèi)容識(shí)別平臺(tái)，整合算法監(jiān)測(cè)、溯源追蹤等技術(shù)，實(shí)現(xiàn)對(duì)數(shù)字人主播及各類AI生成內(nèi)容的實(shí)時(shí)監(jiān)測(cè)。同時(shí)，要求平臺(tái)在部署相關(guān)技術(shù)工具時(shí)，必須對(duì)AI生成內(nèi)容進(jìn)行標(biāo)注，明確各方責(zé)任邊界，核心原則為“誰運(yùn)營(yíng)、誰負(fù)責(zé)”。數(shù)字人主播的運(yùn)營(yíng)方，無論是背后機(jī)構(gòu)還是具體使用者，需對(duì)內(nèi)容真實(shí)性承擔(dān)首要責(zé)任;平臺(tái)需承擔(dān)審核資質(zhì)審核、日常監(jiān)督責(zé)任;技術(shù)服務(wù)商則需從底層技術(shù)層面提供溯源支持。明確各主體、各環(huán)節(jié)的責(zé)任，能夠大幅減少責(zé)任推諉現(xiàn)象。

審核機(jī)制需要進(jìn)一步優(yōu)化，可構(gòu)建“AI初審+人工復(fù)核”的分層審核模式。當(dāng)前抖音、今日頭條等平臺(tái)已采用類似的“人工智能+人工”結(jié)合審核機(jī)制，先通過AI技術(shù)對(duì)海量?jī)?nèi)容進(jìn)行初步篩選，篩選出疑似違規(guī)內(nèi)容后，再移交人工復(fù)核。這種人機(jī)協(xié)同的審核方式，能夠有效提升審核效率，保障內(nèi)容真實(shí)性，確保審核過程可追溯。

最后，需推進(jìn)全球治理與國(guó)際合作。人工智能治理并非單一國(guó)家的事務(wù)，而是全球性議題，監(jiān)管部門可聯(lián)合行業(yè)協(xié)會(huì)，在各國(guó)之間建立統(tǒng)一協(xié)同機(jī)制。例如由主要大國(guó)牽頭提出人工智能治理頂層倡議，在倡議框架下，各國(guó)尋求最大共識(shí)，形成一套各方普遍遵守的規(guī)則體系。

唯有如此，才能實(shí)現(xiàn)人工智能發(fā)展與監(jiān)管的協(xié)調(diào)統(tǒng)一，更好地解決全球性治理問題。