關(guān)注“在線學(xué)習(xí)”

獲取更多資訊！

刊載信息

王爽.(2025).情感計算賦能智慧教育的法治風(fēng)險與傾斜性法律規(guī)制. 中國遠(yuǎn)程教育(11),79-94.

情感計算賦能智慧教育的法治風(fēng)險與傾斜性法律規(guī)制
王爽

【摘要】情感計算教育應(yīng)用具有情感驅(qū)動性、高度隱蔽性和深度識別性的特征。在賦能個性化學(xué)習(xí)、精準(zhǔn)化教學(xué)和智慧化校園管理方面展現(xiàn)出巨大潛力，但同時也對隱私權(quán)、個人信息權(quán)益、教育平等和學(xué)習(xí)自由產(chǎn)生多元沖擊。對此，應(yīng)以傾斜性保護(hù)受教育者作為核心目標(biāo)，采取傾斜性規(guī)制手段：借助心理損害評估機制和推定侵權(quán)將情感隱私納入隱私權(quán)保護(hù)范疇，依憑持續(xù)有效的信息披露與動態(tài)同意制度強化受教育主體的告知同意權(quán)，通過區(qū)塊鏈技術(shù)實現(xiàn)以技治技；應(yīng)基于精確目的優(yōu)化數(shù)據(jù)標(biāo)注，并借助解釋水平理論構(gòu)建算法解釋制度，實現(xiàn)情感計算教育應(yīng)用的場景化透明；應(yīng)禁止嚴(yán)重觸碰倫理禁區(qū)和價值底線的情感計算教育應(yīng)用并賦予教育主體退出選擇權(quán)，以推動情感計算教育應(yīng)用在公平、安全與高效間取得動態(tài)平衡。

【關(guān)鍵詞】情感計算; 隱私權(quán); 個人信息; 教育平等; 學(xué)習(xí)自由

情感計算是建立自然和諧與友好智能人機環(huán)境的基礎(chǔ)理論與技術(shù)之一，因其能有效推進(jìn)智慧教育建設(shè)、促進(jìn)信息化目標(biāo)實現(xiàn)而在教育場景中具有廣泛應(yīng)用實踐，同時也成為教育領(lǐng)域研究的熱點話題之一（Poria et al., 2017），其對于學(xué)生狀態(tài)表征、教學(xué)過程評價、學(xué)習(xí)機理闡釋和學(xué)習(xí)干預(yù)等具有重要意義（王一巖 & 鄭永和, 2024）。教育情感計算的理論研究與實踐應(yīng)用均呈現(xiàn)欣欣向榮的發(fā)展態(tài)勢。但頗具反轉(zhuǎn)性的是，2019年年底部分學(xué)校宣布停止使用情感計算進(jìn)行情緒識別，而只使用人臉識別技術(shù)識別動作（Xue, 2019），部分科技公司也將情感計算相關(guān)詞匯從宣傳文案中刪除（施安, 2018）。2024年歐盟發(fā)布的《人工智能法案》明確規(guī)定，教育機構(gòu)使用基于生物識別技術(shù)的人工智能系統(tǒng)來推斷或識別自然人的情緒，屬于被直接禁止的人工智能應(yīng)用范疇（Official Journal of the European Union, 2024）。情感計算教育應(yīng)用的邊界及限度問題隨之成為關(guān)注焦點。學(xué)界對教育場景情感計算應(yīng)用的研究主要基于兩條路徑：一是基于技術(shù)路徑，探討情感計算教育應(yīng)用的技術(shù)瓶頸及前景；二是基于教育學(xué)理論路徑，研究情感計算教育應(yīng)用與教育學(xué)理論的契合與背離。整體而言，基于法學(xué)視角的研究較少。情感計算遵循何種技術(shù)邏輯？存在何種領(lǐng)域特征？相關(guān)應(yīng)用能否有效賦能智慧教育新格局？情感計算教育應(yīng)用會產(chǎn)生何種風(fēng)險？如何結(jié)合教育場景的特殊性進(jìn)行法律規(guī)制？本研究嘗試基于法學(xué)理論與技術(shù)的雙重視角予以回應(yīng)與探討。

一、

情感計算教育應(yīng)用的領(lǐng)域特征

“情感”作為人類社會生活的“文法”（grammar of social living）被認(rèn)為是人類與人工智能分界線的重要表征。1997年，羅莎琳德?皮卡德（Picard, R. W.）率先提出情感計算技術(shù)（Picard, 1997, p.3）。人工智能技術(shù)視域下的情感計算是指感知、識別、模擬、影響人類情感狀態(tài)的各類智能技術(shù)的統(tǒng)稱。情感計算教育應(yīng)用遵循感知—識別—模擬—影響的技術(shù)邏輯（Gretchen, 2021），技術(shù)架構(gòu)可分為感知層、認(rèn)知層和應(yīng)用層：在感知層，通過接觸或非接觸式傳感器獲取教師和學(xué)生的語音信號、面部表情、肢體語言等體態(tài)語以及腦電、眼動、肌電、皮膚電、心電和呼吸等生理信號；在認(rèn)知層，依托隱馬爾可夫模型等對外在情感信號進(jìn)行特征提取、分解與分析以識別內(nèi)在情緒；在應(yīng)用層，依托已識別的情感進(jìn)行反饋與干預(yù)。情感計算的終極目標(biāo)是在“識別”基礎(chǔ)上使人工智能具有“模擬”和“影響”教育主體情緒的能力（Ben-Ze’ev, 2000, p.179）。聚焦于智慧教育領(lǐng)域，情感計算技術(shù)有助于構(gòu)建精準(zhǔn)、個性和靈活的教育生態(tài)系統(tǒng)，促進(jìn)教育的智慧轉(zhuǎn)型（曹培杰, 2018），具有情感驅(qū)動性、高度隱蔽性和深度識別性三重特征。

（一）情感驅(qū)動性

數(shù)智技術(shù)與教育的深度融合為教育改革和教學(xué)創(chuàng)新帶來了前所未有的機遇，相比其他智能技術(shù)的外在智力支持，情感計算更加注重對內(nèi)在情感的觀照。通過識別師生情感狀態(tài)，調(diào)節(jié)學(xué)習(xí)和教學(xué)過程，促進(jìn)師生情感交互，喚醒學(xué)習(xí)的自主性和能動性，實現(xiàn)個性化學(xué)習(xí)、精準(zhǔn)化教學(xué)和智慧化校園管理。

其一，情感計算賦能個性化學(xué)習(xí)。個性化學(xué)習(xí)以尊重學(xué)習(xí)者個體差異為核心，體現(xiàn)了教育的人性化和生本化回歸（楊雪 等, 2016）。傳統(tǒng)智能技術(shù)主導(dǎo)的學(xué)習(xí)干預(yù)多指涉認(rèn)知維度，忽視了情感驅(qū)動在學(xué)習(xí)過程中的作用，導(dǎo)致干預(yù)方式局限于學(xué)業(yè)測評、認(rèn)知診斷與資源推薦等單一維度。情感計算通過對學(xué)生情感狀態(tài)的細(xì)粒度、時序性和動態(tài)性的畫像，深入挖掘?qū)W生的認(rèn)知偏好和學(xué)習(xí)風(fēng)格，精確評估學(xué)習(xí)效果。更為重要的是，情感計算還能有效提升學(xué)生的學(xué)習(xí)動機，激發(fā)其探索精神和求知欲，增強自主學(xué)習(xí)的意識和能力（王一巖 & 鄭永和, 2024），為個性化學(xué)習(xí)提供內(nèi)生動力。

其二，情感計算賦能精準(zhǔn)化教學(xué)。教學(xué)目標(biāo)是選擇教學(xué)資源、實施教學(xué)活動、勾勒教學(xué)程序、開展教學(xué)測評的關(guān)鍵性前置標(biāo)準(zhǔn)。好未來教育集團(tuán)開發(fā)的“魔鏡”系統(tǒng)即借助情感計算對師生情感、課堂互動和內(nèi)容傳授等數(shù)據(jù)進(jìn)行建模，從而為教學(xué)目標(biāo)的改進(jìn)提供建議（新浪教育, 2018）。在設(shè)定精準(zhǔn)的教學(xué)目標(biāo)并設(shè)計教學(xué)問題后，能否捕捉適切時機、利用適當(dāng)場域、采取適恰手段進(jìn)行干預(yù)是精準(zhǔn)教學(xué)的關(guān)鍵（姬曉燦 等, 2020）。依托情感計算生成的情感數(shù)據(jù)反饋，教師得以洞察學(xué)生的學(xué)習(xí)風(fēng)格和薄弱環(huán)節(jié)，進(jìn)而動態(tài)優(yōu)化個性化教學(xué)策略。與此同時，情感計算能有效促進(jìn)師生情感互動，營造和諧融洽的課堂氛圍，深化課堂互動的質(zhì)量與深度，并助力教師敏銳捕捉學(xué)習(xí)困難學(xué)生的情感信號，實施更具針對性的情感關(guān)懷和學(xué)業(yè)支持，從而全面提升教學(xué)的適配性與實效性。

其三，情感計算賦能智慧化校園管理。在校園安全治理體系中，基于情感計算技術(shù)的情緒狀態(tài)監(jiān)測系統(tǒng)正成為構(gòu)建主動防護(hù)機制的重要工具。該技術(shù)通過全天候動態(tài)掃描和精準(zhǔn)分析，實時捕捉兒童情緒波動，為校園安全管理提供智能化解決方案?；谇楦杏嬎愕闹腔刍@管理作為公平優(yōu)質(zhì)受教育權(quán)的物質(zhì)保障，自然是教育現(xiàn)代化的重要內(nèi)涵。例如，蜜棗網(wǎng)開發(fā)的幼兒安全成長智能系統(tǒng)，通過情感計算技術(shù)，可對每位兒童實現(xiàn)全天候動態(tài)監(jiān)測，系統(tǒng)每天執(zhí)行超過1,000次的智能掃描，以準(zhǔn)確獲知幼童的情緒變化，幫助管理者快捷準(zhǔn)確地了解安全隱患（消費日報網(wǎng), 2018）。

（二）高度隱蔽性

情感計算教育應(yīng)用的技術(shù)優(yōu)勢主要體現(xiàn)在其無需師生的刻意預(yù)設(shè)，即能夠?qū)崟r捕捉真實情感狀態(tài)，這使得情感計算教育應(yīng)用具有較高的靈活性和適用性。與傳統(tǒng)的測謊儀等設(shè)備相比，后者雖能夠揭示心理反應(yīng)與生理信號的對應(yīng)關(guān)系，但其需要設(shè)備接觸方能實現(xiàn)，被測者可能因心理防御而掩飾或偽裝情感，導(dǎo)致數(shù)據(jù)的準(zhǔn)確性下降，從而限制其在智慧教育中的應(yīng)用。此外，這類設(shè)備的使用還可能導(dǎo)致被測者的不適感和額外的認(rèn)知負(fù)擔(dān)，進(jìn)一步影響情感數(shù)據(jù)的真實性。情感計算中除生理信號頻率通常較低，采集時易受外界環(huán)境影響，因而通常需要專門的接觸式設(shè)備進(jìn)行采集外，其他情感模態(tài)數(shù)據(jù)通常依賴輕量化、無干擾設(shè)備即可“無摩擦式”（frictionless）獲?。‥DPB-EDPS, 2021），從而有效規(guī)避個體主觀控制對情感數(shù)據(jù)的干擾。同時，情感計算多被嵌入在線課堂、學(xué)習(xí)管理系統(tǒng)等教育應(yīng)用平臺，在與應(yīng)用的自然交互中，師生可能只關(guān)注到教育功能，而忽略了隱藏的情感數(shù)據(jù)采集與分析。即便師生可能知悉情感計算設(shè)備的存在，由于算法黑箱及公眾技術(shù)能力的限制，他們也往往難以理解具體的情感推演機制。

（三）深度識別性

不同于其他智能技術(shù)多采用結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)，情感計算教育應(yīng)用以多模態(tài)數(shù)據(jù)作為燃料，其中必然會存在生物識別信息、醫(yī)療健康信息、不滿十四周歲未成年人個人信息等敏感個人信息。①在商業(yè)利益驅(qū)動下，情感計算教育應(yīng)用勢必會增加數(shù)據(jù)處理的“量”與“質(zhì)”，最大限度地向師生的敏感、私密領(lǐng)域探入（孫宇, 2024）以提升識別精準(zhǔn)度。這種數(shù)據(jù)挖掘不僅針對信息主體本人的情感特征，還可能通過附著線索間接推測出尚未披露的相關(guān)信息，從而揭示其背后更復(fù)雜的情感狀態(tài)?；诿娌啃畔⑹乔楦杏嬎愕某Ｒ娮R別路徑，但與傳統(tǒng)人臉識別技術(shù)主要針對靜態(tài)面部表情用于身份認(rèn)證或行為分析不同的是，情感計算不僅關(guān)注面部肌肉細(xì)微變化，還結(jié)合語音節(jié)奏、音調(diào)、肢體語言互動模式等建立情感狀態(tài)的多維度模型。此種識別路徑通過面部、語音、肢體與生理信號的交互作用，實現(xiàn)對情感狀態(tài)的深層關(guān)聯(lián)、精準(zhǔn)識別和動態(tài)評估（Sébastien, 2020）。

傳統(tǒng)智慧教育應(yīng)用多關(guān)注學(xué)生的作業(yè)完成情況、登錄時間、視頻播放次數(shù)等表層行為數(shù)據(jù)，缺乏對學(xué)習(xí)者心理活動的深入洞察。相比之下，情感計算教育應(yīng)用通過對情感狀態(tài)的深層次捕捉，能夠揭示出學(xué)習(xí)者更為隱秘的情感狀態(tài)。情感計算教育應(yīng)用對師生內(nèi)心世界的外部化和量化，推動了智慧教育從“外在行為洞察”到“內(nèi)在情感理解”的轉(zhuǎn)型。

二、

情感計算賦能智慧教育的法治風(fēng)險

從技術(shù)哲學(xué)視角來看，情感計算賦能智慧教育體現(xiàn)了數(shù)字技術(shù)可供性及其實現(xiàn)的動態(tài)演進(jìn)過程（Yoo et al., 2012）。但與此同時，情感計算教育應(yīng)用也呈現(xiàn)出顯著的“雙刃劍”效應(yīng)，與隱私權(quán)、個人信息權(quán)益、教育平等和學(xué)習(xí)自由之間產(chǎn)生了深層次的張力。

（一）情感計算教育應(yīng)用與隱私權(quán)、個人信息權(quán)益的潛在沖突

情感計算教育應(yīng)用獲致的情感信息生成于敏感個人信息之上，具有衍生的敏感性。不同于部分情感計算商業(yè)應(yīng)用將個人信息與情感信息進(jìn)行剝離，情感計算教育應(yīng)用需要關(guān)注特定情感的指涉對象以實現(xiàn)個性化干預(yù)，因而在大多數(shù)情況下無法分離情感信息及其主體，因此，情感計算教育應(yīng)用的情感信息因“可識別性”而落入個人信息范疇。同時，情感信息還可落入隱私權(quán)涵攝范圍。原因在于基于公眾普遍認(rèn)知，每個主體實質(zhì)上是以復(fù)雜多樣的形象呈現(xiàn)，根據(jù)場合需要，個體可能會選擇佩戴不同的“面具”以遮蔽真實情感（胡建淼 & 岑劍梅, 2008）。情感計算教育應(yīng)用的深度識別可能使得師生不愿為人所知的內(nèi)心情感信息暴露無遺，切斷了其維護(hù)自身隱秘事項不為他人所知的能力（王祿生, 2021）。盡管情感信息是情感計算教育應(yīng)用的基礎(chǔ)支柱和核心驅(qū)動，關(guān)切個性化學(xué)習(xí)體驗的優(yōu)化和教學(xué)效率的提升，但是，不論是基于隱私權(quán)還是個人信息權(quán)益，對情感信息的保護(hù)都存在力有不逮之處。

基于隱私權(quán)保護(hù)視角來看，“不愿為他人知曉”的特征決定了侵犯隱私權(quán)導(dǎo)致的損害相對容易判斷，通常會造成受害人社會評價降低、名譽受到影響等后果（周漢華, 2021）。但是在情感計算教育應(yīng)用中，情感隱私受到侵害可能表現(xiàn)為心理壓力、學(xué)習(xí)或教學(xué)效率下降等，而非直接的社會評價降低。并且情感作為常見的內(nèi)心活動或表達(dá)方式，往往難以與外在化的社會評價變化產(chǎn)生直接因果關(guān)系，導(dǎo)致情感隱私的損害事實難以證成（褚婧一, 2023）。

基于個人信息權(quán)益保護(hù)視角來看，雖然情感信息可能來源于敏感個人信息且具有私密性，但其不必然會造成自然人的人格尊嚴(yán)受到侵害或者人身、財產(chǎn)安全受到危害，因而難以被界定為敏感個人信息。例如，在一些情感計算教育應(yīng)用中，情感信息主要用于關(guān)注學(xué)生的課堂注意力情況，雖然基于情感信號推測內(nèi)心狀態(tài)的做法可能因?qū)⑷丝腕w化而侵害其尊嚴(yán)，但這類情感信息通常很難被證明與人格尊嚴(yán)有直接且緊密的關(guān)聯(lián)。此外，即使被不當(dāng)利用，它一般也不會對人身和財產(chǎn)安全造成嚴(yán)重?fù)p害。所以情感信息在部分場景中并不能被認(rèn)定為敏感個人信息（褚婧一, 2023）。即便將情感信息認(rèn)定為敏感個人信息，對敏感個人信息的保護(hù)也難以實現(xiàn)。一方面，《中華人民共和國個人信息保護(hù)法》第二十九條規(guī)定，處理敏感個人信息應(yīng)取得個人的單獨同意。十四周歲以上的未成年人與學(xué)校構(gòu)成了以管束為基本內(nèi)容的特別法律關(guān)系，其與教師和學(xué)校管理方之間存在不對等的服從義務(wù)（勞凱聲, 2021），受制于權(quán)威式壓迫，其可能做出違背自我意志的同意行為。十四周歲以下的未成年人雖由監(jiān)護(hù)人代為行使同意權(quán)，但由于監(jiān)護(hù)人與教師、學(xué)校使用情感計算教育應(yīng)用的初衷具有一致性，可以預(yù)估到監(jiān)護(hù)人不會為了反對學(xué)校決定而犧牲未成年人的未來，因而監(jiān)護(hù)人可能會打著“為你好”的旗幟做出與其真實想法相背離的虛假同意（Xue, 2019），導(dǎo)致告知同意制度淪為虛置。另一方面，《中華人民共和國個人信息保護(hù)法》第三十條規(guī)定，個人信息處理者處理敏感個人信息的，還應(yīng)當(dāng)向個人告知處理的必要性以及對個人權(quán)益的影響。正如前文所述，情感計算教育應(yīng)用具有高度隱蔽性和深度識別性，情感信息生成邏輯有著不同于其他智慧教育應(yīng)用的技術(shù)復(fù)雜性，監(jiān)護(hù)人受制于技術(shù)能力，并不能全面認(rèn)識情感信息的重要性，遑論做出自主的告知同意決策。當(dāng)情感計算教育應(yīng)用處理的是十四周歲以上未成年人情感信息時，理論上僅需取得其同意即可，②而未成年人并不具備與處理敏感個人信息適配的認(rèn)知能力，導(dǎo)致告知同意陷入無意義的窠臼。

（二）情感計算教育應(yīng)用與教育平等的內(nèi)在抵牾

《中華人民共和國憲法》（2018年修正）宣告平等權(quán)和受教育權(quán)為我國公民的基本權(quán)利，教育平等權(quán)在平等權(quán)的涵蓋之下，由平等權(quán)與受教育權(quán)結(jié)合產(chǎn)生。作為平等權(quán)的具體表征，教育平等權(quán)是公民人格成長與發(fā)展的重要前提，兼具公民權(quán)與人權(quán)屬性（熊文釗 & 吳旸, 2010）。根據(jù)羅納德?德沃金（Dworkin, R. M.）的觀點，平等權(quán)可細(xì)化為兩種類型：第一種是平等對待的權(quán)利（right to equal treatment），即像其他人所享有的或被給予的一樣，同樣分享利益和機會。德沃金認(rèn)為平等對待并非絕對意義上的，合理的差別對待同樣也是平等對待。第二種是作為平等的個人而受到平等對待的權(quán)利（right to treatment as an equal）。此種權(quán)利強調(diào)個人享有平等的關(guān)心和尊重，而不是接受某些義務(wù)或利益的同等分配。（羅納德?德沃金, 2008, pp.303-306）情感計算教育應(yīng)用與雙重維度的教育平等均存在對立。

第一，情感計算教育應(yīng)用的情感歸因（emotion attribution）沖擊平等對待的權(quán)利。與以往智慧教育應(yīng)用不同的是，情感計算教育應(yīng)用對專業(yè)設(shè)備的要求更高，需通過腦電、手環(huán)、眼動等多種設(shè)備，基于心理、行為和生理測量等方式感知師生的多模態(tài)情感數(shù)據(jù)（王一巖 & 鄭永和, 2024），由于部分地區(qū)數(shù)字基礎(chǔ)設(shè)施落后，人們對情感計算技術(shù)存在認(rèn)知鴻溝，導(dǎo)致情感計算教育應(yīng)用難以普及。即便能夠彌合設(shè)備接入條件差距，情感計算也不僅能夠客觀地識別情感，還會在特定模型框架下“解釋”情感（Frank, 2023）。如果其模型未能充分考慮不同群體情感的多樣性和差異化表達(dá)，就可能導(dǎo)致對部分師生的不公平對待。具言之，情感計算教育應(yīng)用中的情緒識別模型主要包括維度情感模型和離散情感模型。其中，維度情感模型本身包括多種理論體系，而在同一理論體系下，維度的具體構(gòu)成與劃分角度也各不相同。離散情感模型至少存在14種情緒分類方式（吳敏 等, 2018, p.12）。換言之，目前尚不存在能夠準(zhǔn)確反映內(nèi)在情感與面部表情、姿態(tài)等外在情感表達(dá)之間的通用映射關(guān)系。在教育場景中，不同學(xué)校擁有各異的組織架構(gòu)、辦學(xué)風(fēng)格，不同學(xué)科也具有獨特的知識體系、學(xué)科規(guī)律與應(yīng)用場景，教師教學(xué)方式和學(xué)生學(xué)習(xí)方式也不盡相同，導(dǎo)致情緒識別模型難以準(zhǔn)確涵攝，這也是作為情感計算底層依據(jù)的“基本情感理論”備受詬病的主要癥結(jié)。概言之，在情感發(fā)生機理尚未形成共識的情況下，基于情感標(biāo)尺來支配學(xué)生的教育資源獲取、教師的注意力分配等資源配置顯失公平。

第二，情感計算教育應(yīng)用的情感計算化與作為平等的個人而受到平等對待的權(quán)利相對立。作為平等的個人而受到平等對待的權(quán)利的核心在于個人享有平等的關(guān)心和尊重。情感計算教育應(yīng)用將師生的復(fù)雜情感化約為可度量的數(shù)據(jù)，個體情感標(biāo)簽取代了真實情感。情感計算教育應(yīng)用將師生情感視為一種標(biāo)準(zhǔn)數(shù)據(jù)，而不是以個人特有的方式理解和回應(yīng)師生的情感需求。由此，情感計算系統(tǒng)未能充分尊重師生作為獨立個體的情感體驗，將人視為手段性存在。同時，情感計算教育應(yīng)用還將師生主體視為“分體化”存在。吉爾?德勒茲（Deleuze, G.）認(rèn)為，在控制社會中，傳統(tǒng)意義上完整、不可分割的“個體”（individual）已不復(fù)存在，取而代之的是由不同的信息流和數(shù)據(jù)片段構(gòu)成的“分體”（dividual）（吉爾?德勒茲, 2022）。情感計算教育應(yīng)用使得師生個體被分割成一系列情感數(shù)據(jù)點，還原為可以量化和操控的“分體”。技術(shù)權(quán)力不再通過規(guī)訓(xùn)和矯正個體的行為來實施，而是通過對分體化的情感數(shù)據(jù)進(jìn)行持續(xù)監(jiān)控、計算和干預(yù)，將師生從獨立的行動主體轉(zhuǎn)變?yōu)轭A(yù)測和控制的對象。通過對情感狀態(tài)的實時追蹤和數(shù)據(jù)分析，技術(shù)系統(tǒng)將個體原本自主和獨立的情感體驗，分解為可操作和可管理的情感片段，并將其轉(zhuǎn)化為教育過程中可量化的預(yù)測目標(biāo)。師生的情感不再被當(dāng)作教育中的內(nèi)在動力，而是成為外部系統(tǒng)調(diào)整的參數(shù)。教育不再是一個自由表達(dá)和情感互動的過程，而變成了一個數(shù)據(jù)驅(qū)動的、以“優(yōu)化學(xué)習(xí)效果”為目標(biāo)的過程。情感計算教育應(yīng)用由此反向馴化教育場景，規(guī)訓(xùn)學(xué)生和教師的行為選擇，促逼教師和學(xué)生在技術(shù)限定的既定模式關(guān)系中生存與互動，未能使每個主體的內(nèi)心情感獲得平等的關(guān)心與尊重，與教育平等產(chǎn)生割裂。

（三）情感計算教育應(yīng)用與學(xué)習(xí)自由的邏輯齟齬

基于憲法學(xué)視角，受教育權(quán)作為復(fù)合型權(quán)利，兼具自由權(quán)和社會權(quán)的雙重屬性。在自由權(quán)層面，受教育權(quán)表現(xiàn)為一種防衛(wèi)權(quán)利，指的是受教育者基于自由意志通過自由行動來實現(xiàn)受教育權(quán)，而國家處于消極的不作為狀態(tài)，學(xué)習(xí)自由即來源于受教育權(quán)中的教育選擇自由權(quán)。學(xué)習(xí)自由是指公民在接受教育過程中享有依照自我意志進(jìn)行與學(xué)習(xí)活動相關(guān)的自由想象、思考和創(chuàng)造的權(quán)利，具有自行選擇學(xué)習(xí)時間、課程內(nèi)容、地點、方式等權(quán)利，教育權(quán)力和其他權(quán)威性權(quán)力不能無端干涉（陳恩倫, 2003）。學(xué)習(xí)自由是人的自由意志為實現(xiàn)其自由個性而產(chǎn)生的本質(zhì)需求。它在心智發(fā)展過程中體現(xiàn)為個體能夠?qū)ωS富知識進(jìn)行獨立選擇。（曹揚 & 鄒云龍, 2018）學(xué)習(xí)自由的內(nèi)涵包括：其一，基于消極層面，學(xué)習(xí)自由是對不符合教育性強制和權(quán)威的否定與拒絕。伊曼努爾?康德（Kant, I.）認(rèn)為：“自由是獨立于別人的強制意志。”（康德, 2017, p.53）賦予學(xué)生對教育強制和權(quán)威的拒絕權(quán)利，方能使學(xué)生不被規(guī)訓(xùn)為被動改造的物化客體，學(xué)習(xí)活動才有實現(xiàn)基本的自主與獨立的可能。其二，基于積極層面，學(xué)習(xí)自由是對學(xué)習(xí)活動內(nèi)容的自主選擇與創(chuàng)造。自由意志是“有意選擇行為的自由，在于它不受感官沖動或刺激的決定”（康德, 2017, p.13）。“自由的東西就是意志。意志而沒有自由，只是一句空話；同時，自由只有作為意志，作為主體，才是現(xiàn)實的?！保ê诟駹? 2017, p.13）如果學(xué)生所擁有的自由，僅僅體現(xiàn)在對權(quán)威與強制的拒絕，那么這只是消極的、無目的的存在狀態(tài)。要超越這種狀態(tài)，實現(xiàn)真正的自由，學(xué)生必須成為自身利益的最佳判斷者。在此過程中，他們得以自主地確定學(xué)習(xí)目的、深化學(xué)習(xí)興趣，進(jìn)行自我定向、選擇、設(shè)計與創(chuàng)造（金生鈜, 2004），從而最終彰顯其自由意志。

情感計算教育應(yīng)用與學(xué)習(xí)者學(xué)習(xí)自由的沖突體現(xiàn)在如下三方面。

其一，情感計算教育應(yīng)用的即時性導(dǎo)致學(xué)生難以拒絕不符合教育性的強制與權(quán)威。前文已述，情感計算數(shù)據(jù)采集和推演具有隱蔽性，師生難以知曉數(shù)據(jù)處理的具體時刻，而這些隱蔽性實際上進(jìn)一步強化了技術(shù)權(quán)威，使得系統(tǒng)能夠基于既定的教育目標(biāo)隨時介入教學(xué)過程。即便告知同意機制具有實效，也多為事前的一攬子授權(quán)，授權(quán)內(nèi)容往往抽象且覆蓋面廣，學(xué)生在面對情感計算教育應(yīng)用的即時干預(yù)時無法真正行使拒絕權(quán)。此外，情感計算的數(shù)據(jù)處理過程復(fù)雜且不可見，這種過程不僅讓學(xué)生和教師難以理解或監(jiān)督，還可能通過即時性技術(shù)干預(yù)限制學(xué)生在學(xué)習(xí)活動中的反思和選擇空間，進(jìn)而削弱其對教育性強制和權(quán)威的拒絕能力。

其二，情感計算教育應(yīng)用的情感操縱（emotion manipulation）削弱了學(xué)生的學(xué)習(xí)自由。情感操縱是指情感計算教育應(yīng)用通過對個體情感的精準(zhǔn)監(jiān)測、調(diào)節(jié)和刺激，以隱蔽或顯性方式施加影響，引導(dǎo)或控制其行為和決策的過程。這種操縱既可能帶來學(xué)習(xí)效率提升、焦慮情緒疏解等積極效果，也可能會削弱學(xué)生的學(xué)習(xí)自由。具體而言，當(dāng)情感計算教育應(yīng)用基于情感判斷自動篩選學(xué)習(xí)任務(wù)時（如降低難度或提供更多鼓勵性內(nèi)容），學(xué)生可能被局限于技術(shù)設(shè)計者預(yù)設(shè)的路徑中，無法根據(jù)自己的意愿挑戰(zhàn)更復(fù)雜或非傳統(tǒng)的學(xué)習(xí)目標(biāo)。這種路徑依賴會壓縮學(xué)生探索未知領(lǐng)域和創(chuàng)造性的空間。情感操縱可能會通過獎勵與懲罰機制引導(dǎo)學(xué)生的學(xué)習(xí)行為，使學(xué)生將注意力從內(nèi)在的興趣驅(qū)動轉(zhuǎn)移到滿足外部系統(tǒng)期待上。例如，情感計算教育應(yīng)用可能利用正向反饋（如表揚或積分獎勵）強化特定學(xué)習(xí)行為，同時利用負(fù)向反饋（如警告或提醒）抑制系統(tǒng)認(rèn)為的不合適行為。這種情感激勵可能會削弱學(xué)生對學(xué)習(xí)過程的內(nèi)在掌控感和創(chuàng)造性思考能力，使其更傾向于遵循技術(shù)進(jìn)行行動，而非基于自身意志進(jìn)行選擇和創(chuàng)造。

其三，情感計算教育應(yīng)用的彌散式存在阻礙了學(xué)生的自主選擇。前信息化時代，學(xué)校管理者和教師等對學(xué)生情感的掌控只能通過肉眼方式進(jìn)行，無法做到全時段、全對象和全場域的精準(zhǔn)式覆蓋，情感計算技術(shù)特性在回應(yīng)上述困境的同時，也以更為溫和且不易察覺的方式掌控了情感等細(xì)節(jié)信息，從而演變?yōu)橐环N“微分權(quán)力”（米歇爾??？? 2019, p.240）。情感計算教育應(yīng)用通過跟蹤和監(jiān)測學(xué)生的學(xué)習(xí)狀態(tài)，使內(nèi)隱的學(xué)習(xí)過程逐步外顯化（劉金松, 2021）。使用過程中，始終有一雙眼睛在凝視并捕捉著學(xué)生的各種情感，可能導(dǎo)致學(xué)生主動或被動地處于非自然的表演狀態(tài)，努力展現(xiàn)自己“最好的一面”，引發(fā)“霍桑效應(yīng)”（高德勝, 2019）。事實上，教育的核心或關(guān)鍵在于使人成為自由的存在者，教育價值合理性的依據(jù)也在于實現(xiàn)人的解放和自由（李江源 & 蔣映洪, 2009），而人在自由的環(huán)境下才能自由發(fā)展，情感計算教育應(yīng)用形成的“全景敞式”架構(gòu)，可能迫使學(xué)生戴上情感面具，難以按照自主意志自覺地進(jìn)行自我選擇與發(fā)展。

三、

情感計算賦能智慧教育的法治因應(yīng)：傾斜性法律規(guī)制路徑

面對情感計算的賦能功效和侵害風(fēng)險，亟須結(jié)合智慧教育場景的領(lǐng)域特征，基于傾斜性法律規(guī)制理念，運用法律、技術(shù)等多種規(guī)制手段，由此既契合智慧教育現(xiàn)代化的客觀需要，又充分回應(yīng)情感計算教育應(yīng)用的法治困境。

（一）情感計算教育應(yīng)用的傾斜性規(guī)制理念之證成

與其他智慧教育應(yīng)用相比，情感計算教育應(yīng)用因觸及個體內(nèi)心深處的情感而展現(xiàn)出更為強烈的侵入性。與其他場景下的情感計算應(yīng)用相比，教育場景因其場景特殊而使得風(fēng)險更為復(fù)雜且難以控制：一方面，教育場景覆蓋面極其廣泛，不僅涵蓋全員（從學(xué)生到全民），貫穿全程（從學(xué)前教育到終身教育），還涉及全方位（家庭、學(xué)校、社會“三位一體”教育以及虛實融合的教育形態(tài)）。一旦情感計算教育應(yīng)用出現(xiàn)偏差，其負(fù)面影響將快速蔓延并急劇放大。另一方面，教育場景中師生關(guān)系的不平等性將進(jìn)一步加劇情感計算技術(shù)帶來的權(quán)力失衡風(fēng)險。學(xué)生在認(rèn)知能力、經(jīng)濟(jì)實力等方面相對于教師和學(xué)校管理者處于明顯劣勢，受制于權(quán)威式壓迫，師生關(guān)系呈現(xiàn)出形式上平等、實質(zhì)上不對等的格局。在情感計算技術(shù)的加持下，教師和學(xué)校管理者的權(quán)力效應(yīng)將進(jìn)一步被放大和固化，蠶食學(xué)生的議價空間與選擇自由。

為促進(jìn)技術(shù)理性與價值理性的耦合，實現(xiàn)情感計算教育應(yīng)用激勵發(fā)展與合理規(guī)制的相容協(xié)調(diào)，應(yīng)采用傾斜性法律規(guī)制理念回應(yīng)情感計算教育應(yīng)用的法治風(fēng)險，該理念以受教育者權(quán)利的傾斜性保護(hù)為核心，通過設(shè)定“價值差”為權(quán)利配置和制度安排搭建合理性基礎(chǔ)，從而矯正技術(shù)賦能可能帶來的權(quán)力失衡。傾斜性法律規(guī)制理念作為手段是為了實現(xiàn)對受教育者的傾斜性保護(hù)，其根植于“弱勢公平”原則，理論基礎(chǔ)源于約翰?羅爾斯（Rawls, J.）的差別原則，該原則指出，社會和經(jīng)濟(jì)的不平等應(yīng)當(dāng)有利于社會中的處境最差者，只有當(dāng)處境較好者有利于處境最差者的最大利益時，處境較好者才能獲取更多資源（約翰?羅爾斯, 2009, pp.58-63）?；诖耍瑑A斜性保護(hù)強調(diào)依據(jù)教育主體的“強弱身份”進(jìn)行區(qū)別對待，矯正教育主體間的失衡關(guān)系，實現(xiàn)平等，最終邁向?qū)嵸|(zhì)正義。

為實現(xiàn)對受教育者的傾斜性保護(hù)，情感計算教育應(yīng)用的傾斜性規(guī)制基調(diào)應(yīng)包含以下向度：其一，技術(shù)賦能與技術(shù)賦權(quán)并重。情感計算教育應(yīng)用雖能有效賦能教育現(xiàn)代化進(jìn)階，但其片面強調(diào)邏輯和規(guī)律的重要性，將教育主體到教育效果的多重映射關(guān)系等價于單一線性思維，忽視了人的主體性。因此，情感計算教育應(yīng)用應(yīng)當(dāng)強調(diào)技術(shù)賦能與技術(shù)賦權(quán)并重，貫徹《中華人民共和國憲法》（2018年修正）“尊重和保障人權(quán)”的要求，對受教育者賦予傾斜性權(quán)利配置，強化其告知同意權(quán)和拒絕權(quán)。同時，還可以借助區(qū)塊鏈等技術(shù)，共同推進(jìn)情感計算教育應(yīng)用的合規(guī)發(fā)展。其二，從結(jié)果控制轉(zhuǎn)向過程控制。現(xiàn)有的技術(shù)治理框架通常側(cè)重于結(jié)果導(dǎo)向，忽視了技術(shù)生成過程中的價值偏差和潛在風(fēng)險，此種方法難以充分應(yīng)對情感計算教育應(yīng)用中復(fù)雜的數(shù)據(jù)處理和算法決策問題，尤其是在涉及個體權(quán)利和社會正義時，容易導(dǎo)致價值錯位。因此，在傾斜性法律規(guī)制理念的指引下，應(yīng)將治理重心從結(jié)果控制轉(zhuǎn)向過程控制，將法律正義價值嵌入情感計算教育應(yīng)用的全生命周期，實現(xiàn)技術(shù)和法律的“價值對齊”（value alignment）。其三，從場景泛在轉(zhuǎn)向場景控制。情感計算教育應(yīng)用實踐呈現(xiàn)出多點開花的樣態(tài)，場景設(shè)置呈現(xiàn)出一定的無序性與泛在性，未能充分尊重不同教育階段的特殊性，亦未充分考慮不同年齡階段受教育者的心智成熟度。在傾斜性法律規(guī)制理念之下，應(yīng)當(dāng)審慎考量情感計算介入智慧教育的理性限度，有序建構(gòu)情感計算教育應(yīng)用的場景邊界。

（二）情感計算教育應(yīng)用中情感數(shù)據(jù)的雙軌化保障

面向情感計算教育應(yīng)用與隱私權(quán)、個人信息權(quán)益的沖突，應(yīng)基于傾斜性規(guī)制理念，采用法律和技術(shù)雙軌化路徑予以規(guī)制。在法律維度，針對情感數(shù)據(jù)的隱私權(quán)保護(hù)，應(yīng)引入心理損害評估機制，合理界定心理壓力、學(xué)習(xí)效率下降等主觀體驗的損害價值，由此輔助判斷侵權(quán)事實。同時，對于因果關(guān)系難以直接證明的情感隱私侵害可以采用“推定侵權(quán)”，只要能夠證明情感計算教育應(yīng)用與心理壓力等具有較高關(guān)聯(lián)性，即可推定侵權(quán)成立。在情感數(shù)據(jù)的個人信息權(quán)益保護(hù)方面，因情感數(shù)據(jù)具有深度侵入特征，在個人信息未來立法中應(yīng)將其列入敏感個人信息序列，適用加強式保護(hù)。同時，由于情感數(shù)據(jù)生成于個人信息處理，還應(yīng)當(dāng)通過持續(xù)有效的信息披露與建構(gòu)動態(tài)同意制度，強化受教育主體的告知同意權(quán)。具體而言，在現(xiàn)有的一次性告知同意模式下，信息披露只發(fā)生在個人信息收集前，受教育主體對于后續(xù)的個人信息處理過程一無所知。對此，應(yīng)當(dāng)實行持續(xù)的信息披露，使受教育主體可以全程追蹤個人信息的處理，并根據(jù)風(fēng)險變化對同意做出靈活調(diào)整（田野, 2018）。個人信息處理者應(yīng)當(dāng)采用清晰、通俗易懂且明確的語言，對情感計算教育應(yīng)用收集的個人信息內(nèi)容和范圍、處理方式和目的、監(jiān)護(hù)人權(quán)利等內(nèi)容進(jìn)行充分告知，盡量避免使用專業(yè)性術(shù)語。此外，在處理十四周歲以下未成年人個人信息和十四周歲以上未成年人敏感個人信息時，還應(yīng)翔實告知監(jiān)護(hù)人或未成年人處理敏感個人信息的必要性及對個人權(quán)益的影響、潛在風(fēng)險等內(nèi)容?；诔掷m(xù)有效的信息披露，應(yīng)當(dāng)賦予受教育主體動態(tài)化更新同意的權(quán)利。情感計算教育應(yīng)用的動態(tài)同意可采用“同意—退出”機制，具體可細(xì)化為定期退出和擇時退出兩種并行方式?！岸ㄆ谕顺觥睓C制指設(shè)定固定時間區(qū)間，期限屆滿后，原同意自動失效。此時，個人信息處理者必須重新履行信息披露義務(wù)。若未成年人此時已滿足獨立行使同意權(quán)的條件，則可由本人直接做出同意表示。否則，仍需由其父母或監(jiān)護(hù)人代為行使?！皳駮r退出”是動態(tài)同意機制的關(guān)鍵體現(xiàn)，它賦予未成年人及其父母或其他監(jiān)護(hù)人可隨時決定中止對特定類型信息的繼續(xù)處理，或禁止將信息用于特殊用途的權(quán)利。在此基礎(chǔ)上，受教育主體還能隨時調(diào)整和修改其同意范圍，從而實現(xiàn)對個人信息的持續(xù)控制。這一機制有效克服了傳統(tǒng)“一次同意，終身有效”的僵化弊端，且在現(xiàn)有技術(shù)條件下具備充分的可行性（石佳友 & 劉思齊, 2021）。

根據(jù)羅杰?布朗斯沃德（Brownsword, R.）的“法律3.0”理論，面對技術(shù)對法律的沖擊，法律規(guī)則的調(diào)整尤為重要，而技術(shù)本身也可成為解決方案之一（羅杰?布朗斯沃德, 2023, pp.4-5）。例如，區(qū)塊鏈技術(shù)以其獨特的數(shù)據(jù)結(jié)構(gòu)，將數(shù)據(jù)區(qū)塊按時間順序鏈?zhǔn)浇M合，并通過密碼學(xué)手段保障數(shù)據(jù)的不可篡改和不可偽造，這種去中心化、去信任的分布式共享賬本，為情感計算教育應(yīng)用的情感信息安全提供了技術(shù)支持。首先，防止情感信息的泄漏。區(qū)塊鏈技術(shù)的去中心化存儲架構(gòu)能夠?qū)⑶楦杏嬎憬逃龖?yīng)用處理的個人信息轉(zhuǎn)換為哈希值上鏈，傳輸中的加密過程能有效保障個人信息的安全。其次，防止對情感信息的篡改和偽造。在區(qū)塊鏈中篡改某個區(qū)塊的數(shù)據(jù)，不僅需要改變該區(qū)塊及后續(xù)區(qū)塊數(shù)據(jù)，還需在共識機制的特定時間內(nèi)完成。因此，區(qū)塊鏈的不可篡改性提升了情感計算教育應(yīng)用處理個人信息的安全系數(shù)。最后，防止情感信息的丟失。區(qū)塊鏈的分布式存儲架構(gòu)確保每個節(jié)點都保留完整的數(shù)據(jù)備份，即使某個節(jié)點遭到攻擊，其他節(jié)點仍然可以正常運轉(zhuǎn)（王祿生 & 王爽, 2020）。由此，區(qū)塊鏈技術(shù)可以有效保障情感計算教育應(yīng)用運行中的個人信息安全。

（三）情感計算教育應(yīng)用計算正義的場景化校準(zhǔn)

情感計算教育應(yīng)用中數(shù)據(jù)和算法的正義程度直接關(guān)系到應(yīng)用的整體正義性。對此，需要基于傾斜性規(guī)制理念對情感計算教育應(yīng)用的數(shù)據(jù)與算法進(jìn)行全過程的法律規(guī)制，這不僅要求關(guān)注數(shù)據(jù)與算法在整體層面的普遍正義實現(xiàn)，還需結(jié)合具體應(yīng)用場景，確保數(shù)據(jù)與算法能夠體現(xiàn)個體正義。

第一，基于精確目的的數(shù)據(jù)規(guī)制。數(shù)據(jù)是算法運行的基礎(chǔ)與源泉，沒有合適的訓(xùn)練數(shù)據(jù)就無法進(jìn)行有效的數(shù)據(jù)訓(xùn)練，也就無法獲得準(zhǔn)確的情感計算教育應(yīng)用模型。因而，精確的情感計算教育應(yīng)用訓(xùn)練數(shù)據(jù)尤為重要。不同于醫(yī)療、交通等領(lǐng)域，教學(xué)與學(xué)習(xí)是非線性活動，因而教育場景沒有標(biāo)準(zhǔn)化與程式化的流程與模式（楊現(xiàn)民 等, 2016），由此也導(dǎo)致教育場景中的情感數(shù)據(jù)呈現(xiàn)出高度復(fù)雜性與多元性。因此，情感計算教育應(yīng)用模型的人工標(biāo)注規(guī)則和要素選擇應(yīng)建立在研發(fā)專家、法學(xué)專家和教育專家的共同論證之上，遵循教育發(fā)展邏輯，嚴(yán)格篩選算法訓(xùn)練過程所需的數(shù)據(jù)樣本，并通過先驗知識對數(shù)據(jù)樣本進(jìn)行清洗，減少人為價值判斷的滲透性影響。同時，借助特征工程、機器學(xué)習(xí)算法等手段建立數(shù)據(jù)重復(fù)識別匹配規(guī)則和匹配鏈接規(guī)則，并對標(biāo)注樣本庫質(zhì)量進(jìn)行評估，排除歧視性數(shù)據(jù)（孫曉勇, 2021）。同時，還需對情感計算數(shù)據(jù)質(zhì)量進(jìn)行持續(xù)監(jiān)控與定期更新，以充分保障情感計算數(shù)據(jù)的可信度以及與教育規(guī)律的契合度。

第二，基于正義目的的算法規(guī)制。算法是情感計算教育應(yīng)用的核心要素，算法是否具有正義屬性是算法規(guī)制的前提，直接關(guān)涉情感計算教育應(yīng)用的風(fēng)險大小。教育是一種解釋性和理解性行為，教育過程是將緘默知識顯性化、黑箱知識透明化的過程，教育者需要把握和調(diào)控教育對象和教育過程，以實現(xiàn)全局性的風(fēng)險管理與控制（譚維智, 2019）。因而，情感計算教育應(yīng)用需要保證算法的可解釋性。算法可解釋性被視為對抗數(shù)據(jù)個體的主體性和自治性淪陷和喪失的內(nèi)在之善（張欣, 2019）。雖然公開算法模型和源代碼是破解算法黑箱、防范算法歧視的有效方式，但是公開算法無助于企業(yè)保持商業(yè)競爭優(yōu)勢，加之教育主體受認(rèn)知能力所限，也難以準(zhǔn)確理解算法的實際原理，所以公開算法源代碼并無實際意義（張凌寒, 2018）。

對此，可基于解釋水平理論構(gòu)建算法解釋制度。解釋水平理論認(rèn)為個體對社會事件的反應(yīng)取決于個體的心理表征，即個體對目標(biāo)的解釋而不是目標(biāo)本身（Liberman & Trope, 1998）。其中，對于遠(yuǎn)距離事物傾向于采用高水平解釋，關(guān)注事物核心和整體特征；對于近距離事物則應(yīng)采取低水平解釋，關(guān)注事物外圍和具體特征。概言之，低水平解釋關(guān)注事情如何做，高水平解釋更關(guān)注為什么這么做。此外，時間因素對于解釋水平也至關(guān)重要。時間使得結(jié)果的整體吸引力更接近于高水平解釋值。當(dāng)結(jié)果的低水平解釋比高水平解釋更加積極時，結(jié)果在近的未來更具吸引力，呈現(xiàn)“時間貼現(xiàn)”（time discounting）；當(dāng)結(jié)果的高水平解釋更加積極時，結(jié)果在較遠(yuǎn)未來更加積極，顯現(xiàn)“時間增強”（time augmentation）（Trope & Liberman, 2010）。情感計算教育應(yīng)用算法解釋受眾可區(qū)分為技術(shù)專家、公權(quán)力機關(guān)、學(xué)生和教師。其中，對技術(shù)專家解釋是為確保算法的科學(xué)性和有效性，同時也為和第三方評估等制度對接；對公權(quán)力機關(guān)解釋是基于監(jiān)管需要；對學(xué)生解釋是為增加其對技術(shù)的理解和接受度，同時，當(dāng)其了解了情感計算技術(shù)運作方式后，也能主動地參與到技術(shù)使用中；對教師解釋是為提升情感計算教育應(yīng)用的實施效果和教學(xué)準(zhǔn)確性。對此，應(yīng)基于不同的解釋水平保障信息接收的可行能力。首先，由于學(xué)生缺乏技術(shù)理論儲備，無須對算法邏輯進(jìn)行精細(xì)化掌握，因而可采取高水平解釋路徑，用通俗語言展示技術(shù)理路和對學(xué)生的潛在影響。其次，技術(shù)專家、公權(quán)力機關(guān)和教師掌握一定的專業(yè)知識，應(yīng)采取低水平解釋路徑。技術(shù)專家的關(guān)注重心在于算法科學(xué)性和有效性，低水平解釋應(yīng)盡可能精細(xì)刻畫技術(shù)理路；公權(quán)力機關(guān)承擔(dān)監(jiān)管職能，低水平解釋應(yīng)采用翔實的因果解釋；教師掌握一定的教育知識，并且是情感計算教育應(yīng)用的直接適用者，需要了解算法如何運轉(zhuǎn)，進(jìn)而根據(jù)學(xué)生的情感反饋調(diào)整教學(xué)策略，因此，對教師的算法解釋側(cè)重執(zhí)行，低水平解釋的重點在于告知教師數(shù)據(jù)源、置信區(qū)間等細(xì)節(jié)。最后，由于時間因素會影響解釋水平，因此當(dāng)師生受到情感計算教育應(yīng)用影響并提出異議時，其與情感計算教育應(yīng)用的距離由遠(yuǎn)趨近，監(jiān)管部門應(yīng)從高水平解釋轉(zhuǎn)向低水平解釋，不僅應(yīng)以通俗方式闡明技術(shù)脈絡(luò)，還應(yīng)對其進(jìn)行“場景式”解釋，實現(xiàn)“個體化透明”。

（四）情感計算教育應(yīng)用邊界的差異化限定

在教育現(xiàn)代化浪潮的推動下，情感計算教育應(yīng)用場景必將更加多元。教育活動具有個體差異性，并不存在通用的標(biāo)準(zhǔn)化模式。同時，情感計算教育應(yīng)用效果往往具有不確定性，對學(xué)習(xí)自由和教育平等的負(fù)面影響也并非即刻顯現(xiàn)，特別是情感計算教育應(yīng)用使用主體多為未成年人，此種利益侵害更為隱蔽且深遠(yuǎn)。為防止情感計算教育應(yīng)用的反噬效應(yīng)威脅受教育者的主體地位，應(yīng)當(dāng)基于傾斜性法律規(guī)制理念，厘清情感計算教育應(yīng)用的場景邊界。

第一，明確情感計算介入智慧教育的基本限度。情感計算教育應(yīng)用應(yīng)以人本主義作為基本價值，尊重學(xué)生的身心發(fā)展規(guī)律與學(xué)習(xí)認(rèn)知規(guī)律，認(rèn)可學(xué)生的主體中心地位，設(shè)立培養(yǎng)學(xué)生“能夠充分發(fā)揮自身功能”的教育目標(biāo)，把學(xué)生的創(chuàng)造性、求知欲和好奇心作為人本主義培養(yǎng)方式的基本手段（王旦 等, 2021）。情感計算教育應(yīng)用既不能妨礙也不能直接替代受教育主體進(jìn)行自主決定。情感計算教育應(yīng)用應(yīng)基于“輕推”（nudge）的運行理念，以最低干預(yù)方式進(jìn)行，確保提醒和保護(hù)方式不對教學(xué)生活產(chǎn)生過度打擾。同時，為防范情感計算技術(shù)對學(xué)習(xí)自由的潛在限制，還必須保障教育主體享有隨時退出應(yīng)用服務(wù)的權(quán)利。教育主體退出情感計算教育應(yīng)用的這一“退出權(quán)”可溯源至美國學(xué)者賈斯珀?特蘭（Tran, J. L.）提出的“注意力保護(hù)權(quán)”（the right to attention），其核心在于賦予個體對抗算法對其注意力進(jìn)行捕獲和控制的能力（Tran, 2016）。因此，在線情感計算教育應(yīng)用不僅應(yīng)充分尊重受教育者的使用意愿，杜絕強制使用，更需要在操作層面提供顯著且便捷的關(guān)閉選項。一旦用戶選擇退出，服務(wù)提供者必須立即終止所有相關(guān)功能。

第二，情感計算教育應(yīng)用負(fù)面清單的動態(tài)化界定。應(yīng)當(dāng)禁止嚴(yán)重觸碰倫理禁區(qū)和價值底線的情感計算教育應(yīng)用：1）試圖直接操縱、控制他人情緒的情感計算應(yīng)用。例如，情感計算教育應(yīng)用通過實時情感識別技術(shù)，在檢測到學(xué)生注意力下降時，自動觸發(fā)強制性情緒調(diào)節(jié)程序，迫使其保持“積極”情緒狀態(tài)。2）追求不正當(dāng)目的的情感計算應(yīng)用。例如，情感計算教育應(yīng)用通過控制學(xué)生情緒，使授課教師獲得高教學(xué)測評結(jié)果，人為制造課堂高滿意度假象，將情感計算異化為教學(xué)績效的投機工具。3）利用人性弱點的情感計算濫用式應(yīng)用。例如，情感計算教育應(yīng)用通過刻意利用未成年人的年齡脆弱性和情感發(fā)育的不成熟性，借助神經(jīng)反饋機制等成癮性設(shè)計，系統(tǒng)性干預(yù)和扭曲學(xué)生的自然情感體驗（王祿生, 2021）。同時，應(yīng)建立定期審查和動態(tài)更新機制，由專門機構(gòu)根據(jù)技術(shù)進(jìn)步、社會反饋及實際問題及時調(diào)整負(fù)面清單內(nèi)容，確保清單始終貼合時代需求和社會價值。

第三，建立情感計算教育應(yīng)用的審核和責(zé)任追究機制。對情感計算教育應(yīng)用應(yīng)以是否實現(xiàn)傾斜性保護(hù)為基準(zhǔn)，進(jìn)行全面事前評估以決定是否準(zhǔn)許應(yīng)用，并通過定期抽查評估的方式進(jìn)行及時調(diào)整。在構(gòu)建責(zé)任追究制度時，應(yīng)以教育主體權(quán)利受到實質(zhì)性損害為前提，明確研發(fā)、審核、應(yīng)用主體的差異化責(zé)任。對于研發(fā)主體，其責(zé)任承擔(dān)應(yīng)限定在存在故意或重大過失的情況下，以避免過度約束研發(fā)人員的創(chuàng)新空間，從而保障情感計算教育應(yīng)用的長遠(yuǎn)發(fā)展，保持其技術(shù)創(chuàng)新的活力。

四、

結(jié)語

在萬物皆可計算的時代，情感計算在教育領(lǐng)域的應(yīng)用為智慧教育的縱深式發(fā)展注入全新活力，為未來智慧教育的生態(tài)體系建構(gòu)帶來全新機遇。然而，在情感計算技術(shù)特殊性和教育場景特殊性的疊加融合下，情感計算教育應(yīng)用會對隱私權(quán)、個人信息權(quán)益、教育平等和學(xué)習(xí)自由產(chǎn)生沖擊。情感計算應(yīng)用主體、對象及內(nèi)容都以人為中心，與人格尊嚴(yán)密切相關(guān)，情感計算教育應(yīng)用的法律風(fēng)險還會對人格尊嚴(yán)造成不可逆的損害。因此，借助具有強制力的法律途徑以實現(xiàn)對情感計算教育應(yīng)用的規(guī)制就顯得尤為必要。事實上，面向情感計算教育應(yīng)用的法律規(guī)制還存在諸多理論問題和技術(shù)細(xì)節(jié)值得深入研究，例如，情感計算教育應(yīng)用開發(fā)者是否具有領(lǐng)域性的保護(hù)義務(wù)？學(xué)校應(yīng)當(dāng)就情感計算教育應(yīng)用承擔(dān)何種義務(wù)？這些都應(yīng)成為未來研究的努力方向。

注釋：

① 《中華人民共和國個人信息保護(hù)法》第二十八條規(guī)定：敏感個人信息是指一旦泄露或者非法使用，容易導(dǎo)致自然人的人格尊嚴(yán)受到侵害或者人身、財產(chǎn)安全受到危害的個人信息，包括生物識別、宗教信仰、特定身份、醫(yī)療健康、金融賬戶、行蹤軌跡等信息，以及不滿十四周歲未成年人的個人信息。另外需要說明的是，由于信息和數(shù)據(jù)的概念邊界模糊，且當(dāng)前學(xué)界對于兩者之間的異同尚存在較大爭議，我國立法也未對兩者進(jìn)行嚴(yán)格界分，因此本研究將根據(jù)具體語境交叉使用“情感信息”“情感數(shù)據(jù)”等表述，不做內(nèi)涵和外延上的區(qū)分。

② 《中華人民共和國個人信息保護(hù)法》第三十一條規(guī)定：處理不滿十四周歲未成年人個人信息，應(yīng)取得未成年人的父母或其他監(jiān)護(hù)人的同意。而對于十四周歲以上的未成年人個人信息的處理，《中華人民共和國個人信息保護(hù)法》則未予單獨明確。雖然《信息安全技術(shù) 個人信息安全規(guī)范》（GB/T 35273—2020）規(guī)定收集年滿十四周歲未成年人的個人信息前，應(yīng)征得未成年人或其監(jiān)護(hù)人的明示同意，但是《信息安全技術(shù) 個人信息安全規(guī)范》屬于推薦性國家標(biāo)準(zhǔn)，不具備強制執(zhí)行力。因而，情感計算教育應(yīng)用處理十四周歲以上未成年人的個人信息，理論上僅需取得未成年人同意。

參考文獻(xiàn)

曹培杰. （2018）. 智慧教育：人工智能時代的教育變革. 教育研究（8）, 121-128.

曹揚, & 鄒云龍. （2018）. 從學(xué)習(xí)自由到創(chuàng)造自由. 社會科學(xué)戰(zhàn)線（11）, 276-280.

陳恩倫. （2003）. 論學(xué)習(xí)權(quán). 中國教育學(xué)刊（2）, 24-26, 35.

褚婧一. （2023）. 情感計算的信息隱私法律風(fēng)險及其應(yīng)對. 交大法學(xué)（3）, 63-77.

高德勝. （2019）. 表現(xiàn)的學(xué)校與教育的危機. 華東師范大學(xué)學(xué)報（教育科學(xué)版）（6）, 16-26.

黑格爾. （2017）. 法哲學(xué)原理（范揚, & 張企泰 譯）. 商務(wù)印書館.

胡建淼, & 岑劍梅. （2008）. 公共攝像監(jiān)視與公民隱私權(quán)保護(hù). 法學(xué)（6）, 93-102.

姬曉燦, 成積春, & 張雨強. （2020）. 技術(shù)時代精準(zhǔn)教學(xué)探究. 電化教育研究（9）, 102-107.

吉爾?德勒茲. （2022）. 控制社會后記 （戴陸 譯）. 世界美術(shù)（1）, 53-55.

金生鈜. （2004）. 論教育自由. 南京師大學(xué)報（社會科學(xué)版）（6）, 65-70.

康德. （2017）. 法的形而上學(xué)原理——權(quán)利的科學(xué)（沈叔平 譯）. 商務(wù)印書館.

勞凱聲. （2021）. 受教育權(quán)新論. 教育研究（8）, 23-34.

李江源, & 蔣映洪. （2009）. 自由：教育的價值之維. 社會科學(xué)戰(zhàn)線（1）, 210-218.

劉金松. （2021）. 人工智能時代學(xué)生主體性的相關(guān)問題探討. 現(xiàn)代教育技術(shù)（1）, 5-11.

羅杰?布朗斯沃德. （2023）. 法律3.0：規(guī)則、規(guī)制和技術(shù)（毛海棟 譯）. 北京大學(xué)出版社.

羅納德?德沃金. （2008）. 認(rèn)真對待權(quán)利（信春鷹, & 吳玉章 譯）. 上海三聯(lián)書店.

米歇爾??？? （2019）. 規(guī)訓(xùn)與懲罰（修訂譯本）（劉北成, & 楊遠(yuǎn)嬰 譯）. 生活?讀書?新知三聯(lián)書店.

施安. （2018-10-30）. 新東方發(fā)布教育新產(chǎn)品“AI班主任”，人工智能這把雙刃劍，教育公司到底怎么用？ 36氪網(wǎng). https://36kr.com/p/1722934067201

石佳友, & 劉思齊. （2021）. 人臉識別技術(shù)中的個人信息保護(hù)——兼論動態(tài)同意模式的建構(gòu). 財經(jīng)法學(xué)（2）, 60-78.

孫曉勇. （2021）. 司法大數(shù)據(jù)在中國法院的應(yīng)用與前景展望. 中國法學(xué)（4）, 123-144.

孫宇. （2024）. 數(shù)字經(jīng)濟(jì)中情感計算應(yīng)用的消費者權(quán)益保護(hù). 人文雜志（2）, 98-110.

譚維智. （2019）. 人工智能教育應(yīng)用的算法風(fēng)險. 開放教育研究（6）, 20-30.

田野. （2018）. 大數(shù)據(jù)時代知情同意原則的困境與出路——以生物資料庫的個人信息保護(hù)為例. 法制與社會發(fā)展（6）, 111-136.

王旦, 張熙, & 侯浩翔. （2021）. 智能時代的教育倫理風(fēng)險及應(yīng)然向度. 教育研究與實驗（4）, 34-39, 96.

王祿生. （2021）. 情感計算的應(yīng)用困境及其法律規(guī)制. 東方法學(xué)（4）, 49-60.

王祿生, & 王爽. （2020）. 困境溯源與模式創(chuàng)新：基于區(qū)塊鏈的個人信息合作治理研究. 中國行政管理（12）, 56-61.

王一巖, & 鄭永和. （2024）. 教育情感計算的價值、困境與出路. 現(xiàn)代教育技術(shù)（9）, 71-79.

吳敏, 劉振燾, & 陳略峰. （2018）. 情感計算與情感機器人系統(tǒng). 科學(xué)出版社.

消費日報網(wǎng). （2018-6-1）. 蜜棗網(wǎng)展現(xiàn)未來人工智能應(yīng)用場景. 中國日報網(wǎng). http://qiye.chinadaily.com.cn/2018-06/01/content_36314746.htm

新浪教育. （2018-7-19）. 好未來發(fā)布“AI+腦科學(xué)”智慧課堂解決方案WISROOM. 環(huán)球網(wǎng). https://lx.huanqiu.com/article/9CaKrnKaycA

熊文釗, & 吳旸. （2010）. 試論高等教育平等權(quán)的實現(xiàn)機制. 浙江學(xué)刊（1）, 48-52.

楊現(xiàn)民, 唐斯斯, & 李冀紅. （2016）. 發(fā)展教育大數(shù)據(jù)：內(nèi)涵、價值和挑戰(zhàn). 現(xiàn)代遠(yuǎn)程教育研究（1）, 50-61.

楊雪, 姜強, & 趙蔚. （2016）. 大數(shù)據(jù)學(xué)習(xí)分析支持個性化學(xué)習(xí)研究——技術(shù)回歸教育本質(zhì). 現(xiàn)代遠(yuǎn)距離教育（4）, 71-78.

約翰?羅爾斯. （2009）. 正義論（修訂版）（何懷宏, 何包鋼, & 廖申白 譯）. 中國社會科學(xué)出版社.

張凌寒. （2018）. 商業(yè)自動化決策的算法解釋權(quán)研究. 法律科學(xué)（西北政法大學(xué)學(xué)報）（3）, 65-74.

張欣. （2019）. 算法解釋權(quán)與算法治理路徑研究. 中外法學(xué)（6）, 1425-1445.

周漢華. （2021）. 平行還是交叉——個人信息保護(hù)與隱私權(quán)的關(guān)系. 中外法學(xué)（5）, 1167-1187.

Ben-Ze’ev, A. (2000). The subtlety of emotions. The MIT Press.

EDPB-EDPS. (2021, June 18). EDPB-EDPS joint opinion 5/2021 on the proposal for a regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). European Data Protection Board. https://edpb.europa.eu/system/files/2021-06/edpb-edps_joint_opinion_ai_regulation_en.pdf

Frank, P. (2023). Affective computing at work: Rationales for regulating emotion attribution and manipulation. Artificial Intelligence, Labour and Society, 1-5.

Gretchen, G. (2021). The ethics of AI and emotional intelligence: Data sources, applications, and questions for evaluating ethics risk. Partnershiponai. https://www.partnershiponai.org/wp-content/uploads/2020/07/PAI_The-ethics-of-AI-and-emotional-intelligence_073020.pdf

Liberman, N., & Trope, Y. (1998). The role of feasibility and desirability considerations in near and distant future decisions: A test of temporal construal theory. Journal of Personality and Social Psychology, 75(1), 5-18.

Official Journal of the European Union. (2024, June 13). Laying down harmonised rules on artificial intelligence and amending regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act). Official Journal of the European Union. https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=OJ:L_202401689

Picard, R. W. (1997). Affective computing. The MIT Press.

Poria, S., Cambria, E., Bajpai, R., & Hussain, A. (2017). A review of affective computing: From unimodal analysis to multimodal fusion. Information Fusion, 37, 98-125.

Sébastien, K. (2020, September 18). Facing affect recognition. Asia Society. https://asiasociety.org/sites/default/files/inline-files/Affect%20Final.pdf

Tran, J. L. (2016). The right to attention. Indiana Law Journal, 91(3), 1023-1062.

Trope, Y., & Liberman, N. (2010). Construal-level theory of psychological distance. Psychological Review, 117(2), 440-463.

Xue, Y. J. (2019, Mar 26). Camera above the classroom. Sixthstone. https://www.sixthtone.com/news/1003759

Yoo, Y., Boland, R. J., Lyytinen, K., & Majchrzak, A. (2012). Organizing for innovation in the digitized world. Organization Science, 23(5), 1398-1408.

The Legal Risks and Bias-driven Regulatory Framework of Affective Computing Empowering Smart Education

Wang Shuang

Abstract:Affective computing applications in education, characterized by their emotional-driven, highly covert, and deeply recognizable features, exhibit immense potential in fostering personalized learning, precision teaching, and intelligent campus management. However, they also give rise to significant conflicts related to privacy rights, personal information protection, educational equity, and freedom of learning. In response, the central objective should be to prioritize the preferential protection of learners, employing targeted regulatory measures. Specifically, affective privacy should be integrated into privacy protection frameworks through mechanisms such as psychological harm assessments and presumed infringement. The informed consent rights of educational stakeholders should be strengthened through continuous, affective information disclosure and dynamic consent systems. Additionally, blockchain technology should be leveraged for tech-based governance. Data labeling should be optimized for specific purposes, and an algorithmic explanation system should be established based on interpretability theory to enhance contextual transparency of affective computing applications in education. Furthermore, applications that seriously infringe upon ethical boundaries and value thresholds should be prohibited, with educational stakeholders granted the right to opt out. This approach would foster a dynamic balance between fairness, safety, and efficiency in the application of affective computing in education.

Keywords:affective computing; privacy right; personal information; educational equality; freedom of learning

作者簡介

王爽，南京信息工程大學(xué)大數(shù)據(jù)法治研究院研究員，東南大學(xué)未來法治與數(shù)智技術(shù)創(chuàng)新實驗室研究員（南京 210044）。

基金項目

江蘇省2025年度學(xué)位與研究生教育教學(xué)改革課題“面向生成式AI的法學(xué)研究生創(chuàng)新能力雙向提升路徑研究”（課題編號：JGKT25_C037）

責(zé)任編輯：單玲 陳鳳英

期刊簡介

《中國遠(yuǎn)程教育》創(chuàng)刊于1981年，是教育部主管、國家開放大學(xué)主辦的綜合性教育理論學(xué)術(shù)期刊，是中文社會科學(xué)引文索引（CSSCI） 來源期刊、全國中文核心期刊、中國人文社會科學(xué)期刊AMI綜合評價（A刊） 核心期刊、中國科學(xué)評價研究中心（RCCSE） 核心期刊、中國期刊方陣雙效期刊、人大復(fù)印報刊資料重要轉(zhuǎn)載來源期刊，面向國內(nèi)外公開發(fā)行。

本刊關(guān)注重大教育理論與政策，推動科技賦能教育，反映國際學(xué)術(shù)前沿，聚焦本土教育改革，注重學(xué)術(shù)研究規(guī)范，提倡教育原創(chuàng)研究。

地址

北京市海淀區(qū)西四環(huán)中路45號

郵編

電話

010-68182514

電郵

zzs@ouchn.edu.cn

網(wǎng)址

cjde.ouchn.edu.cn

來源｜中國遠(yuǎn)程教育微刊

聲明：轉(zhuǎn)載此文是出于傳遞更多信息之目的。若有來源標(biāo)注錯誤或侵犯了您的合法權(quán)益，請作者持權(quán)屬證明與我們聯(lián)系，我們將及時更正、刪除，謝謝。