近日，工信部等十部門聯(lián)合印發(fā)《人工智能科技倫理審查與服務(wù)辦法（試行）》（以下簡稱《辦法》），明確了AI科技倫理審查的適用范圍、實施主體、審查程序、監(jiān)督管理等核心內(nèi)容，同時從標(biāo)準(zhǔn)建設(shè)、服務(wù)體系、鼓勵創(chuàng)新、人才培養(yǎng)等五個方面制定支持舉措，為企業(yè)AI倫理風(fēng)險防控提供了清晰的制度指引。《辦法》的出臺，標(biāo)志著我國AI倫理治理進(jìn)入制度化、規(guī)范化的新階段。

近年來，以大模型、生成式AI為代表的人工智能技術(shù)快速發(fā)展，深度融入經(jīng)濟(jì)社會各個領(lǐng)域，催生了新業(yè)態(tài)、新模式，為經(jīng)濟(jì)社會發(fā)展注入了新動能。與此同時，AI技術(shù)發(fā)展也帶來了隱私泄露、算法歧視、深度偽造、責(zé)任界定模糊等一系列倫理風(fēng)險，對個人權(quán)益、公共安全造成了潛在影響。全球范圍內(nèi)，AI治理已成為普遍共識，歐盟、美國等多個國家和地區(qū)均已出臺相關(guān)監(jiān)管規(guī)則，推動AI技術(shù)規(guī)范發(fā)展。

本次發(fā)布的《辦法》，立足我國AI產(chǎn)業(yè)發(fā)展實際，構(gòu)建了系統(tǒng)完善的AI倫理治理體系，核心亮點突出。其一，實現(xiàn)了全生命周期全鏈條覆蓋，適用范圍覆蓋AI科學(xué)研究、技術(shù)開發(fā)、產(chǎn)品應(yīng)用的全流程，適用主體包括企業(yè)、高校、科研機(jī)構(gòu)等各類市場主體，形成了全流程的倫理風(fēng)險管控體系。其二，建立了分級分類審查機(jī)制，遵循“風(fēng)險越高，審查越嚴(yán)”的原則，針對低風(fēng)險、中風(fēng)險、高風(fēng)險、緊急風(fēng)險四類場景，分別設(shè)置對應(yīng)的審查程序，既實現(xiàn)了對高風(fēng)險場景的嚴(yán)格管控，也避免了“一刀切”監(jiān)管對行業(yè)創(chuàng)新的影響。其三，明確了高風(fēng)險領(lǐng)域管控紅線，針對人機(jī)融合系統(tǒng)研發(fā)、具備輿論社會動員能力的算法研發(fā)、涉及人身安全的高自主決策系統(tǒng)研發(fā)三類高風(fēng)險AI活動，設(shè)置雙重把關(guān)機(jī)制，明確審查不通過的項目不得立項、不得融資、不得上線，從源頭防范重大倫理風(fēng)險。其四，堅持規(guī)范與支持并重，在明確監(jiān)管要求的同時，出臺多項配套支持舉措，明確中小企業(yè)可通過委托公共服務(wù)機(jī)構(gòu)完成倫理審查，大幅降低企業(yè)合規(guī)成本，兼顧了行業(yè)安全與創(chuàng)新發(fā)展。

同時也應(yīng)理性認(rèn)識到，《辦法》的出臺是AI倫理治理制度化的重要起點，其落地執(zhí)行仍面臨多重現(xiàn)實挑戰(zhàn)。首先，AI技術(shù)迭代速度快，AGI、具身智能等新技術(shù)、新場景持續(xù)涌現(xiàn)，倫理風(fēng)險的形態(tài)與特征也在不斷變化，需要監(jiān)管制度持續(xù)動態(tài)適配，跟上技術(shù)發(fā)展的步伐。其次，倫理審查落地實操存在難度，AI倫理風(fēng)險具備隱蔽性、復(fù)雜性，算法黑箱導(dǎo)致部分潛在風(fēng)險難以提前識別與量化評估，同時不同行業(yè)、不同場景的AI應(yīng)用，倫理風(fēng)險類型與等級差異較大，對審查的精準(zhǔn)化、差異化提出了較高要求。此外，大量中小AI企業(yè)的合規(guī)能力仍有短板，需要配套支持舉措持續(xù)落地，幫助企業(yè)建立完善的合規(guī)體系，推動《辦法》實現(xiàn)全行業(yè)覆蓋。

總體而言，《辦法》的出臺，為我國AI產(chǎn)業(yè)發(fā)展劃定了清晰的倫理邊界，也為全球AI治理提供了中國方案。后續(xù)通過監(jiān)管部門、企業(yè)、科研機(jī)構(gòu)、行業(yè)協(xié)會等多方協(xié)同發(fā)力，推動《辦法》落地執(zhí)行，持續(xù)完善AI倫理治理體系，才能在創(chuàng)新與規(guī)范之間找到平衡，推動人工智能技術(shù)向善發(fā)展，更好地服務(wù)于經(jīng)濟(jì)社會高質(zhì)量發(fā)展。