2026年2月，安徽省第十四屆人民代表大會第四次會議在合肥召開。來自全省各地、各條戰(zhàn)線的省人大代表齊聚一堂，共商發(fā)展大計。嘉賓商學(xué)創(chuàng)辦人、安徽省第十四屆人大代表吳婷出席會議，并提交了一份極具前瞻性的議案——《關(guān)于制定〈安徽省人工智能產(chǎn)業(yè)發(fā)展條例〉的議案》。

繼去年提出《關(guān)于制定〈安徽省AI應(yīng)用創(chuàng)新發(fā)展條例〉的議案》后，吳婷代表今年提出了一份更系統(tǒng)性的AI產(chǎn)業(yè)發(fā)展“安徽方案”，關(guān)注點從“加速發(fā)展”延伸至“安全發(fā)展”。

隨著AI技術(shù)在就業(yè)替代、隱私泄露、倫理失范等領(lǐng)域的技術(shù)雙刃劍效應(yīng)日益顯現(xiàn)，單純的政策扶持已無法滿足產(chǎn)業(yè)高質(zhì)量發(fā)展的需求。全球各個國家和經(jīng)濟體陸續(xù)推進人工智能相關(guān)立法?！笆逦濉币?guī)劃建議中也提到：加強人工智能治理，完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準則。

2026年將是AI法治化元年。吳婷認為，已躋身全國AI產(chǎn)業(yè)第一方陣的安徽，有責(zé)任也有能力在法律層面率先探路。

吳婷提議安徽省人大常委會盡快啟動立法調(diào)研，通過確立“基于風(fēng)險的分級監(jiān)管機制”、“監(jiān)管沙盒”機制以及“穿透式責(zé)任體系”，在法律層面劃定技術(shù)紅線與倫理底線。她特別呼吁在就業(yè)保障、隱私保護、青少年保護及物理安全四大重點領(lǐng)域?qū)嵤ｍ椧?guī)制，守護“人”面對AI時的絕對優(yōu)先權(quán)，為人工智能產(chǎn)業(yè)行穩(wěn)致遠筑牢法治基石。

在接受《安徽經(jīng)濟報》采訪時，吳婷表示，將持續(xù)跟進條例立法調(diào)研全流程，聯(lián)動高校、科研機構(gòu)、AI企業(yè)與監(jiān)管部門開展專題研討，吸納一線實踐案例與多方意見完善條款設(shè)計，搭建產(chǎn)業(yè)界與立法機關(guān)的溝通橋梁，讓立法內(nèi)容更貼合產(chǎn)業(yè)實際、更具落地可操作性，以法治建言助力安徽打造科技創(chuàng)新策源地與新興產(chǎn)業(yè)聚集地。

以下為議案全文：

關(guān)于制定《安徽省人工智能產(chǎn)業(yè)發(fā)展條例》的議案

安徽省第十四屆人大代表 嘉賓商學(xué)創(chuàng)辦人 吳婷

2026年2月

1、案由

隨著AI在應(yīng)用層面爆發(fā)，技術(shù)的雙刃劍效應(yīng)日益顯現(xiàn)，就業(yè)替代、算法歧視、倫理失范等社會問題已不容忽視。我省擁有中國聲谷及眾多人工智能企業(yè)，已躋身全國AI產(chǎn)業(yè)第一方陣，具備率先立法的產(chǎn)業(yè)基礎(chǔ)，亟待制定《安徽省人工智能產(chǎn)業(yè)發(fā)展條例》，在法律層面劃定技術(shù)紅線與倫理底線，為打造負責(zé)任、可持續(xù)的AI產(chǎn)業(yè)生態(tài)提供制度保障，也在“AI發(fā)展與安全”層面為全國探路。

2、案據(jù)

1. 專業(yè)機構(gòu)研判

多篇權(quán)威報告與論文表明，人工智能推動產(chǎn)業(yè)變革的同時，其衍生風(fēng)險已從理論探討轉(zhuǎn)變?yōu)楝F(xiàn)實沖擊，主要集中在就業(yè)、安全與認知等層面：

就業(yè)替代風(fēng)險：國際貨幣基金組織2024年發(fā)布的《Gen-AI：人工智能和工作的未來》指出，全球近40%的就業(yè)都受到AI影響，AI將擴大收入和財富的不平等；對于所有經(jīng)濟體來說，社會安全網(wǎng)和對易受AI影響的工人進行再培訓(xùn)對于確保包容性至關(guān)重要。

安全、隱私與欺詐風(fēng)險：人工智能安全事件數(shù)據(jù)庫（AI Incident Database）記錄了全球AI倫理濫用案例，例如自動駕駛汽車導(dǎo)致行人死亡、人臉識別系統(tǒng)導(dǎo)致錯誤逮捕等，2023年記錄事故168起，2024年281起，2025年362起。麻省理工學(xué)院對該數(shù)據(jù)庫原始報告進行分類，指出其中利用AI進行欺詐和傳播虛假信息的事件數(shù)量，自2022年以來增長了8倍。另一份由Veriff發(fā)布的《2026年身份欺詐報告》指出，與2024年相比，AI生成或修改的數(shù)字媒體帶來的身份欺詐增長了300%。

認知與教育風(fēng)險：倫敦政經(jīng)學(xué)院Michael Gerlich教授等人發(fā)表的論文《AI工具在社會中的應(yīng)用：對認知卸載的影響及批判性思維的未來》指出，頻繁使用AI工具會帶來回音室效應(yīng)（算法偏見減少用戶接觸不同觀點的機會）和認知卸載（將信息檢索與決策交給外部系統(tǒng)），因而與批判性思維能力的下降有顯著關(guān)聯(lián)。麻省理工學(xué)院媒體實驗室（MIT Media Lab）發(fā)表的《ChatGPT對大腦的影響：使用AI助手完成論文寫作任務(wù)時認知債務(wù)的積累》指出：相比于使用大腦進行獨立寫作、使用搜索引擎輔助寫作，使用大語言模型參與寫作表現(xiàn)出最弱的大腦連接，表明認知能力參與不足，引發(fā)人們對長期依賴大語言模型可能帶來的教育影響的擔憂。

2. 全球立法趨勢

全球主要經(jīng)濟體陸續(xù)進入AI立法的深水區(qū)，其“分級監(jiān)管”“鼓勵創(chuàng)新”“保護弱者”等立法思路與框架，為我省提供了借鑒參考：

歐盟于2024年正式通過《人工智能法案》，是全球首部綜合性AI法律。其核心邏輯在于對不同AI系統(tǒng)實施分級監(jiān)管，按照不可接受的風(fēng)險（例如用于操縱人類行為、遠程生物識別、社會評分等）、高風(fēng)險（用于醫(yī)療、教育、招聘、關(guān)鍵基礎(chǔ)設(shè)施管理、執(zhí)法與司法等）、有限風(fēng)險（例如用于生成或修改圖像、聲音、視頻等）、低風(fēng)險（例如用于視頻游戲、垃圾郵件過濾等），進行精準治理，避免一刀切。

韓國于2024年12月通過《人工智能基本法》，于2026年1月正式實施，強調(diào)國家在支持AI產(chǎn)業(yè)的同時，也應(yīng)防范可能產(chǎn)生危害的高風(fēng)險AI應(yīng)用。

日本于2025年5月通過《人工智能相關(guān)技術(shù)研究開發(fā)及應(yīng)用推進法》，旨在促進AI相關(guān)技術(shù)研發(fā)和應(yīng)用并防止其濫用。為避免過度監(jiān)管，法案未設(shè)懲罰性條款，如果使用AI技術(shù)損害國民權(quán)利，將公布涉事企業(yè)名單作為威懾。

澳大利亞于2024年底通過《網(wǎng)絡(luò)安全修正案》，并于2025年底正式生效，禁止未滿16歲的青少年使用社交媒體。這一嚴格舉措反映出國際社會對于算法推薦機制（如無限信息流、成癮性設(shè)計）侵害未成年人身心健康的極度警惕。

美國科羅拉多州于2024年通過《人工智能法案》，是美國首個州級AI監(jiān)管法案，旨在避免“高風(fēng)險人工智能系統(tǒng)”內(nèi)的算法歧視，對教育、就業(yè)、金融、政府基本服務(wù)、醫(yī)療等領(lǐng)域的重大決策產(chǎn)生不良影響。

3. 國內(nèi)法律基礎(chǔ)

制定AI相關(guān)條例不僅符合國家統(tǒng)籌發(fā)展與安全的戰(zhàn)略導(dǎo)向，而且在地方上已有先行探索，具備立法依據(jù)與實踐基礎(chǔ)：

中央層面：國家網(wǎng)信辦等七部門已于2023年施行《生成式人工智能服務(wù)管理暫行辦法》，明確“發(fā)展和安全并重、促進創(chuàng)新和依法治理相結(jié)合”的原則，并提出“包容審慎和分類分級監(jiān)管”的要求，具體方向包括：堅持社會主義核心價值觀、防止算法歧視、尊重知識產(chǎn)權(quán)、尊重隱私權(quán)和個人信息權(quán)益、提升透明度、防范未成年人過度依賴或沉迷等。

地方層面：上海市于2022年發(fā)布了《上海市促進人工智能產(chǎn)業(yè)發(fā)展條例》，提出“探索分級治理和沙盒監(jiān)管”：“對高風(fēng)險的人工智能產(chǎn)品和服務(wù)實行清單式管理，遵循必要、正當、可控等原則進行合規(guī)審查，對中低風(fēng)險的人工智能產(chǎn)品和服務(wù)采用事前披露和事后控制的治理模式，促進先行先試”。深圳市于2022年發(fā)布了《深圳經(jīng)濟特區(qū)人工智能產(chǎn)業(yè)促進條例》，提出“實施分級、分類差異化監(jiān)管”：“高風(fēng)險的人工智能應(yīng)用應(yīng)當采用事前評估和風(fēng)險預(yù)警的監(jiān)管模式，中低風(fēng)險的人工智能應(yīng)用應(yīng)當采用事前披露和事后跟蹤的監(jiān)管模式”。2026年1月，北京市召開十六屆人大四次會議，人大常委會工作報告中提及，擬制定人工智能產(chǎn)業(yè)發(fā)展條例。

安徽現(xiàn)狀：我省雖有相關(guān)政策文件，但多為產(chǎn)業(yè)規(guī)劃或部門規(guī)章，如《安徽省通用人工智能創(chuàng)新發(fā)展三年行動計劃（2023—2025年）》《打造通用人工智能產(chǎn)業(yè)創(chuàng)新和應(yīng)用高地若干政策》，缺乏一部統(tǒng)領(lǐng)全局的地方性法規(guī)。

3、方案

綜上所述，建議省人大常委會盡快啟動《安徽省人工智能產(chǎn)業(yè)發(fā)展條例》立法調(diào)研，按照“鼓勵創(chuàng)新與底線管控并行”的原則，從以下兩個層級構(gòu)建具有安徽特色的AI治理方案：

1. 頂層設(shè)計：構(gòu)建“分級治理、敏捷響應(yīng)”的立法框架。

(1) 確立基于風(fēng)險的分級監(jiān)管機制，依據(jù)AI系統(tǒng)對社會安全、人身健康及權(quán)利的影響程度，設(shè)立風(fēng)險金字塔：

不可接受的風(fēng)險類（禁止）：對利用AI進行社會信用評分、無差別生物特征識別、潛意識操縱等侵犯基本人權(quán)的應(yīng)用，依法實行嚴格禁止。

高風(fēng)險類（強監(jiān)管）：將醫(yī)療輔助診斷、關(guān)鍵基礎(chǔ)設(shè)施控制、人力資源篩選算法、司法輔助決策等列為高風(fēng)險領(lǐng)域。對此類AI實行“事前合規(guī)評估+事中算法備案+事后可解釋性審計”的全流程監(jiān)管。

通用/低風(fēng)險類（備案/事后控制）：對聊天機器人、圖像生成等通用類應(yīng)用，重點落實“生成內(nèi)容標識”義務(wù)；對推薦系統(tǒng)、智能客服等低風(fēng)險應(yīng)用，主要依靠行業(yè)自律與事后追責(zé)，最大限度釋放產(chǎn)業(yè)活力。

(2) 設(shè)立監(jiān)管沙盒與容錯糾錯機制，建議在合肥綜合性國家科學(xué)中心等區(qū)域設(shè)立“AI立法試驗區(qū)”，解決法律滯后于技術(shù)的矛盾：

監(jiān)管沙盒：允許企業(yè)在受控環(huán)境中測試創(chuàng)新型AI產(chǎn)品（如L4級自動駕駛、生成式醫(yī)療建議），在測試期內(nèi)適當放寬行政處罰標準，優(yōu)先采用約談、警示等柔性執(zhí)法手段。

盡職免責(zé)：明確科研機構(gòu)與企業(yè)若已履行法定安全評估與風(fēng)險提示義務(wù)，但仍發(fā)生不可預(yù)見的技術(shù)意外時，可依法減輕或免除相關(guān)法律責(zé)任，鼓勵大膽探索。

(3) 明確產(chǎn)業(yè)鏈主體的穿透式責(zé)任體系，依循技術(shù)鏈條劃分責(zé)任：

開發(fā)者責(zé)任：基礎(chǔ)大模型提供商必須保證訓(xùn)練數(shù)據(jù)的合法性及算法的無歧視性。

服務(wù)者責(zé)任：API接口調(diào)用方與應(yīng)用開發(fā)商需承擔用戶實名認證、違法內(nèi)容過濾及向用戶如實披露“AI生成內(nèi)容”的義務(wù)。

使用者責(zé)任：明確利用AI生成違法信息或進行侵權(quán)行為的最終用戶責(zé)任。

2. 專項防控：在四大重點領(lǐng)域?qū)嵤ｍ棸踩?guī)制。

在上述框架下，針對當前社會反響最強烈、風(fēng)險最集中的四個具體方向，制定細化的監(jiān)管條款：

(1) 就業(yè)與勞動權(quán)益保障（應(yīng)對“機器換人”沖擊）

建立“AI結(jié)構(gòu)性失業(yè)”監(jiān)測預(yù)警機制：建議由省人社廳牽頭，定期發(fā)布受AI（含具身智能）替代影響較大的職業(yè)清單（如翻譯、客服、餐廳店員、倉儲物流人員），并建立財政保障機制，對高風(fēng)險崗位從業(yè)者提供人機協(xié)作技能培訓(xùn)補貼。

確立“關(guān)鍵環(huán)節(jié)人為主導(dǎo)”原則：立法規(guī)定在招聘錄用、績效考核、解聘辭退等涉及勞動者核心權(quán)益的環(huán)節(jié)，不得僅依據(jù)算法分析結(jié)果直接作出決定，必須保留人工復(fù)核程序，并賦予勞動者對算法決策的申訴權(quán)。

(2) 隱私保護與數(shù)據(jù)主權(quán)（應(yīng)對“透明人”風(fēng)險）

強制實施“AI數(shù)字水印”制度：規(guī)定凡在省內(nèi)提供生成式AI服務(wù)（生成文本、圖片、音視頻），必須強制植入不可消除的顯性或隱性水?。晃刺砑铀?dǎo)致謠言傳播或詐騙的，平臺需承擔連帶責(zé)任。

生物特征“最小化采集”紅線：嚴禁公共場所、商業(yè)App在非安防必要場景下，利用AI無差別采集人臉、步態(tài)、聲紋等生物特征，確需采集的數(shù)據(jù)必須遵循“單獨同意”原則，并禁止將生物數(shù)據(jù)用于算法歧視（如“大數(shù)據(jù)殺熟”）。

反“深度偽造”特別條款：任何組織和個人利用AI技術(shù)合成他人圖像、聲音的，必須取得本人書面授權(quán)；禁止制作、傳播未經(jīng)標識的虛假新聞信息。

(3) 青少年算法保護（應(yīng)對“數(shù)字沉迷”與“認知誘導(dǎo)”）

推行“去算法化”的青少年模式：立法要求面向未成年人的社交媒體、短視頻平臺，在青少年模式下必須強制關(guān)閉個性化推薦算法。僅允許按時間順序或人工精選展示科普、藝術(shù)等內(nèi)容，從算法源頭上斬斷誘導(dǎo)沉迷的鏈條。

建立“虛擬伴侶”倫理規(guī)范：嚴禁向未成年人提供具有“過度情感誘導(dǎo)”“自殺自殘暗示”或“不良價值觀輸出”的AI聊天伴侶服務(wù)，相關(guān)產(chǎn)品上線前必須進行未成年人心理健康倫理審查。

實施分時段限制：每日22:00至次日6:00，限制未成年人社交賬號提供除緊急聯(lián)絡(luò)、輔助學(xué)習(xí)外的服務(wù)。

(4) 具身智能與物理安全（應(yīng)對“機器人失控”）

強制安裝“物理急停開關(guān)”：針對進入家庭、醫(yī)院、工廠的服務(wù)型人形機器人及具備物理行動能力的AI設(shè)備，立法要求必須在機身顯著位置設(shè)置獨立的、物理斷電的急停裝置，確保在算法失控或緊急情況下，人類擁有絕對的一鍵終止權(quán)。

建立“倫理黑匣子”溯源制度：高風(fēng)險機器人必須內(nèi)置不可篡改的數(shù)據(jù)記錄儀，記錄決策邏輯、傳感器數(shù)據(jù)與運行狀態(tài)。一旦發(fā)生傷人事故，確保責(zé)任可追溯、可定性。

期待通過本條例的制定，為我省人工智能產(chǎn)業(yè)行穩(wěn)致遠筑牢法治基石，讓安徽在全國率先建成負責(zé)任、有溫度的人工智能產(chǎn)業(yè)發(fā)展示范區(qū)。