----技術(shù)從試驗(yàn)場走向城市街道與公眾生活，風(fēng)險與規(guī)則一起長出來

引言

2025年的AI爭議，不再只是“技術(shù)圈的話題”，而是真實(shí)世界的安全、權(quán)利與信任：自動駕駛在城市路網(wǎng)里反復(fù)“試錯”，生成式AI與版權(quán)的邊界被法庭一條條刻劃，面部識別在便利與侵犯之間拉扯，算法偏見則把舊的不平等“數(shù)字化再生產(chǎn)”。本文以安全—版權(quán)—隱私—公平四條線索，梳理今年最具代表性的事件與判例，并給出可執(zhí)行的治理與自保清單。

一、自動駕駛：安全事件與監(jiān)管回路

• 軟件召回與安全缺陷：5月，美國NHTSA公告Waymo召回約1,200臺無人車，起因是軟件在低速場景下可能撞上鏈條、閘門等路障。Waymo已通過OTA在2024年末完成修復(fù)并備案。
• 事故調(diào)查與合規(guī)風(fēng)暴GM Cruise因2023年行人拖拽事故后，對監(jiān)管提交了不完整/誤導(dǎo)的材料，2024年與檢方達(dá)成和解，承認(rèn)提交虛假報告并繳納罰金。
• “補(bǔ)救是否足夠”的復(fù)查特斯拉2023年底對Autopilot進(jìn)行大規(guī)模召回升級，但NHTSA在2024年再次啟動召回補(bǔ)救有效性評估，理由是升級可能不足以防止可預(yù)見的誤用
• 試點(diǎn)機(jī)器人出租車的早期問題：2025年6月，特斯拉在奧斯汀的Robotaxi測試被媒體與網(wǎng)友拍到壓線、誤入車道、與警車交互異常等問題，當(dāng)?shù)嘏c聯(lián)邦監(jiān)管機(jī)構(gòu)表示將持續(xù)關(guān)注。

要點(diǎn)：自動駕駛的商業(yè)敘事必須被可驗(yàn)證的安全證據(jù)與透明的缺陷處理對齊，否則就會在“城市即試驗(yàn)場”的壓力下，被召回、停運(yùn)與訴訟反復(fù)拉回現(xiàn)實(shí)。

二、生成式AI×版權(quán)：幾道關(guān)鍵“分水嶺”

• 訓(xùn)練數(shù)據(jù)的合法性Thomson Reuters v. ROSS一案中，法院認(rèn)定為訓(xùn)練法律檢索AI而**復(fù)制Westlaw摘要（headnotes）**構(gòu)成侵權(quán)，這被視作AI訓(xùn)練版權(quán)責(zé)任的早期標(biāo)桿之一。
• “轉(zhuǎn)化性使用”與“盜版來源”Bartz v. Anthropic中，法官一方面肯定大規(guī)模閱讀作品進(jìn)行模型訓(xùn)練具有高度轉(zhuǎn)化性，另一方面指出從影子圖書館獲取的盜版內(nèi)容仍可能構(gòu)成侵權(quán)；8月此案以和解收束。
• 印度首例媒體訴訟：印度新聞社ANI起訴OpenAI，指控其在訓(xùn)練與輸出中侵犯版權(quán)并造成名譽(yù)受損，顯示新興市場也在形成司法樣本。
• 中國的獨(dú)創(chuàng)性門檻：2025年多起判決明確：**AI生成圖像在具備“作者智力投入+個性化表達(dá)”**時可獲著作權(quán)保護(hù)。

要點(diǎn)：**“來源合法+過程合規(guī)+結(jié)果可溯”**正成為全球共識；訓(xùn)練集的來源審計與存證，將直接決定風(fēng)控成本。

三、面部識別：隱私邊界與治理實(shí)踐

• 濫用的代價：美國多地警方僅憑人臉比對線索抓捕引發(fā)冤錯；到2025年，至少8起被媒體確認(rèn)的錯捕案例進(jìn)入公眾視野。
• 中國監(jiān)管收緊《人臉識別技術(shù)應(yīng)用安全管理辦法》自2025年6月1日施行，明確適用范圍、處理規(guī)則與備案要求；網(wǎng)信辦隨后發(fā)布應(yīng)用備案通知，10萬人臉信息即觸發(fā)備案門檻。
• 地方治理樣本：上海開展專項整治，提出**“公共場所不刷臉為原則、刷臉為例外”**的目標(biāo)，數(shù)千家酒店、商場、體育與衛(wèi)生場所完成自查整改。

要點(diǎn)：“默認(rèn)不采集、必要才采集”正在制度化；平臺與場館需要等價替代方案（身份證/二維碼），并對采集目的、期限與安全措施可被審計。

四、算法偏見：從招錄到司法的“數(shù)字化放大”

• 招聘：亞馬遜2018年內(nèi)部測試的簡歷篩選模型因?qū)ε韵到y(tǒng)性不利而被終止，成為行業(yè)早期警示案例。
• 司法：對美國COMPAS量刑輔助系統(tǒng)的分析顯示，對未再犯的黑人被告“高風(fēng)險”誤判概率約為白人的兩倍，引發(fā)廣泛爭論并催生“可解釋、公平”評估規(guī)范。

要點(diǎn)：偏見既來自歷史數(shù)據(jù)的失衡，也來自指標(biāo)選擇與閾值設(shè)定；“只看準(zhǔn)確率”不足以證明公平。

五、規(guī)則在成形：全球與中國的“紅線/底線”

• 歐盟《AI法案》：對高風(fēng)險系統(tǒng)設(shè)定強(qiáng)制合規(guī)與最高7%全球營收或3,500萬歐的罰款上限，確立“風(fēng)險分級+強(qiáng)制審計”的監(jiān)管框架。懷特凱斯律師事務(wù)所歐盟人工智能法案
• 中國治理組合拳：在既有網(wǎng)安法/數(shù)安法/個保法框架下，通過人臉識別辦法、視頻圖像條例等專項規(guī)則補(bǔ)位，強(qiáng)調(diào)目的限定、最小必要、單獨(dú)同意、嚴(yán)格保護(hù)

六、如何“把風(fēng)險關(guān)進(jìn)流程”：三張簡表

1）技術(shù)側(cè)·最小合規(guī)工單

• 訓(xùn)練/推理數(shù)據(jù)臺賬：來源、授權(quán)、保留周期、刪除路徑。
• 偏見掃描：按人群切分Accuracy/TPR/FPR，觸發(fā)>15%差異即停訓(xùn)復(fù)查。
• 在線守門：高風(fēng)險場景（駕駛/醫(yī)療/金融）啟用人類在環(huán)與回滾開關(guān)。

2）法務(wù)側(cè)·四到位

• 訓(xùn)練來源證明（采購/授權(quán)/公開許可）到位；
• 模糊用途描述改為場景白名單
• 對外披露“模型能力邊界與已知局限”；
• 應(yīng)急機(jī)制（召回、停用、告警）與責(zé)任分?jǐn)?/strong>寫入合同。

3）個人與機(jī)構(gòu)·自保要點(diǎn)

• 不被強(qiáng)制刷臉：索要非生物識別替代方案；保留文字/影像證據(jù)，可向網(wǎng)信部門投訴。政府網(wǎng)站
• 內(nèi)容創(chuàng)作者：保存創(chuàng)作過程證據(jù)（Prompt、版本稿、時間戳）；投放平臺簽訂訓(xùn)練排除/限制條款
• 企業(yè)用戶：在采購AI前做影響評估（AIA）與數(shù)據(jù)保護(hù)影響評估（DPIA），高風(fēng)險業(yè)務(wù)引入第三方審計。

結(jié)語

技術(shù)在狂奔，倫理并非拉后腿，而是讓技術(shù)活得更久的骨架。回望今年幾起關(guān)鍵事件：召回與停運(yùn)在告訴我們“安全是一號位”；法庭在教我們“從哪來、怎么用才算干凈”；治理在強(qiáng)調(diào)“默認(rèn)克制”。當(dāng)規(guī)則與能力一起生長，AI才有資格成為基礎(chǔ)設(shè)施，而不只是一次又一次的“試驗(yàn)”。