----技術(shù)從試驗(yàn)場(chǎng)走向城市街道與公眾生活，風(fēng)險(xiǎn)與規(guī)則一起長(zhǎng)出來(lái)

引言

2025年的AI爭(zhēng)議，不再只是“技術(shù)圈的話題”，而是真實(shí)世界的安全、權(quán)利與信任：自動(dòng)駕駛在城市路網(wǎng)里反復(fù)“試錯(cuò)”，生成式AI與版權(quán)的邊界被法庭一條條刻劃，面部識(shí)別在便利與侵犯之間拉扯，算法偏見(jiàn)則把舊的不平等“數(shù)字化再生產(chǎn)”。本文以安全—版權(quán)—隱私—公平四條線索，梳理今年最具代表性的事件與判例，并給出可執(zhí)行的治理與自保清單。

一、自動(dòng)駕駛：安全事件與監(jiān)管回路

安全與風(fēng)險(xiǎn)

• 軟件召回與安全缺陷：5月，美國(guó)NHTSA公告Waymo召回約1,200臺(tái)無(wú)人車，起因是軟件在低速場(chǎng)景下可能撞上鏈條、閘門等路障。Waymo已通過(guò)OTA在2024年末完成修復(fù)并備案。
• 事故調(diào)查與合規(guī)風(fēng)暴GM Cruise因2023年行人拖拽事故后，對(duì)監(jiān)管提交了不完整/誤導(dǎo)的材料，2024年與檢方達(dá)成和解，承認(rèn)提交虛假報(bào)告并繳納罰金。
• “補(bǔ)救是否足夠”的復(fù)查特斯拉2023年底對(duì)Autopilot進(jìn)行大規(guī)模召回升級(jí)，但NHTSA在2024年再次啟動(dòng)召回補(bǔ)救有效性評(píng)估，理由是升級(jí)可能不足以防止可預(yù)見(jiàn)的誤用
• 試點(diǎn)機(jī)器人出租車的早期問(wèn)題：2025年6月，特斯拉在奧斯汀的Robotaxi測(cè)試被媒體與網(wǎng)友拍到壓線、誤入車道、與警車交互異常等問(wèn)題，當(dāng)?shù)嘏c聯(lián)邦監(jiān)管機(jī)構(gòu)表示將持續(xù)關(guān)注。

要點(diǎn)：自動(dòng)駕駛的商業(yè)敘事必須被可驗(yàn)證的安全證據(jù)與透明的缺陷處理對(duì)齊，否則就會(huì)在“城市即試驗(yàn)場(chǎng)”的壓力下，被召回、停運(yùn)與訴訟反復(fù)拉回現(xiàn)實(shí)。

二、生成式AI×版權(quán)：幾道關(guān)鍵“分水嶺”

• 訓(xùn)練數(shù)據(jù)的合法性Thomson Reuters v. ROSS一案中，法院認(rèn)定為訓(xùn)練法律檢索AI而**復(fù)制Westlaw摘要（headnotes）**構(gòu)成侵權(quán)，這被視作AI訓(xùn)練版權(quán)責(zé)任的早期標(biāo)桿之一。
• “轉(zhuǎn)化性使用”與“盜版來(lái)源”Bartz v. Anthropic中，法官一方面肯定大規(guī)模閱讀作品進(jìn)行模型訓(xùn)練具有高度轉(zhuǎn)化性，另一方面指出從影子圖書(shū)館獲取的盜版內(nèi)容仍可能構(gòu)成侵權(quán)；8月此案以和解收束。
• 印度首例媒體訴訟：印度新聞社ANI起訴OpenAI，指控其在訓(xùn)練與輸出中侵犯版權(quán)并造成名譽(yù)受損，顯示新興市場(chǎng)也在形成司法樣本。
• 中國(guó)的獨(dú)創(chuàng)性門檻：2025年多起判決明確：**AI生成圖像在具備“作者智力投入+個(gè)性化表達(dá)”**時(shí)可獲著作權(quán)保護(hù)。

要點(diǎn)：**“來(lái)源合法+過(guò)程合規(guī)+結(jié)果可溯”**正成為全球共識(shí)；訓(xùn)練集的來(lái)源審計(jì)與存證，將直接決定風(fēng)控成本。

三、面部識(shí)別：隱私邊界與治理實(shí)踐

• 濫用的代價(jià)：美國(guó)多地警方僅憑人臉比對(duì)線索抓捕引發(fā)冤錯(cuò)；到2025年，至少8起被媒體確認(rèn)的錯(cuò)捕案例進(jìn)入公眾視野。
• 中國(guó)監(jiān)管收緊《人臉識(shí)別技術(shù)應(yīng)用安全管理辦法》自2025年6月1日施行，明確適用范圍、處理規(guī)則與備案要求；網(wǎng)信辦隨后發(fā)布應(yīng)用備案通知，10萬(wàn)人臉信息即觸發(fā)備案門檻。
• 地方治理樣本：上海開(kāi)展專項(xiàng)整治，提出**“公共場(chǎng)所不刷臉為原則、刷臉為例外”**的目標(biāo)，數(shù)千家酒店、商場(chǎng)、體育與衛(wèi)生場(chǎng)所完成自查整改。

要點(diǎn)：“默認(rèn)不采集、必要才采集”正在制度化；平臺(tái)與場(chǎng)館需要等價(jià)替代方案（身份證/二維碼），并對(duì)采集目的、期限與安全措施可被審計(jì)。

四、算法偏見(jiàn)：從招錄到司法的“數(shù)字化放大”

• 招聘：亞馬遜2018年內(nèi)部測(cè)試的簡(jiǎn)歷篩選模型因?qū)ε韵到y(tǒng)性不利而被終止，成為行業(yè)早期警示案例。
• 司法：對(duì)美國(guó)COMPAS量刑輔助系統(tǒng)的分析顯示，對(duì)未再犯的黑人被告“高風(fēng)險(xiǎn)”誤判概率約為白人的兩倍，引發(fā)廣泛爭(zhēng)論并催生“可解釋、公平”評(píng)估規(guī)范。

要點(diǎn)：偏見(jiàn)既來(lái)自歷史數(shù)據(jù)的失衡，也來(lái)自指標(biāo)選擇與閾值設(shè)定；“只看準(zhǔn)確率”不足以證明公平。

五、規(guī)則在成形：全球與中國(guó)的“紅線/底線”

• 歐盟《AI法案》：對(duì)高風(fēng)險(xiǎn)系統(tǒng)設(shè)定強(qiáng)制合規(guī)與最高7%全球營(yíng)收或3,500萬(wàn)歐的罰款上限，確立“風(fēng)險(xiǎn)分級(jí)+強(qiáng)制審計(jì)”的監(jiān)管框架。懷特凱斯律師事務(wù)所歐盟人工智能法案
• 中國(guó)治理組合拳：在既有網(wǎng)安法/數(shù)安法/個(gè)保法框架下，通過(guò)人臉識(shí)別辦法、視頻圖像條例等專項(xiàng)規(guī)則補(bǔ)位，強(qiáng)調(diào)目的限定、最小必要、單獨(dú)同意、嚴(yán)格保護(hù)

六、如何“把風(fēng)險(xiǎn)關(guān)進(jìn)流程”：三張簡(jiǎn)表

1）技術(shù)側(cè)·最小合規(guī)工單

• 訓(xùn)練/推理數(shù)據(jù)臺(tái)賬：來(lái)源、授權(quán)、保留周期、刪除路徑。
• 偏見(jiàn)掃描：按人群切分Accuracy/TPR/FPR，觸發(fā)>15%差異即停訓(xùn)復(fù)查。
• 在線守門：高風(fēng)險(xiǎn)場(chǎng)景（駕駛/醫(yī)療/金融）啟用人類在環(huán)與回滾開(kāi)關(guān)。

2）法務(wù)側(cè)·四到位

• 訓(xùn)練來(lái)源證明（采購(gòu)/授權(quán)/公開(kāi)許可）到位；
• 模糊用途描述改為場(chǎng)景白名單
• 對(duì)外披露“模型能力邊界與已知局限”；
• 應(yīng)急機(jī)制（召回、停用、告警）與責(zé)任分?jǐn)?/strong>寫(xiě)入合同。

3）個(gè)人與機(jī)構(gòu)·自保要點(diǎn)

• 不被強(qiáng)制刷臉：索要非生物識(shí)別替代方案；保留文字/影像證據(jù)，可向網(wǎng)信部門投訴。政府網(wǎng)站
• 內(nèi)容創(chuàng)作者：保存創(chuàng)作過(guò)程證據(jù)（Prompt、版本稿、時(shí)間戳）；投放平臺(tái)簽訂訓(xùn)練排除/限制條款
• 企業(yè)用戶：在采購(gòu)AI前做影響評(píng)估（AIA）與數(shù)據(jù)保護(hù)影響評(píng)估（DPIA），高風(fēng)險(xiǎn)業(yè)務(wù)引入第三方審計(jì)。

結(jié)語(yǔ)

技術(shù)在狂奔，倫理并非拉后腿，而是讓技術(shù)活得更久的骨架?；赝衲陰灼痍P(guān)鍵事件：召回與停運(yùn)在告訴我們“安全是一號(hào)位”；法庭在教我們“從哪來(lái)、怎么用才算干凈”；治理在強(qiáng)調(diào)“默認(rèn)克制”。當(dāng)規(guī)則與能力一起生長(zhǎng)，AI才有資格成為基礎(chǔ)設(shè)施，而不只是一次又一次的“試驗(yàn)”。