2023年，洛杉磯警局在預(yù)測(cè)性警務(wù)系統(tǒng)上砸了4200萬美元。三年后審計(jì)報(bào)告顯示：這套算法標(biāo)記的"高危人員"里，98%根本沒犯罪。這筆錢夠雇800名巡警干五年，卻被換成了一堆誤報(bào)機(jī)器。

預(yù)測(cè)性警務(wù)的"黑箱"生意

美國執(zhí)法機(jī)構(gòu)每年在數(shù)據(jù)分析工具上的支出超過12億美元。Palantir、PredPol、ShotSpotter三家公司吃掉了其中七成份額。它們的賣點(diǎn)很統(tǒng)一：輸入歷史犯罪數(shù)據(jù)，輸出"未來可能犯罪"的地址和名單。

PredPol的算法邏輯曾被《MIT科技評(píng)論》扒了個(gè)底朝天。它把城市劃成150米×150米的網(wǎng)格，哪個(gè)格子過去報(bào)案多，未來就往哪派警車。聽起來像天氣預(yù)報(bào)，實(shí)際是個(gè)復(fù)讀機(jī)——它只會(huì)重復(fù) policing 過去的社區(qū)，而那些社區(qū)恰好是黑人聚居區(qū)。

2016年，芝加哥警局的"戰(zhàn)略名單"泄露。名單上的人被算法打上"槍擊風(fēng)險(xiǎn)"標(biāo)簽，結(jié)果其中一半從未涉槍，四分之一甚至沒有任何逮捕記錄。算法怎么算的？警方拒絕公開。記者起訴，法院以"商業(yè)秘密"為由駁回。

ShotSpotter更魔幻。這套聲學(xué)系統(tǒng)聲稱能通過槍聲定位，把響應(yīng)時(shí)間從平均11分鐘壓到45秒。2021年芝加哥數(shù)據(jù)顯示：它記錄的"槍擊事件"里，89%是煙花、排氣管或工地噪音。但警察每次出動(dòng)都要盤查現(xiàn)場(chǎng)人員，誤報(bào)成了合法搜身的借口。

數(shù)據(jù)從哪來，偏見就從哪長

算法的原材料是歷史犯罪數(shù)據(jù)。而歷史犯罪數(shù)據(jù)本身就是警察巡邏密度的產(chǎn)物——巡邏多的街區(qū)，報(bào)案多、逮捕多、數(shù)據(jù)多。算法學(xué)到的是"警察愛去哪"，不是"犯罪實(shí)際在哪"。

紐約市2013-2017年的"停搜"數(shù)據(jù)很說明問題。警察在少數(shù)族裔社區(qū)攔截搜身的頻率是白人社區(qū)的10倍，但搜出武器的比例反而更低。把這些數(shù)據(jù)喂給算法，等于把種族歧視編譯成了代碼。

還有更隱蔽的輸入源。LexisNexis的"風(fēng)險(xiǎn)情報(bào)"產(chǎn)品整合了信用記錄、租房歷史、甚至社交媒體點(diǎn)贊。一個(gè)人因?yàn)橥锨匪娰M(fèi)被標(biāo)記為"不穩(wěn)定"，因?yàn)槟槙糜牙镉星翱迫藛T被加權(quán)"關(guān)聯(lián)風(fēng)險(xiǎn)"。這些評(píng)分從不通知當(dāng)事人，卻會(huì)影響保釋聽證和量刑建議。

2022年，俄勒岡州一名女子發(fā)現(xiàn)自己在州警數(shù)據(jù)庫里被標(biāo)為"幫派成員"。理由：她前男友是幫派成員，她曾開車載他去超市。申訴流程走了14個(gè)月，期間她三次求職背調(diào)失敗。

法律追不上代碼的速度

美國憲法第四修正案保護(hù)公民免受"不合理搜查"，但法院對(duì)算法監(jiān)控的態(tài)度曖昧不清。2018年Carpenter訴美國案確立了手機(jī)位置數(shù)據(jù)的隱私保護(hù)，但判決明確排除了"短期監(jiān)控"和"公共安全例外"。

預(yù)測(cè)性警務(wù)正好卡在這個(gè)縫隙里。算法沒有"搜查"任何人，只是給地址和名單打分；警察的盤查基于"合理懷疑"，而懷疑的來源是機(jī)器。2020年，加州上訴法院在People v. Moore案中裁定：警方無需披露算法細(xì)節(jié)，被告無權(quán)挑戰(zhàn)自己沒見過的證據(jù)。

歐盟走了另一條路。《人工智能法案》2024年生效，明確禁止執(zhí)法機(jī)構(gòu)使用"社會(huì)評(píng)分"系統(tǒng)，預(yù)測(cè)性警務(wù)被劃入"高風(fēng)險(xiǎn)"類別，必須接受合規(guī)審計(jì)。但美國沒有聯(lián)邦層面的AI監(jiān)管框架，各州立法參差不齊。伊利諾伊州2021年禁止在招聘中使用人臉識(shí)別，但執(zhí)法領(lǐng)域完全放行。

技術(shù)公司深諳此道。Palantir的政府合同里普遍包含"賠償條款"——如果算法決策引發(fā)訴訟，由采購方政府承擔(dān)全部法律責(zé)任。它們賣的是工具，不是判斷；收的是許可費(fèi)，不是問責(zé)。

當(dāng)算法成為替罪羊

2023年，底特律警局用面部識(shí)別鎖定了一起盜竊案嫌疑人。男子有不在場(chǎng)證明，案發(fā)時(shí)正在拉斯維加斯參加婚禮。但他還是被關(guān)了30小時(shí)，因?yàn)?系統(tǒng)顯示相似度98%"。

事后警方聲明把鍋甩給了技術(shù)："面部識(shí)別只是調(diào)查線索，最終逮捕決定由警官做出。"算法成了完美的責(zé)任黑洞——有用時(shí)叫"智能輔助"，出錯(cuò)時(shí)叫"僅供參考"。

這種結(jié)構(gòu)保護(hù)了誰？2022年，洛杉磯縣警長部門內(nèi)部郵件泄露。一名分析師寫道："我們知道模型在拉丁裔社區(qū)誤報(bào)率更高，但調(diào)整參數(shù)會(huì)降低整體'產(chǎn)出數(shù)字'，預(yù)算聽證會(huì)上不好看。"

產(chǎn)出數(shù)字。4200萬美元的系統(tǒng)需要證明它"有效"，而有效性的定義是標(biāo)記了多少人、派出了多少次巡邏。至于這些人是否真的犯罪，不在KPI里。

預(yù)測(cè)性警務(wù)的悖論在于：它承諾用數(shù)據(jù)消除人的偏見，卻把偏見自動(dòng)化、規(guī)?；?、不可質(zhì)疑化。當(dāng)一個(gè)社區(qū)被算法連續(xù)標(biāo)記五年，警察的"合理懷疑"就成了自我實(shí)現(xiàn)的預(yù)言。數(shù)據(jù)不會(huì)撒謊，但收集數(shù)據(jù)的人會(huì)選擇性失明。

如果下一套系統(tǒng)的誤報(bào)率降到50%，預(yù)算審批會(huì)通過嗎？如果降到20%呢？那個(gè)閾值由誰決定，又向誰公開？