2023年，內(nèi)華達州里諾市警局采購的人臉識別系統(tǒng)，把Jason Killinger的臉和另一個賭場黑名單上的人"100%匹配"。12小時后他從班房出來，現(xiàn)在正把整座城市告上法庭。

一次下注，一場誤捕

Killinger當(dāng)時只是在賭場里正常下注。安保系統(tǒng)突然報警，AI判定他就是那個早被禁足賭場的男子。賭場保安扣住他，警官Richard Jager到場，沒查他錢包里另外三張證件，直接以"使用假身份證"罪名逮捕。

手銬造成的身體損傷、12小時拘押的精神損耗，這些后來都成了訴狀里的賠償條目。但Killinger的律師團隊顯然想要更多——他們把矛頭指向了里諾市本身的制度漏洞。

聯(lián)邦法官Miranda Du今年早些時候裁定，Killinger可以把里諾市列為共同被告。這意味著案件從"一個警察搞砸了"升級成"一座城市的系統(tǒng)性失職"。

"不是個案，是慣例"

訴狀里的措辭相當(dāng)狠：「Jager的行為不是某個 rogue employee（問題員工）的偶發(fā)失誤，而是廣泛存在的習(xí)慣和做法——數(shù)百名市政雇員多年來以同樣方式制造了數(shù)千起逮捕?！?/p>

"數(shù)千起"這個數(shù)字如果坐實，里諾市的人臉識別系統(tǒng)就成了全美最激進的誤捕流水線之一。Killinger的律師指控該市從未對警員進行AI執(zhí)法工具的合規(guī)培訓(xùn)，導(dǎo)致技術(shù)成了甩鍋工具：機器說抓，人就抓。

這種"算法背書即正義"的邏輯，在執(zhí)法領(lǐng)域蔓延得比公眾意識快得多。Killinger案的特殊之處在于，原告試圖用集體訴訟的規(guī)模感，倒逼一個城市為它的技術(shù)依賴癥買單。

北達科他的前車之鑒

去年Fargo（法戈）的案子更荒誕。一位祖母級嫌疑人被生成式AI系統(tǒng)指認為ATM詐騙犯，關(guān)了六個月才發(fā)現(xiàn)銀行記錄顯示案發(fā)時她在1200英里外。生成式AI在這里扮演的角色是"調(diào)查線索生成器"——比人臉識別更上游，也更難追溯。

兩起案件的共同點：執(zhí)法人員把AI輸出當(dāng)作充分條件，而非需要驗證的假設(shè)。Killinger錢包里的三張備用證件，F(xiàn)argo那位祖母的異地消費記錄，都是基礎(chǔ)到可笑的排查步驟，卻被算法的光環(huán)效應(yīng)屏蔽了。

里諾市現(xiàn)在面臨的賠償清單包括：懲罰性賠償、律師費、身體損傷補償。如果敗訴，納稅人將為這套采購自未知廠商的人臉識別系統(tǒng)支付遠超原始合同價的賬單。

precedent 的賭注

Killinger案如果勝訴，可能開創(chuàng)一個危險先例：市政當(dāng)局需要為AI執(zhí)法工具的誤報承擔(dān)連帶責(zé)任。這對正在采購類似系統(tǒng)的城市是個警告——技術(shù)合同里的免責(zé)條款，未必能擋住憲法第四修正案的訴訟。

但反過來，如果里諾市成功脫責(zé)，"算法建議"在法律上的地位會更加模糊。警察可以說：我只是按系統(tǒng)提示行事，責(zé)任在機器。這種辯護策略在Killinger案中被直接挑戰(zhàn)，原告方堅持認為這是"制度性放任"而非個人失誤。

目前案件仍在早期階段，Killinger的律師尚未提出具體賠償金額。但訴狀里"數(shù)千起 unlawful arrests（非法逮捕）"的指控，已經(jīng)讓里諾市的法務(wù)部門陷入被動——承認則意味著集體訴訟的洪水閘門，否認則需要解釋為什么一個未受訓(xùn)的警員能憑AI提示隨意抓人。

賭場的人臉識別系統(tǒng)仍在運行，里諾警局的采購預(yù)算里大概還有下一套算法的尾款。Killinger的12小時班房經(jīng)歷，會變成判例還是腳注，取決于聯(lián)邦法院愿意在多大程度上讓城市為它的機器背書。

如果AI的"100%匹配"在法律上被認定為合理懷疑的充分依據(jù)，下一個被手銬銬錯的人，該找誰算賬？