如果AI突然說(shuō)你有罪，并且所有人都無(wú)腦相信它的判斷，你應(yīng)該如何自證清白？

這聽(tīng)著像是電影《少數(shù)派報(bào)告》里預(yù)知犯罪然后被嫁禍的橋段，但抽象的是，現(xiàn)實(shí)中已經(jīng)上演了一個(gè)更潦草的版本：

AI認(rèn)錯(cuò)了罪犯，導(dǎo)致一位無(wú)辜的大姐坐牢半年，人生差點(diǎn)歸零。

一、什么叫警方逮捕到了“閃電俠”？

美國(guó)田納西州的Angela Lipps就是這位倒霉的大姐。2025年7月，一隊(duì)全副武裝的警察突然闖進(jìn)了她平淡的生活，并且用槍指著她，告訴她被逮捕了。

當(dāng)時(shí)她有點(diǎn)懵，畢竟根本不知道自己犯了什么錯(cuò)。警方則說(shuō)她涉嫌參與了北達(dá)科他州的一起銀行詐騙案，瞅這架勢(shì)像是證據(jù)確鑿，并且對(duì)面開(kāi)了5星通緝，但她聽(tīng)完這個(gè)理由卻怔在了原地：

“可我，這輩子都沒(méi)有去過(guò)那個(gè)州啊?！?/strong>

從地圖上看，美國(guó)田納西州與北達(dá)科他州確實(shí)有段距離，而將她與嫌疑人聯(lián)系起來(lái)的正是AI。

警方抓她的時(shí)候自動(dòng)屏蔽了她的辯解，具體的案件細(xì)節(jié)還是進(jìn)了監(jiān)獄才知道的。北達(dá)科他州法戈市的警方在調(diào)查一起詐騙案件，嫌疑人用假軍人身份從銀行騙走了幾萬(wàn)美元，而警方的調(diào)查方式就是先查監(jiān)控，再問(wèn)AI，最后抓人。

你可能以為是用AI煉化了福爾摩斯，然后化身神探通過(guò)嚴(yán)密的邏輯推理破案，但其實(shí)沒(méi)那么“復(fù)雜”。警方使用AI系統(tǒng)對(duì)監(jiān)控錄像的截圖進(jìn)行了面部識(shí)別，然后在圖庫(kù)里篩選嫌疑人。

結(jié)果AI這次拉了坨大的，錯(cuò)誤匹配到了Angela Lipps的照片。接著這份情報(bào)就被轉(zhuǎn)到了正在辦案的警局，工作人員拉了一坨更大的，在手動(dòng)查了她的駕照和社交媒體后，覺(jué)得兩者的面部特征、身材和發(fā)型相似，接著就確定她是嫌疑人了。

圖片來(lái)自GoFundMe

大姐聽(tīng)完相當(dāng)崩潰，沒(méi)再多查查其他線(xiàn)索，萬(wàn)一撞臉呢？但更崩潰的還在后面，那就是一套連招下來(lái)，她沒(méi)機(jī)會(huì)證明自己的清白。

根據(jù)當(dāng)?shù)氐某绦?，她并沒(méi)有直接被抓去北達(dá)科他州接受進(jìn)一步調(diào)查，而是在田納西州當(dāng)?shù)氐谋O(jiān)獄等著。因?yàn)楸徽J(rèn)定成了“跨州逃犯”，她沒(méi)有保釋也沒(méi)有機(jī)會(huì)得到警方的盤(pán)問(wèn)，就這么莫名其妙地關(guān)押了108天，從7月入獄一直坐牢到10月底，很難想象這期間她有多絕望。

Angela Lipps一直熬到10月30日，總算是被警察帶出監(jiān)獄準(zhǔn)備轉(zhuǎn)往北達(dá)科他州了，當(dāng)時(shí)她面臨多項(xiàng)指控，出行期間她不僅要戴著手銬，腰上還綁著鏈子，在她看來(lái)穿過(guò)機(jī)場(chǎng)時(shí)堪比游街示眾。

而這其實(shí)是她人生中第一次坐飛機(jī)。

讓她沒(méi)想到的是，到了北達(dá)科他州后，還要繼續(xù)等。直到12月她才有正規(guī)的機(jī)會(huì)解釋這件事，她的律師直接調(diào)用了她的銀行記錄對(duì)比時(shí)間，案發(fā)時(shí)她正在1900公里外的田納西州買(mǎi)披薩，這意味著除非她是“閃電俠”，否則沒(méi)法跨時(shí)空作案。

全程只用了5分鐘，律師就幫她說(shuō)清楚了這件事。

到了12月24號(hào)，她的指控總算被撤銷(xiāo)了，但她根本樂(lè)不出來(lái)，因?yàn)榇藭r(shí)“斬殺線(xiàn)”已經(jīng)來(lái)到腳脖子了。

Angela Lipps50歲的生日都是在監(jiān)獄里過(guò)的，入獄期間不讓戴假牙，她吃得都是垃圾食品，精神壓力也大，體重暴增。她進(jìn)監(jiān)獄前穿的是夏裝，出來(lái)已經(jīng)是冬天，連個(gè)厚外套都沒(méi)有，保暖都成問(wèn)題，更別說(shuō)回家了。當(dāng)時(shí)警方也沒(méi)有給點(diǎn)路費(fèi)，出獄后相當(dāng)于被困在北達(dá)科他州，也困在了被AI冤枉的那一天。

不過(guò)好在還是有好心人拉了她一把。

她的律師幫她安排了酒店暫住，還給她弄了點(diǎn)吃的熬過(guò)了最艱難的時(shí)刻，當(dāng)?shù)氐姆菭I(yíng)利組織對(duì)她進(jìn)行了救援，把她送回了田納西州的家。

但回家后，重新開(kāi)始生活的難度也是地獄級(jí)的。在監(jiān)獄這段時(shí)間她的經(jīng)濟(jì)爆炸了，租的房子沒(méi)了，家里的狗子沒(méi)了，甚至她的車(chē)和車(chē)?yán)锎娣诺臇|西都沒(méi)了。她的個(gè)人物品當(dāng)時(shí)被暫存到倉(cāng)庫(kù)，但后來(lái)由于付不起租金，導(dǎo)致一切生活用品都跟著清空。甚至人際關(guān)系也岌岌可危，因?yàn)猷従佣伎吹剿蛔プ哌€“消失”了半年，都以為她真犯了事兒。

同時(shí)，她這段離譜的經(jīng)歷很快就傳遍了網(wǎng)絡(luò)，也引起了大家的瘋狂吐槽。例如很多人表示無(wú)語(yǔ)，在美國(guó)一些人可以“0元購(gòu)”，但只要你動(dòng)了資本家的銀行，就可以光速被捕，哪怕不是你干的。

因?yàn)槭虑轸[得太大，她的絕境再次迎來(lái)了轉(zhuǎn)機(jī)，得到了更多的幫助，目前她已經(jīng)眾籌了8萬(wàn)美元的善款，完全可以用于重新開(kāi)始經(jīng)營(yíng)生活了。

不過(guò)現(xiàn)在網(wǎng)友最大的期待是她能找一個(gè)律師天團(tuán)，然后告他們一個(gè)天翻地覆，說(shuō)不定能贏得官司獲得另一筆賠償。

因?yàn)檫@不是警方的偶然失誤，在此之前已經(jīng)出現(xiàn)了批量的冤案，有些人的經(jīng)歷比她還要慘。

二、AI“失誤”帶來(lái)的驚悚科幻時(shí)刻

Angela Lipps的經(jīng)歷其實(shí)已經(jīng)在不同地區(qū)上演過(guò)十多次了，甚至其他國(guó)家也發(fā)生過(guò)。

例如Robert Williams就是這類(lèi)事件中最早的受害者之一，2020年，警方在他的妻女面前逮捕了他，被拘留了30個(gè)小時(shí)，然而他比真正的犯人高了20厘米。

另一位Chris Gatlin也是頂級(jí)倒霉蛋，AI根據(jù)模糊的監(jiān)控畫(huà)面，把他匹配成了地鐵打人案的潛在嫌疑人，然后就這樣一口氣被關(guān)了17個(gè)月，成了目前羈押時(shí)間最長(zhǎng)的無(wú)辜人員。離譜的是，直到最后辦案人員才發(fā)現(xiàn)還有一份執(zhí)法記錄儀可以作為關(guān)鍵證據(jù)，但是里面的嫌疑人和他一點(diǎn)都對(duì)不上。

2023年的Porcha Woodruff也經(jīng)歷了同樣的情況，警察指控她涉嫌犯有劫車(chē)罪。她聽(tīng)完當(dāng)場(chǎng)就氣笑了，以為警方在開(kāi)玩笑，因?yàn)樗?dāng)時(shí)懷孕八個(gè)月，看起來(lái)一點(diǎn)也不具備動(dòng)手的條件。不過(guò)她還是被帶走關(guān)押了十來(lái)個(gè)小時(shí)，后來(lái)她打官司還敗訴了。

今年英國(guó)一位名叫Alvi Choudhury的小伙也因?yàn)轭?lèi)似的情況被抓，說(shuō)他涉嫌“入室盜竊”，不過(guò)從證據(jù)上看是“隔空”進(jìn)行的，這一幕在電影里亦有記載。AI識(shí)別出來(lái)的是他2021年被拘留時(shí)候的照片，警方看到真人后也笑出聲了，因?yàn)樗雌饋?lái)比嫌疑人起碼老了10歲。

圖片來(lái)自《心靈傳輸者》

2022年印度商人Praveen Kumar在去瑞士的路上被抓了，當(dāng)時(shí)他在阿布扎比轉(zhuǎn)機(jī)，結(jié)果被AI匹配成了一名通緝犯。當(dāng)?shù)亟o他好頓審問(wèn)，最后發(fā)現(xiàn)確實(shí)不是嫌疑人，就給他遣返回了印度，結(jié)果他在印度機(jī)場(chǎng)又連續(xù)被扣留了兩次。

這類(lèi)事件中，最離譜的應(yīng)該是俄羅斯科學(xué)家Alexander Tsvetkov的遭遇，AI說(shuō)他長(zhǎng)得像殺人犯，然后他被關(guān)押了10個(gè)月。

這位科學(xué)家可以說(shuō)是遭遇了AI與人類(lèi)的雙重誣陷。2023年2月他結(jié)束科研考察返回俄羅斯，結(jié)果剛下飛機(jī)就被抓。原因是AI顯示，他跟二十多年前一樁連環(huán)殺人案的嫌疑人的畫(huà)像有55%的相似度，同時(shí)這起案件里還有一位污點(diǎn)證人，他為了減刑故意做偽證指認(rèn)他。要命的是警方也沒(méi)仔細(xì)調(diào)查，就這么抓人了。

被關(guān)押后，他一開(kāi)始以為是小誤會(huì)，結(jié)果調(diào)查遲遲沒(méi)法結(jié)束，他在巨大的精神壓力與健康問(wèn)題影響下一度被迫認(rèn)罪，隨后又翻供。好在妻子與研究所同事始終為他奔走，找了無(wú)數(shù)資料證明案發(fā)當(dāng)年他正在外地考察。隨著媒體的報(bào)道，案件也被大眾廣泛討論，這事兒到了12月才出現(xiàn)轉(zhuǎn)機(jī)，指控到了2024年2月才正式撤銷(xiāo)。

而以上這類(lèi)案件隨著AI的進(jìn)化發(fā)生得越來(lái)越頻繁，看起來(lái)更像是AI在“指揮”，而部分人卻變成了執(zhí)行的機(jī)器。

三、“AI說(shuō)了算”的職業(yè)病

之所以會(huì)有“角色互換”的抽象感覺(jué)，是因?yàn)锳I和人都會(huì)掉鏈子，再?gòu)?qiáng)的AI也會(huì)犯錯(cuò)，人類(lèi)更是會(huì)隨時(shí)“偷懶”。

就拿美國(guó)的Clearview AI系統(tǒng)來(lái)說(shuō)，把文章開(kāi)頭的大姐送進(jìn)監(jiān)獄的正是它，但它可不是什么野雞軟件。Clearview AI號(hào)稱(chēng)擁有全球最大的圖片數(shù)據(jù)庫(kù)，頂著多國(guó)罰款瘋狂抓取數(shù)百億張圖片，美國(guó)有超過(guò)3000個(gè)執(zhí)法機(jī)構(gòu)在使用，去年還跟ICE簽了一筆920萬(wàn)美元的合同。

但簡(jiǎn)單來(lái)說(shuō)，Clearview AI算是一款“人臉?biāo)阉饕妗?，使用的時(shí)候就是上傳一張圖，然后在它的數(shù)據(jù)庫(kù)匹配，再吐出一堆相似的圖片，最后到底是不是你要找的人，還要自己判斷。

雖然這些年AI的進(jìn)步神速，但“準(zhǔn)確率”依然充滿(mǎn)爭(zhēng)議，畢竟實(shí)驗(yàn)測(cè)試的數(shù)據(jù)和現(xiàn)實(shí)中使用圖片搜索時(shí)的情況總會(huì)有各種差別。

例如大多數(shù)時(shí)候，警方找到的監(jiān)控圖片畫(huà)質(zhì)像座機(jī)拍的，再加上什么詭異燈光、刁鉆角度、臉上有遮擋等等因素，識(shí)別難度確實(shí)不小，圖庫(kù)里也可能是老圖，匹配的結(jié)果或許就是碰巧兩個(gè)人長(zhǎng)得像。

而這些誤差應(yīng)用到具體的人身上，那自然就要遭罪了。

這是烏鴉還是貓？

按理說(shuō)如果只是AI偶爾犯病，那還有得救，因?yàn)檫@些只是“線(xiàn)索”，后面的“結(jié)論”還需要人來(lái)把關(guān)，但很多時(shí)候人比AI更“離譜”。

其實(shí)幾年前就有人吐槽美國(guó)警方被AI牽著鼻子走，陷入了“自動(dòng)化偏見(jiàn)心理”，也就是比較依賴(lài)甚至過(guò)度信任AI給出的結(jié)果。只要AI說(shuō)這倆人匹配，人類(lèi)就信了，身高對(duì)不上不是我的問(wèn)題，不在場(chǎng)證明雖然有但我只負(fù)責(zé)抓人，什么其他證據(jù)統(tǒng)統(tǒng)跟監(jiān)獄說(shuō)去吧，跳過(guò)基本調(diào)查步驟的同時(shí)也讓別人“跳過(guò)人生”。

其實(shí)人類(lèi)自己對(duì)AI的缺點(diǎn)是門(mén)兒清的，美國(guó)警方在賠了不少錢(qián)后，很多地區(qū)也設(shè)立了“防火線(xiàn)”，像是破案時(shí)除了AI線(xiàn)索還必須要有獨(dú)立證據(jù)，甚至有些地方直接禁用這方面的AI技術(shù)破案。

但這些約束，架不住AI實(shí)在太好用了。雖然有概率翻車(chē)，但顯然成功的次數(shù)更多。有時(shí)候警方費(fèi)盡心思找到的線(xiàn)索，往往就是一張“門(mén)鎖”級(jí)別的監(jiān)控照片，很大概率就想用AI試試運(yùn)氣。早在2023年就有報(bào)道說(shuō)美國(guó)警方用Clearview AI試了上百萬(wàn)次搜索，甚至后來(lái)明面上不讓用就偷著用，反正用了也可以說(shuō)沒(méi)用過(guò)，這個(gè)軟件不讓用就換一個(gè)，本地被禁了就托別的機(jī)構(gòu)幫忙用一下，純純玩上癮了。

所以，一旦AI先給出一條不靠譜的線(xiàn)索，接著人類(lèi)再偷懶跳過(guò)調(diào)查，臥龍鳳雛打出組合技，冤案自然就來(lái)了。

像是巴西的Smart Sampa系統(tǒng)這兩年也在面對(duì)相似的問(wèn)題。2024年，巴西的圣保羅上線(xiàn)了拉美最大的AI人臉識(shí)別警務(wù)系統(tǒng)，據(jù)說(shuō)接入了4萬(wàn)個(gè)攝像頭。

好消息是效果確實(shí)猛，幾年來(lái)有近四千罪犯當(dāng)場(chǎng)被捕，還抓回三千多名逃犯，搶劫案在2025年下降了近15%，堪稱(chēng)“抓賊流水線(xiàn)”。

壞消息是，至少59人被認(rèn)錯(cuò)。

其中不乏抽象案例，例如有精神病人在醫(yī)院被當(dāng)成罪犯帶走了，后來(lái)發(fā)現(xiàn)他的逮捕令過(guò)期又給放了。還有一個(gè)老哥7個(gè)月內(nèi)被抓4次，AI把他跟一個(gè)在逃殺人犯弄混了。每次都是被抓回警局后立刻被放出來(lái)，過(guò)了幾天又來(lái)一次，他人都已經(jīng)嚇麻了。

以前聊什么工作不能被AI替代的時(shí)候，都說(shuō)AI不能替人坐牢，但我們從沒(méi)想到過(guò)這個(gè)問(wèn)題的另一面，它現(xiàn)在能讓人“坐牢”。

這句話(huà)放在以前是段子，但現(xiàn)在看已經(jīng)快不是新聞了。其實(shí)不光是人臉識(shí)別，AI在物品識(shí)別這塊兒偶爾也能整出狠活兒。

去年美國(guó)一所高中的AI安保系統(tǒng)，把一個(gè)小伙手里的薯片包裝識(shí)別成了“潛在槍支”，直接觸發(fā)警報(bào)。來(lái)了8輛警車(chē)，瞬間就把小伙給控制了，搜完身才在垃圾桶翻出零食袋子，場(chǎng)面一度非常尷尬，小伙都以為自己活不成了。

你別說(shuō)還真別說(shuō)

誰(shuí)能想到AI越強(qiáng)，有的人用它捅出來(lái)的婁子也越大。以前AI笨，看圖認(rèn)錯(cuò)了，讓全網(wǎng)笑話(huà)半天?，F(xiàn)在AI強(qiáng)了，認(rèn)錯(cuò)一個(gè)人，讓人類(lèi)蹲上半年牢。未來(lái)別再搞出什么AI審判、AI律師，新能源法庭這類(lèi)抽象的操作。說(shuō)到底AI本身只是一種工具，關(guān)鍵還是看使用者的能力與目的，或者說(shuō)AI越強(qiáng)，其實(shí)人越不能偷懶。

總之，開(kāi)始多少有點(diǎn)懷念那個(gè)笨笨的AI了。