哈嘍，大家好，小圓這篇國際評(píng)論，主要來分析最近讓整個(gè)歐洲都懸著心的一件事，英國在人臉識(shí)別技術(shù)上的操作，堪稱走了一步?jīng)]人敢試的險(xiǎn)棋，說出來你可能不信，英國警方早就知道一款人臉識(shí)別系統(tǒng)對(duì)女性、年輕人和少數(shù)族裔有歧視性。

但就因?yàn)樾拚蟮墓桨姹窘o的嫌疑人線索太少，影響了辦案效率，硬是說服了當(dāng)局批準(zhǔn)繼續(xù)使用，要知道歐洲對(duì)個(gè)人信息和技術(shù)倫理向來管得嚴(yán)，英國這波操作不僅在國內(nèi)掀了熱議，連隔壁歐盟國家都坐不住了，生怕這個(gè)先例開了頭，后面大家都跟著突破底線。

事情得從2024年9月說起，當(dāng)時(shí)英國內(nèi)政部委托國家物理實(shí)驗(yàn)室做的審查報(bào)告已經(jīng)很明確了：這款回溯性人臉識(shí)別系統(tǒng)，在處理女性、黑人以及40歲以下人群的圖像時(shí)，特別容易給出錯(cuò)誤的匹配結(jié)果。

簡單說，同樣是模糊的監(jiān)控畫面，系統(tǒng)更傾向于把女性、黑人和年輕人當(dāng)成潛在嫌疑人，警方高層拿到報(bào)告后，也確實(shí)做了點(diǎn)改變，全國警察局長委員會(huì)下令提高系統(tǒng)的匹配置信閾值，就是讓系統(tǒng)更嚴(yán)謹(jǐn)，減少亂匹配的情況。

可這套公平版本的壽命短得可憐，只撐了一個(gè)月就被推翻了，原因很直接，各地警局紛紛抱怨：閾值提高后，能找到可能匹配的嫌疑人比例從56%直接跌到14%，辦案的“線索”少了一大截，好多案子都卡住了，全國警察局長委員會(huì)一看這情況，立馬開會(huì)把閾值調(diào)了回去。

雖然英國內(nèi)政部和警方都不肯說現(xiàn)在用的具體閾值是多少，但國家物理實(shí)驗(yàn)室后來的研究數(shù)據(jù)戳破了真相：在特定設(shè)置下，這個(gè)系統(tǒng)對(duì)黑人女性的誤報(bào)率，幾乎是白人女性的100倍，同樣是無辜者，黑人女性被錯(cuò)誤當(dāng)成嫌疑人的概率，比白人女性高出整整一個(gè)數(shù)量級(jí)。

當(dāng)系統(tǒng)遇到不清晰的圖像時(shí)，為了給出看起來夠用的匹配結(jié)果，就會(huì)下意識(shí)把少數(shù)族裔往嫌疑人列表里拉，這種情況下，警方所謂的人工復(fù)核其實(shí)很容易流于形式，面對(duì)破案壓力，警員很難對(duì)每一“算法推薦”的嫌疑人都保持同等程度的審慎。

曾擔(dān)任倫敦警察廳獨(dú)立審查員的彼得·福西教授的疑問很到位：如果一種技術(shù)只有默許偏見存在才好用，那它到底是執(zhí)法工具還是傷害公平的武器？而這種對(duì)少數(shù)群體的潛在傷害，還暴露了警方更深層的問題。

面對(duì)鋪天蓋地的質(zhì)疑，英國警方和政府也給出了回應(yīng)，負(fù)責(zé)相關(guān)事務(wù)的布萊克曼警監(jiān)說，恢復(fù)閾值是權(quán)衡后的選擇，目的是保護(hù)公眾安全，還強(qiáng)調(diào)已經(jīng)加強(qiáng)了警員培訓(xùn)，能防范偏見風(fēng)險(xiǎn)，內(nèi)政部則表示，已經(jīng)采購了沒有顯著偏見的新算法，明年初就測試。

而算法本質(zhì)上是基于歷史數(shù)據(jù)的概率游戲，少數(shù)族裔在這里成了承擔(dān)高風(fēng)險(xiǎn)的“輸家”，更諷刺的是，負(fù)責(zé)監(jiān)督警察種族行動(dòng)計(jì)劃的約翰遜主席透露，這么重要的人臉識(shí)別技術(shù)，居然在反種族主義的會(huì)議上幾乎沒人討論，警方的反種族主義承諾根本沒落到實(shí)處。

英國這步“險(xiǎn)棋”之所以讓歐洲緊張，核心在于它開了一個(gè)糟糕的先例：為了執(zhí)法效率，可以犧牲少數(shù)群體的權(quán)利，為技術(shù)偏見開綠燈，要知道技術(shù)本身是中立的，可當(dāng)使用者為了“方便”刻意忽視倫理漏洞時(shí)，技術(shù)就會(huì)變成加劇不公的工具。

警方口中的平衡，本質(zhì)上是把少數(shù)群體的權(quán)益當(dāng)成了可以妥協(xié)的成本，這種做法不僅會(huì)讓公眾對(duì)執(zhí)法失去信任，更可能讓其他國家跟風(fēng)效仿，破壞整個(gè)歐洲建立的技術(shù)倫理底線，真正的技術(shù)進(jìn)步從來不是“效率優(yōu)先”，而是讓技術(shù)更公平地服務(wù)所有人。

就像歐盟的監(jiān)管思路那樣，技術(shù)應(yīng)用必須建立在保護(hù)基本權(quán)利的基礎(chǔ)上，英國所謂的新算法測試、人工復(fù)核等保障措施，如果沒有公開透明的監(jiān)督機(jī)制，終究是紙上談兵，希望英國能及時(shí)剎住車，而用犧牲公平換來的效率，從來都不是真正的安全。