“刷臉”好像隨著人臉識別的發(fā)展變得越來越流行。在支付寶里付款，給手機解開密碼，在酒店里識別身份……但是，如果我們將人臉識別應用到識別罪犯當中，這是一件好事嗎？19世紀興起的顱相學討論一度沉寂，如今，又悄悄地跟著能夠認臉的AI死灰復燃，這究竟意味著什么？對我們的現(xiàn)實生活有多大的影響？今天這篇文章里，Catherine Stinson為我們解釋這一切。
此文依法譯自AEON，如需轉載，請聯(lián)系我們，侵權必究。

算法：長相、犯罪及其黑暗的過去

By: Catherine Stinson

01

“顱相學" (Phrenology)這個頗有年代感的詞，聽上去像是收錄在某本歷史書中的一個章節(jié)，大概排在“放血”（bloodletting）之后，“舊式自行車”（velocipede）之前。雖然我們會認為“根據(jù)一個人頭骨的大小和形狀來評判其價值”這種行為早已被社會擯棄，但現(xiàn)實是，我們正又一次漸漸步入顱相學那顆丑陋大腦袋的陰影之下。近年來，基于機器學習的算法讓各國政府和眾多私營企業(yè)得以從人們的外貌提取出各類信息。現(xiàn)有好幾個初創(chuàng)企業(yè)（startup）聲稱，他們能夠使用人工智能（AI）分析應聘者的面部表情，幫助雇主識別其性格特征。中國政府已率先利用監(jiān)控攝像頭來辨別、追蹤少數(shù)民族人口。與此同時，有報道稱一些學校也安裝了智能攝像頭。這些攝像頭能根據(jù)面部動作和挑眉等微表情自動檢測并懲罰走神的學生。

可能最臭名昭著的例子還是幾年前，人工智能研究人員吳曉林和張希聲稱成功研發(fā)出了一套根據(jù)臉型辨別罪犯的算法，其準確率高達89.5%。他們并沒有發(fā)展到支持19世紀盛行的面相學（physiognomy）觀點的程度。當時最著名的理論由意大利犯罪學家切薩雷·龍勃羅梭 (Cesare Lombroso)提出，他認為罪犯都是進化不完全的、非人的野獸，在外貌上表現(xiàn)為前額陡峭，鷹鉤鼻。然而，吳曉林和張希在研究中收集與犯罪相關的面部特征，這一看似高科技的研究方法卻直接借鑒了維多利亞時代博學家弗朗西斯·高爾頓（Francis Galton）的“影像合成法”（photographic composite method）。這種方法涉及把某類人的臉全部重疊在一起，然后找出象征健康、疾病、美貌和犯罪等等的外貌特征。

02

技術評論家們把這些面部識別技術稱為“字面意義的顱相學”，并將其跟提倡人們擇優(yōu)繁衍從而改良人類種族的偽科學——優(yōu)生學（eugenics）聯(lián)系在一起。（“優(yōu)生學”這個詞是高爾頓自己發(fā)明的。他在1883年描述道，優(yōu)生學泛指“所有有益于‘優(yōu)越種族’的影響，不論其大小。這種影響能讓他們更快地戰(zhàn)勝‘劣等種族’”。）

在某些情況下，這些科技的明確目的就是要剝奪這些格格不入的人那些格格不入者的機會；而有時，這雖然可能并不是他們的目的，卻也是可以預料到的結果。當我們給算法貼上顱相學的標簽來否定其價值時，我們到底是在指出什么問題呢？我們是在強調這些方法在科學上存在缺陷而無法產生效果呢？還是在強調不論如何，使用這些方法本身就有悖道德呢？

關于顱相學的研究

把“顱相學”用作對人的尖酸侮辱背后有著一段悠久而錯綜復雜的歷史。盡管哲學和科學的立場不斷發(fā)生著改變，但兩者對這一實踐的批判聲始終交織在一起。在19世紀，顱相學試圖將不同的精神功能定位到大腦中的不同位置，遭到批評者們反對——這一舉動被視為異端，因為這讓人們對基督教關于靈魂統(tǒng)一的觀點產生了質疑。但有趣的是，那時候人們并不認為嘗試根據(jù)頭部的大小和形狀來判斷一個人的性格和才智是一個嚴重的道德問題。而現(xiàn)在的情況恰恰相反，將精神功能（在大腦中）定位的想法毫無爭議?？茖W家們可能不再認為攻擊性位于右耳上方，但認知功能可以對應到特定大腦回路是當下主流神經科學的常規(guī)假設。

03

顱相學在19世紀也受到了經驗主義的批評。人們就哪些功能位于何處以及測量顱骨來確定大腦活動是否可靠進行了激烈的討論。不過，對舊顱相學最具影響力的經驗主義批評來自法國醫(yī)生讓·皮埃爾·弗洛倫斯(Jean Pierre Flourens)的研究。弗洛倫絲通過破壞兔子和鴿子大腦的實驗，得出精神功能分布而不是集中在大腦區(qū)域的結論(他的研究成果在后來被推翻。)。過去人們質疑顱相學的理由在今天不再被大多數(shù)當代觀察者認可，這就讓今天的人們更難弄清當我們用“顱相學”來侮辱人時，到底是誰受到了侮辱。

“新顱相學”和“舊顱相學”都因其毫無嚴謹性可言的方法而受到批評。在最近的一項關于犯罪行為的人工智能研究中，數(shù)據(jù)取自兩種完全不同的來源：一種是罪犯的面部照片，另一種是工作網站上非罪犯上的照片。光這一點就能解釋該算法為什么能檢測出組間的差異。在這篇論文的新序言中，研究人員還承認，將法庭定罪等同于犯罪行為是一種“嚴重的疏忽”。然而，將定罪與犯罪行為等同似乎主要被作者認為是操作上的缺陷：使用定罪罪犯的面部照片，而不是使用逃犯的面部照片，（僅僅）造成了統(tǒng)計上的偏差。他們說，對于一份“純學術討論”論文，公眾的憤怒讓他們感到“深深的困惑”。

From Wu and Zhang (2016)|圖片來自原文

值得注意的是，研究人員沒有對“定罪本身取決于警察、法官和陪審團對嫌疑人的印象”這一事實發(fā)表評論，這使得一個人的“犯罪”長相成為一個令人困惑的變量。他們也沒有提到，特定群體受到的嚴格監(jiān)管以及在獲取法律代表方面的不平等會如何扭曲數(shù)據(jù)集。在對批評的回應中，作者們并沒有放棄“成為一名罪犯需要一系列不正常的(離群的)個人特質”的假設。事實上，他們的理論框架表明犯罪是一種先天特征，而不是對貧窮或虐待等社會條件的反應。從實際經驗來說，這些數(shù)據(jù)令人質疑的部分原因在于這個把特定的人劃定為“罪犯”的過程本身就很難是價值中立的。

04

用面部識別來探查犯罪行為最大的道德異議之一在于，當今社會人們已經備受監(jiān)管，而這項技術讓人們又備受侮辱。盡管作者聲明了這項工具不會應用于執(zhí)法中，但他們只用了統(tǒng)計數(shù)據(jù)來佐證這一點。他們只是指出了，其誤報率（50%）會很高，但他們并沒有意識到，這個數(shù)字在人類的語言里，意味著什么。每一次誤報都表示有一個普通人因為和罪犯長相相似而被錯誤識別。鑒于刑事司法體系中常見的種族及其它偏見，這種算法最終會過估邊緣社群中的犯罪行為。

最受爭議的問題似乎在于，為了“純粹的學術討論”，將面相學重新帶回大眾視野是不是一件好事。人們可以站在實證的立場來反駁這一觀點：像高爾頓（Galton）和龍勃羅梭（Lombroso）這些過去的優(yōu)生學家，最終也沒有找到能使人傾向犯罪的面部特征。

這是因為這兩者之間并不能找到聯(lián)系。同樣，如西里爾·伯特（Cyril Burt）和菲利普·魯什頓（Philippe Rushton）一樣研究智力遺傳可能性的心理學家不得不玩弄數(shù)據(jù)，捏造了頭骨大小、種族和智商之間的相關性。如果這些因素之間的確有聯(lián)系，那么這些多年來勤勉研究的學者們就不會毫無收獲了。

美國聯(lián)邦政府在研究面部識別與種族歧視間的關系

重啟面相學的問題并不僅僅在于它過去沒有成功。在科學共識已經形成后，仍堅持追尋冷核聚變的科學家也面臨“追逐獨角獸”的指責——但對冷核聚變的不贊成遠沒到指責的地步。在最壞的情況下，人們只認為冷核聚變在浪費科學家的時間。冷核聚變和面相學的不同在于，前者潛在的危害要小很多。相比之下，一些評論家認為面部識別應該像钚一樣被嚴格管控，因為它幾乎沒有無害的用途。當人們?yōu)榱酥维F(xiàn)有的殖民和階級結構去重啟一個已經沒什么前途的項目時，當這個項目唯一能測量的是這些結構中的種族主義時，我們很難去證明這又一次因好奇心而起的嘗試是合理的。

然而，僅將面部識別研究稱為“顱相學”卻不解釋其中的風險，可能并不是傳達不滿之情最有效的策略。為了讓科學家認真履行他們的道德責任，他們需要意識到自己的研究可能會帶來的傷害。更清楚地指出這門“顱相學”研究的錯誤之處，希望能比只簡單地拋出這個術語作為一種侮辱產生更大的影響。

- END -

譯者：小師婦、Rye、子恒

編輯/校對：盛芩、竹子、灣灣

排版：竹子

原文鏈接：https://aeon.co/ideas/algorithms-associating-appearance-and-criminality-have-a-dark-past

吃書妄想

這里是灣灣和她的朋友們思考尋找的地方

B站 ：吃書妄想

微信：xiangwanqiao111