將隱私保護加入到AI技術(shù)激增可能造成損失的清單中吧，因為研究人員發(fā)現(xiàn)，大語言模型可以比人類調(diào)查員更高效地去匿名化網(wǎng)絡(luò)用戶，即使是那些使用假名的用戶。

過去25年關(guān)于網(wǎng)絡(luò)隱私的大部分學(xué)術(shù)研究都建立在Latanya Sweeney 2002年關(guān)于k-匿名性的研究基礎(chǔ)上，以及她之前證明可以使用三個匿名數(shù)據(jù)點——五位數(shù)郵政編碼、性別和出生日期來識別87%美國人口的研究。

從匿名數(shù)據(jù)中識別個人身份的可能性成為了在線廣告和網(wǎng)頁瀏覽器中使用cookie的核心擔憂之一。

這種風(fēng)險并沒有消失，現(xiàn)在看起來更加嚴重，因為大語言模型可以自動化地連接網(wǎng)絡(luò)帖子中的線索，從而指向可能的來源。

MATS研究所的AI工程師Simon Lermen表示："我們證明了大語言模型智能體可以從你的匿名在線帖子中找出你的身份。"他是一篇題為"大語言模型大規(guī)模在線去匿名化"的預(yù)印本論文的通訊作者之一。

Lermen在一篇在線帖子中解釋道："在Hacker News、Reddit、LinkedIn和匿名化訪談記錄中，我們的方法能夠高精度地識別用戶，并且可以擴展到數(shù)萬個候選者。"

研究人員觀察到，雖然長期以來人們就知道可以僅使用幾個數(shù)據(jù)點來識別個人，但這樣做往往不切實際。這些數(shù)據(jù)通常以非結(jié)構(gòu)化形式存在，人類調(diào)查員需要付出相當大的努力來收集足夠的片段來解決身份謎題。

Lermen和他的合著者聲稱，大語言模型加速并自動化了這一過程，而且成本可承受。

他們在論文中表示："我們證明大語言模型從根本上改變了這種計算方式，實現(xiàn)了能夠大規(guī)模處理非結(jié)構(gòu)化文本的全自動去匿名化攻擊。以前的方法需要預(yù)定義的特征模式、仔細的數(shù)據(jù)對齊和人工驗證，而大語言模型可以從任意文本中提取與身份相關(guān)的信號，高效地搜索數(shù)百萬個候選檔案，并推斷兩個賬戶是否屬于同一個人。"

在一項實驗中，作者收集了338名Hacker News用戶，這些用戶的簡歷鏈接到LinkedIn檔案。他們這樣做是為了建立研究對象的真實身份，以便檢驗大語言模型的預(yù)測——這也是為了避免在研究中真正去匿名化人們所帶來的倫理問題。

接下來，他們基于這些用戶的評論和發(fā)布的故事創(chuàng)建了結(jié)構(gòu)化的數(shù)據(jù)檔案。然后他們創(chuàng)建了一個搜索提示，將其匿名化，并傳遞給AI智能體。智能體繼續(xù)正確識別了338個目標中的226個，在90%精確度下成功率為67%（有25個錯誤識別和86個模型未提供預(yù)測的棄權(quán)）。

作者使用的技術(shù)并不是通用的隱私溶解劑——它只在某些時候成功。但它成功的頻率足以讓那些在網(wǎng)上使用假名賬戶發(fā)帖的人不應(yīng)該假設(shè)他們的身份會保持未知。

運行成本也很便宜。研究人員報告他們的整個實驗花費約2000美元，每個檔案的估計成本在1到4美元之間。

誰會這么做？作者建議政府可以使用這種技術(shù)來針對記者或活動人士，企業(yè)可以挖掘論壇來建立高度針對性的廣告檔案，在線攻擊者可以開發(fā)詳細的個人檔案來使社會工程詐騙更具可信度。

Lermen認為網(wǎng)民因此需要考慮他們分享的每個數(shù)據(jù)點如何幫助識別他們。

"這種組合通常是一個獨特的指紋，"他說。"問問你自己：一隊聰明的調(diào)查員能從你的帖子中找出你是誰嗎？如果是的話，大語言模型智能體很可能也能做到同樣的事情，而且這樣做的成本只會越來越低。"

Lermen的合著者包括Daniel Paleka（蘇黎世聯(lián)邦理工學(xué)院）、Joshua Swanson（蘇黎世聯(lián)邦理工學(xué)院）、Michael Aerni（蘇黎世聯(lián)邦理工學(xué)院）、Nicholas Carlini（Anthropic）和Florian Tramèr（蘇黎世聯(lián)邦理工學(xué)院）。

Q&A

Q1：大語言模型如何實現(xiàn)用戶去匿名化？

A：大語言模型可以從用戶的匿名在線帖子中提取與身份相關(guān)的信號，自動分析非結(jié)構(gòu)化文本，高效搜索數(shù)百萬個候選檔案，并推斷不同賬戶是否屬于同一個人。它們能夠連接網(wǎng)絡(luò)帖子中的各種線索，自動化地指向可能的身份來源。

Q2：這種去匿名化技術(shù)的成功率有多高？

A：研究實驗顯示，在338個測試目標中，AI智能體正確識別了226個，成功率為67%，精確度達到90%。雖然不是100%成功，但這個成功率足以讓使用假名賬戶的用戶擔心身份暴露。

Q3：進行大規(guī)模去匿名化攻擊需要多少成本？

A：研究人員報告整個實驗花費約2000美元，每個用戶檔案的估計成本在1到4美元之間。這種低成本使得大規(guī)模去匿名化攻擊變得經(jīng)濟可行，政府、企業(yè)或惡意攻擊者都可能利用這種技術(shù)。