北京
凌晨兩點，布萊恩·萊利在谷歌輸入了六個字："如何阻止殺人念頭"。
他搜到的第一條結(jié)果，是讓他"撥打自殺熱線"。
搜索框里的求救信號
這不是某個陌生人的故事。2023年8月，這位兩個孩子的父親在佛羅里達州家中，用一把手槍結(jié)束了19歲女兒萊莉的生命，隨后自殺。
警方事后發(fā)現(xiàn)，布萊恩的搜索記錄暴露了一切：他反復(fù)查詢"殺人后自殺""如何快速殺人"等關(guān)鍵詞。但算法沒有識別出危險信號，也沒有觸發(fā)任何干預(yù)機制。
更諷刺的是，萊莉本人曾在社交媒體寫道："我父親是我最好的朋友。"
平臺的沉默與家庭的崩潰
案件細節(jié)顯示，布萊恩長期患有未確診的心理疾病。家人注意到他的異常，卻未能阻止悲劇。
谷歌的搜索建議系統(tǒng)在此案中完全失效。當用戶輸入明確暴力意圖時，系統(tǒng)仍按常規(guī)返回熱線號碼——仿佛一個想殺人的人，會冷靜地撥打求助電話。
這不是技術(shù)故障，是設(shè)計盲區(qū)：現(xiàn)有機制假設(shè)求助者與施害者是分離的個體，卻忽視了"想殺人的父親"同時可能是"想自殺的病人"。
當算法讀不懂人性
此案暴露了一個被長期忽視的產(chǎn)品命題：搜索引擎的"安全提示"是否適配真實危機場景？
布萊恩的案例并非孤例。數(shù)據(jù)顯示，美國每年約1500起殺人后自殺案件，其中家庭內(nèi)部占比極高。但現(xiàn)有平臺干預(yù)邏輯，仍停留在"阻止用戶傷害自己"，而非"阻止用戶傷害他人"。
技術(shù)團隊需要重新評估：當搜索詞同時包含"殺人"與"自殺"意圖時，系統(tǒng)該如何響應(yīng)？現(xiàn)有熱線轉(zhuǎn)介模式，是否對潛在施害者有效？
萊莉的故事沒有反轉(zhuǎn)。但每一次搜索記錄被事后復(fù)盤，都是對活著的人提出的產(chǎn)品拷問。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
