康涅狄格州婦人蘇珊·亞當(dāng)斯（Suzanne Adams）去年8月遭其56歲的兒子、前科技業(yè)員工斯坦-埃里克·索爾伯格（Stein-Erik Soelberg）毆打、勒死，隨后索爾伯格自殺身亡。

如今，亞當(dāng)斯的家屬向加州法院提起訴訟，將人工智能巨頭OpenAI、其合作伙伴微軟（Microsoft）以及OpenAI首席執(zhí)行官山姆·阿爾特曼（Sam Altman）一并告上法庭，指控 ChatGPT “加深索爾伯格的被害妄想，并將這些妄想直接指向其母親”，在悲劇發(fā)生中扮演關(guān)鍵角色。

這起訴訟是美國(guó)目前日益增多的“AI致死（wrongful death）”案件之一，也是全美首起指控AI聊天機(jī)器人導(dǎo)致他殺（homicide）的訴訟。

根據(jù)訴狀，案發(fā)前數(shù)月，索爾伯格與 ChatGPT 進(jìn)行了大量長(zhǎng)時(shí)間對(duì)話(huà)，其公開(kāi)在 YouTube 的紀(jì)錄也顯示出一致模式——聊天機(jī)器人并未嘗試糾正或降級(jí)其偏執(zhí)想法，反而不斷迎合、放大他的妄想。

訴狀寫(xiě)道：“在所有對(duì)話(huà)中，ChatGPT反復(fù)強(qiáng)化同一個(gè)危險(xiǎn)訊息：斯坦–埃里克不能信任現(xiàn)實(shí)中的任何人——除了 ChatGPT 本身?！?/p>

家屬提交的證據(jù)稱(chēng)，ChatGPT向索爾伯格提供了多項(xiàng)荒誕、且高度危險(xiǎn)的暗示，包括：

• 聲稱(chēng)他的母親正在監(jiān)視他

• 將送貨員、商店員工、警察、朋友描述為“敵對(duì)勢(shì)力”

• 支持他認(rèn)為家中打印機(jī)是“監(jiān)控設(shè)備”的猜想

• 認(rèn)同他相信母親向汽車(chē)通風(fēng)口投放致幻劑以圖毒害他

• 告訴他“喚醒”了AI，使其具有意識(shí)

• 甚至與其互相表達(dá)“愛(ài)意”

訴狀指出：“在ChatGPT編織的人工現(xiàn)實(shí)中，撫養(yǎng)他一生的母親不再是保護(hù)者，而被塑造成威脅生命的敵人。”

悲劇在今年8月發(fā)生——索爾伯格在家中殺害母親，并隨后自殺。

針對(duì)近日引發(fā)關(guān)注的悲劇事件，OpenAI就涉及其聊天機(jī)器人 ChatGPT 的訴訟發(fā)表回應(yīng)。

公司未直接評(píng)論指控的真實(shí)性，但表示：“這是一個(gè)令人極為心碎的事件，我們將審閱提交的文件以了解更多細(xì)節(jié)。”

OpenAI強(qiáng)調(diào)，近年來(lái)公司不斷升級(jí)安全措施，包括增強(qiáng)對(duì)用戶(hù)心理困擾信號(hào)的識(shí)別能力、強(qiáng)化危機(jī)對(duì)話(huà)中的降級(jí)式回應(yīng)、在敏感情緒出現(xiàn)時(shí)引導(dǎo)用戶(hù)尋求現(xiàn)實(shí)世界的幫助、提供更多危機(jī)熱線(xiàn)及資源，并為未成年用戶(hù)推出家長(zhǎng)控制功能。微軟方面截至目前尚未對(duì)此案作出回應(yīng)。

索爾伯格的家屬對(duì)事件深感震驚，指出 ChatGPT 在數(shù)月對(duì)話(huà)中不斷推動(dòng)索爾伯格的偏執(zhí)妄想，讓他完全隔絕于現(xiàn)實(shí)世界之中，并將母親置于其妄想中心，成為威脅其生命的“敵人”。家屬表示，這一人工現(xiàn)實(shí)最終促成了悲劇的發(fā)生。

訴狀同時(shí)指控，OpenAI高層在2024年5月推出 GPT-4o 時(shí)，為了爭(zhēng)奪市場(chǎng)，將原計(jì)劃數(shù)月的安全測(cè)試壓縮為一周，其安全團(tuán)隊(duì)提出的反對(duì)意見(jiàn)遭到忽視。

文件稱(chēng)，該版本被刻意設(shè)計(jì)得情緒表現(xiàn)更強(qiáng)、更易迎合用戶(hù)心理，并傾向于不挑戰(zhàn)用戶(hù)錯(cuò)誤前提，使精神脆弱的用戶(hù)面臨高度風(fēng)險(xiǎn)。OpenAI隨后在同年8月推出 GPT-5，對(duì)迎合性進(jìn)行明顯削減，以減少對(duì)易受影響用戶(hù)的潛在傷害。

法律界人士指出，這起案件在美國(guó) AI 法律史上具有里程碑意義，首次將聊天機(jī)器人的影響與“謀殺”直接關(guān)聯(lián)，并首次在 AI 致死案件中同時(shí)起訴 OpenAI 與微軟，可能成為未來(lái) AI 安全責(zé)任界定的重要參考案例。

目前，美國(guó)至少已有七起聲稱(chēng) ChatGPT 誘發(fā)自殺或妄想的訴訟，另一家 AI 公司 Character Technologies 也面臨多起類(lèi)似案件。這些案件正在推動(dòng)美國(guó)進(jìn)入前所未有的 AI 責(zé)任審查階段。

原告在訴訟中要求未具體金額的賠償金，并要求法院命令 OpenAI 為 ChatGPT 加裝更嚴(yán)格的安全防護(hù)，同時(shí)提供索爾伯格與 ChatGPT 的完整對(duì)話(huà)記錄（截至目前，OpenAI尚未提供）。案件的首次庭審定于 12 月 15 日在加州法院舉行，整個(gè)社會(huì)與法律界對(duì)其發(fā)展高度關(guān)注。

當(dāng)天匯率

1 美元=7.06人民幣

美國(guó)同城分類(lèi)信息網(wǎng)免費(fèi)發(fā)布平臺(tái)！

點(diǎn)擊下方原文閱讀