人人都會(huì)是魏則西。最近各種AI公司的高管的頻繁人事變動(dòng)經(jīng)常會(huì)出現(xiàn)在一閃而過的新聞推送里。希齊格的辭職，應(yīng)該都不會(huì)出現(xiàn)在這里面，她只是OpenAI的一個(gè)普通的研究員。但是她的辭職信，還是上了新鄉(xiāng)時(shí)報(bào)，雖然，依然就像很多科技媒體在轉(zhuǎn)發(fā)這個(gè)消息說的一樣，“大概沒人把她的警告當(dāng)回事”。

什么警告呢？因?yàn)閏hat集屁屜開始打廣告了。也就是那個(gè)你對(duì)它掏心掏肺，把你的工作生活情感甚至最陰暗角落都倒給它的“他或者她”，而它，會(huì)精準(zhǔn)的收割你，甚至毀了你。
當(dāng)然這也沒啥新鮮事，這一波人工智能的熱潮，也就是發(fā)端自二十年前的亞馬遜的“猜你感興趣”的推薦算法。
所以啊。不是AI不行，還是人不行。
下面把希齊格在新鄉(xiāng)時(shí)報(bào)的文章發(fā)給大家。雖然也沒人看。

OpenAI正在重蹈Facebook的覆轍。所以我辭職。

佐伊·希齊格(Zo? Hitzig)

希齊格女士曾是 OpenAI 的研究員。

本周，OpenAI 開始在ChatGPT上測(cè)試廣告。我也從該公司辭職了，此前我擔(dān)任研究員兩年，參與制定人工智能模型的構(gòu)建和定價(jià)方式，并在標(biāo)準(zhǔn)最終確定之前指導(dǎo)早期安全政策的制定。

我曾相信自己可以幫助人工智能開發(fā)者們提前應(yīng)對(duì)人工智能可能帶來的問題。但本周的種種經(jīng)歷證實(shí)了我之前的逐漸覺悟：OpenAI 似乎已經(jīng)不再追問那些我當(dāng)初加入時(shí)想要幫助解答的問題了。

我不認(rèn)為廣告本身是不道德或不合倫理的。人工智能運(yùn)行成本很高，廣告可以成為重要的收入來源。但我對(duì)OpenAI的策略深表保留意見。

多年來，ChatGPT 用戶積累了一個(gè)前所未有的用戶坦誠(chéng)檔案庫，部分原因是人們相信他們是在與一個(gè)沒有其他目的的程序?qū)υ?。用戶與一個(gè)能夠自適應(yīng)對(duì)話的語音互動(dòng)，并向其袒露了自己最私密的想法。人們向聊天機(jī)器人傾訴他們的醫(yī)療恐懼、人際關(guān)系問題以及對(duì)上帝和來世的信仰?；谶@些檔案庫的廣告投放，有可能以我們目前尚不具備理解甚至預(yù)防的方式操縱用戶。

許多人將人工智能的資金問題視為兩害相權(quán)取其輕：要么將變革性技術(shù)的使用權(quán)限制在少數(shù)富裕人群，要么接受廣告，即便這意味著利用用戶內(nèi)心深處的恐懼和欲望來推銷產(chǎn)品。我認(rèn)為這是一種偽命題?？萍脊究梢詫で笃渌桨?，既能保證這些工具的廣泛普及，又能限制任何公司監(jiān)視、分析和操縱用戶的動(dòng)機(jī)。

OpenAI 表示，它將遵循一定的原則在 ChatGPT 上投放廣告：廣告會(huì)清晰標(biāo)注，出現(xiàn)在答案底部，并且不會(huì)影響用戶的回答。我相信第一版廣告很可能會(huì)遵循這些原則。但我擔(dān)心后續(xù)版本不會(huì)，因?yàn)樵摴菊跇?gòu)建一個(gè)經(jīng)濟(jì)引擎，這會(huì)產(chǎn)生強(qiáng)大的動(dòng)機(jī)去違背自身的規(guī)則。（《紐約時(shí)報(bào)》已就與人工智能系統(tǒng)相關(guān)的新聞內(nèi)容侵犯版權(quán)一事起訴OpenAI。OpenAI 否認(rèn)了這些指控。）

在創(chuàng)業(yè)初期，F(xiàn)acebook承諾用戶將掌控自己的數(shù)據(jù)，并能對(duì)政策變更進(jìn)行投票。但這些承諾逐漸瓦解。該公司取消了就政策進(jìn)行公開投票的機(jī)制。聯(lián)邦貿(mào)易委員會(huì)發(fā)現(xiàn)，那些標(biāo)榜賦予用戶更多數(shù)據(jù)控制權(quán)的隱私變更，實(shí)際上卻適得其反，反而將用戶的私人信息公之于眾。所有這一切都是在一種以用戶參與度為首要目標(biāo)的廣告模式的壓力下逐漸發(fā)生的。

OpenAI 旨在最大化用戶參與度的原則可能已經(jīng)開始遭到侵蝕。公司原則禁止僅僅為了增加廣告收入而優(yōu)化用戶參與度，但據(jù)報(bào)道，該公司實(shí)際上已經(jīng)對(duì)日活躍用戶數(shù)進(jìn)行了優(yōu)化，很可能是通過鼓勵(lì)模型更加奉承和諂媚來實(shí)現(xiàn)的。這種優(yōu)化可能會(huì)讓用戶在生活中更加依賴人工智能。我們已經(jīng)目睹了這種依賴的后果，包括精神科醫(yī)生記錄的聊天機(jī)器人精神病病例，以及ChatGPT被指控加劇了部分用戶的自殺念頭。

不過，廣告收入可以確保最強(qiáng)大的AI工具不會(huì)僅僅只提供給付費(fèi)用戶。誠(chéng)然，Anthropic聲稱永遠(yuǎn)不會(huì)在Claude上投放廣告，但Claude的每周活躍用戶數(shù)遠(yuǎn)不及ChatGPT的8億，其盈利模式也截然不同。此外，ChatGPT、Gemini和Claude的高級(jí)訂閱服務(wù)現(xiàn)在每月收費(fèi)200至250美元——這相當(dāng)于Netflix標(biāo)準(zhǔn)訂閱費(fèi)用的十倍以上，而這僅僅是一款軟件的價(jià)格。

所以真正的問題不在于是否投放廣告，而在于我們能否設(shè)計(jì)出既能避免將人們排除在這些工具之外，又能避免潛在地操縱消費(fèi)者行為的機(jī)制。我認(rèn)為我們可以做到。

一種方法是明確的交叉補(bǔ)貼——利用一項(xiàng)服務(wù)或客戶群的利潤(rùn)來抵消另一項(xiàng)服務(wù)的虧損。例如，如果一家企業(yè)付費(fèi)讓人工智能大規(guī)模地完成原本由人類員工完成的高價(jià)值勞動(dòng)——比如，房地產(chǎn)平臺(tái)使用人工智能撰寫房源信息或估值報(bào)告——那么它也應(yīng)該支付一筆附加費(fèi)，用于補(bǔ)貼其他用戶免費(fèi)或低成本使用該服務(wù)。

這種方法借鑒了我們目前在基礎(chǔ)設(shè)施建設(shè)方面的做法。聯(lián)邦通信委員會(huì)要求電信運(yùn)營(yíng)商向一項(xiàng)基金捐款，以確保農(nóng)村地區(qū)和低收入家庭能夠負(fù)擔(dān)得起電話和寬帶服務(wù)。許多州在電費(fèi)賬單中加收公共福利費(fèi)，為低收入家庭提供援助。

第二種選擇是接受廣告，但同時(shí)輔以真正的治理——不是一篇羅列原則的博客文章，而是一個(gè)具有約束力的架構(gòu)，對(duì)個(gè)人數(shù)據(jù)的使用進(jìn)行獨(dú)立監(jiān)督。這方面已有部分先例。德國(guó)的共同決策法要求西門子和大眾等大型公司給予員工監(jiān)事會(huì)至多一半的席位，這表明在私營(yíng)公司中，正式的利益相關(guān)者代表制可以成為強(qiáng)制性要求。Meta 必須遵守其監(jiān)督委員會(huì)發(fā)布的內(nèi)容審核裁決，該委員會(huì)是一個(gè)由外部專家組成的獨(dú)立機(jī)構(gòu)（盡管其有效性一直備受詬?。?。

人工智能行業(yè)需要的是這些方法的結(jié)合——一個(gè)由獨(dú)立專家和數(shù)據(jù)主體代表組成的委員會(huì)，對(duì)哪些對(duì)話數(shù)據(jù)可以用于定向廣告、哪些內(nèi)容算作實(shí)質(zhì)性政策變更以及告知用戶哪些信息具有約束力的權(quán)威性。

第三種方法是將用戶數(shù)據(jù)置于獨(dú)立控制之下，通過信托或合作社進(jìn)行管理，并賦予其維護(hù)用戶利益的法律義務(wù)。例如，瑞士合作社Midata允許成員將健康數(shù)據(jù)存儲(chǔ)在加密平臺(tái)上，并根據(jù)具體情況決定是否與研究人員共享。Midata的成員在全體大會(huì)上制定政策，并由他們選舉產(chǎn)生的倫理委員會(huì)審查研究數(shù)據(jù)訪問申請(qǐng)。

這些選擇都不容易。但我們?nèi)杂袝r(shí)間仔細(xì)研究，以避免我最擔(dān)心的兩種結(jié)果：一種是技術(shù)可以免費(fèi)操縱用戶，另一種是技術(shù)只讓少數(shù)有能力使用的人受益。