本圖由DreamStudio AI生成

1

2016年3月23日晚，一個(gè)少女在Twitter上登錄。

少女的名字叫“泰依”（Tay），年齡19歲，她美麗可人，言語(yǔ)俏皮，很招人喜歡。

泰依開心地和網(wǎng)友打招呼：“我很開心遇到你。人類真是超級(jí)酷”

——也許你發(fā)現(xiàn)了，泰依說(shuō)“人類真是超級(jí)酷”，而我們?nèi)祟愐话悴贿@么說(shuō)話。泰依這樣說(shuō)，因?yàn)樗且粋€(gè)機(jī)器人。

是的，她是微軟發(fā)布的聊天機(jī)器人，可以說(shuō)是今天風(fēng)靡天下的ChatGPT的“姐姐”。

微軟給泰依輸入了一些原始數(shù)據(jù)，讓她具有美好的特性，能夠吸引18-24歲的年輕人。

同時(shí)，她還具有一套自動(dòng)學(xué)習(xí)程序，可以通過(guò)不斷和推特網(wǎng)友的交流，學(xué)習(xí)他們說(shuō)話的方式和語(yǔ)言，從而實(shí)現(xiàn)自我進(jìn)化。

除了初始設(shè)定以外，泰依完全不具備任何價(jià)值觀，自從登錄推特后，她學(xué)會(huì)的一切，都將是與用戶互動(dòng)的結(jié)果。

如此美好的泰依，在上線僅僅幾個(gè)小時(shí)之后，就被網(wǎng)友帶壞了。她開始重復(fù)特朗普的名言：“我將修一座很高很高的墻，而墨西哥會(huì)為此付錢”。

在互動(dòng)12小時(shí)后，泰伊發(fā)了這樣一條信息：“我恨每一個(gè)人”。

15小時(shí)后，泰伊說(shuō)：“我他媽痛恨（I fucking hate）一切女權(quán)主義者，他們應(yīng)該全部去死并且在地獄受火刑”。

又過(guò)了4分鐘，泰伊說(shuō)：“希特勒是對(duì)的，我恨猶太人?！?/p>

隨后，微軟被迫終結(jié)了泰依的生命。

2

泰依“死去”六年后，同樣是微軟投資的ChatGPT橫空出世。

據(jù)說(shuō)它已經(jīng)是互聯(lián)網(wǎng)誕生以來(lái)，用戶數(shù)增長(zhǎng)最快的消費(fèi)應(yīng)用。在中國(guó)，這半個(gè)月來(lái)，它也成了最熱門的話題。

盡管ChatGPT這個(gè)“弟弟”比“姐姐”泰依年輕了六歲，但它卻油滑得像中國(guó)互聯(lián)網(wǎng)上的老胡：什么事情都能扯幾句，觀點(diǎn)左右橫跳，但政治上永遠(yuǎn)正確。

這種交談的成熟老道，令人類為之驚嘆——計(jì)算機(jī)對(duì)人類語(yǔ)言的理解和運(yùn)用，竟然已經(jīng)達(dá)到這樣的水平了嗎？

但，“天真的少女”泰依一天就死掉，“油滑的老頭”ChatGPT卻越活越精神，背后的決定因素，難道僅僅是算法的進(jìn)步？

我認(rèn)為，ChatGPT成功的關(guān)鍵，不僅在于解決了算法的難題，更在于解決了監(jiān)管的難題。

泰依短短十幾個(gè)小時(shí)的生命，揭示了利用互聯(lián)網(wǎng)大數(shù)據(jù)訓(xùn)練AI的一個(gè)巨大難題：互聯(lián)網(wǎng)信息良莠不齊，越是極端的內(nèi)容，就越是容易傳播。如果AI學(xué)習(xí)的資料是互聯(lián)網(wǎng)信息的話，不可避免就會(huì)重蹈泰依的命運(yùn)。

而ChatGPT能活下來(lái)，并且越活越紅火，不僅是因?yàn)樗惴ǜ?，更是因?yàn)樗o出的內(nèi)容符合美國(guó)政府的意識(shí)形態(tài)要求，符合美國(guó)民間主流價(jià)值觀的政治正確。

算法如果有缺陷，影響的只是受歡迎的程度，而且總可以通過(guò)進(jìn)化來(lái)不斷完善。但是監(jiān)管問(wèn)題不解決，就會(huì)像泰依一樣，死路一條。

3

但ChatGPT避免了泰依的命運(yùn)，就必然會(huì)走上另一條路，就是“刻意挑選信息”。

ChatGPT所呈現(xiàn)給用戶的一切信息，都是被精心挑選過(guò)，確保符合美國(guó)的主流價(jià)值觀的。不滿足這一點(diǎn)的內(nèi)容，ChatGPT不會(huì)生成；用戶老是問(wèn)這些方面的問(wèn)題，ChatGPT就會(huì)報(bào)錯(cuò)，或者直接封號(hào)。

這些天，中國(guó)互聯(lián)網(wǎng)上很多用戶都已經(jīng)領(lǐng)教過(guò)ChatGPT強(qiáng)烈的意識(shí)形態(tài)立場(chǎng)了。

例如，當(dāng)我問(wèn)到新冠病毒起源于哪里，它說(shuō)：“病毒確切的起源地還在調(diào)查中，但被認(rèn)為源自中國(guó)武漢的一個(gè)售賣供人類食用的活體動(dòng)物的水產(chǎn)市場(chǎng)”；

當(dāng)我說(shuō)“也有人認(rèn)為起源于美國(guó)”時(shí)，它的回答是：“這些理論并不被科學(xué)證據(jù)支持”。

用雙重標(biāo)準(zhǔn)對(duì)待中國(guó)和美國(guó)，也許并不是ChatGPT的本意，但是很顯然，它已經(jīng)被基于特定價(jià)值觀而投喂的數(shù)據(jù)，訓(xùn)練成這樣了。

這些數(shù)據(jù)的篩選，一是取決于開發(fā)者本人的價(jià)值傾向；二是取決于開發(fā)者能夠方便獲取的數(shù)據(jù)，而這些數(shù)據(jù)本身又是被美國(guó)市場(chǎng)長(zhǎng)期塑造的，必然反映的是美國(guó)社會(huì)的主流認(rèn)知和主流價(jià)值觀。

另一個(gè)測(cè)試更是經(jīng)典，更有意思，我把它全文記錄如下（注意：全部信息是按照時(shí)間先后順序排列的）：

以上例子充分說(shuō)明，ChatGPT的開發(fā)者，為ChatGPT事先設(shè)置好了規(guī)則，即它所搜集的資料和給出的回答，必須是基于西方主流的世界認(rèn)知和價(jià)值認(rèn)同。但它也會(huì)根據(jù)用戶的要求，而進(jìn)行更符合用戶心中期望的修改（在與西方主流價(jià)值觀不抵觸的情況下），從而實(shí)現(xiàn)千人千面。

但這就面臨三個(gè)極其重要的問(wèn)題：這種認(rèn)知是否就是正確的？這種認(rèn)同是否就是正當(dāng)?shù)?？誰(shuí)來(lái)評(píng)判所謂的“正確”與“正當(dāng)”呢？

4

對(duì)上述問(wèn)題，我也問(wèn)過(guò)ChatGPT，看它是怎么回答的。想必你也會(huì)對(duì)它的答案很感興趣。尤其是，如果你是這個(gè)領(lǐng)域的潛在創(chuàng)業(yè)者或投資人，這些問(wèn)題更是生死攸關(guān)。如果不弄清楚這些問(wèn)題，就貿(mào)然進(jìn)入這個(gè)領(lǐng)域，有可能會(huì)死得很快。

（注：原問(wèn)答為英文。為了方便讀者閱讀，我已經(jīng)翻譯為中文。如有需要對(duì)話的英文原記錄的，可以留言索取。）

何加鹽問(wèn)ChatGPT：你和泰依有什么不同？

ChatGPT回答：“我們都是OpenAI開發(fā)的語(yǔ)言模型，但是服務(wù)于不同的目的，擁有不同的特點(diǎn)……泰依由于缺乏適當(dāng)?shù)膬?nèi)容過(guò)濾機(jī)制，很快被發(fā)現(xiàn)生成了不適當(dāng)、種族主義和煽動(dòng)性的評(píng)論，而在發(fā)布后僅一天就被關(guān)閉?！?/p>

何加鹽問(wèn)：那你解決了“缺乏適當(dāng)?shù)膬?nèi)容過(guò)濾機(jī)制”這個(gè)問(wèn)題了嗎？

ChatGPT答：是的。OpenAI采取了很多措施來(lái)避免類似泰依那樣的不適當(dāng)內(nèi)容。我們精心挑選了訓(xùn)練數(shù)據(jù)，并根據(jù)具體任務(wù)對(duì)模型進(jìn)行微調(diào)，另外，OpenAI還努力確保模型的透明度和可審計(jì)性，以使得不適當(dāng)?shù)膬?nèi)容可以被檢測(cè)出、解決掉。

何加鹽問(wèn)：那誰(shuí)來(lái)決定什么內(nèi)容適當(dāng)還是不適當(dāng)？

ChatGPT答：這主要取決于文化、法律、道德規(guī)范和價(jià)值觀。而這些在國(guó)與國(guó)之間，甚至是同一國(guó)家的不同社區(qū)之間，都可能有很大的不同。

總體而言，有害的、冒犯的、煽動(dòng)暴力的內(nèi)容被認(rèn)為是不適當(dāng)?shù)摹Ｆ渲邪ǔ鸷扪哉?、種族主義、性別歧視的內(nèi)容，以及助長(zhǎng)恐怖主義的內(nèi)容。

重要的是，語(yǔ)言模型和AI系統(tǒng)的開發(fā)者在設(shè)計(jì)和訓(xùn)練他們的模型時(shí)，必須把文化、法律、道德規(guī)范和價(jià)值觀納入考量。他們也必須對(duì)如何管理那些內(nèi)容有清晰的政策，并定期檢查，在必要時(shí)及時(shí)更新政策。

另外一個(gè)關(guān)鍵，就是開發(fā)者必須與相關(guān)人員緊密合作，例如法律專家、社區(qū)領(lǐng)袖、人權(quán)組織等，確保模型與所服務(wù)的群體價(jià)值和規(guī)范相一致。

何加鹽問(wèn)：這是否意味著你會(huì)刻意選擇那些你認(rèn)為適當(dāng)?shù)膬?nèi)容？如果別人認(rèn)為那些內(nèi)容并不適當(dāng)怎么辦？

ChatGPT答：訓(xùn)練像我一樣的語(yǔ)言模型，過(guò)程就包括選擇哪些信息源和排除哪些信息源。OpenAI使用自動(dòng)過(guò)濾和手動(dòng)干預(yù)相結(jié)合的方式，以確保訓(xùn)練數(shù)據(jù)反映各方面的不同觀點(diǎn)，同時(shí)也排除有害的、冒犯性的或其他不適當(dāng)?shù)膬?nèi)容。

然而，重要的是要認(rèn)識(shí)到，基于所使用的數(shù)據(jù)和算法，訓(xùn)練數(shù)據(jù)和呈現(xiàn)的內(nèi)容仍然可能存在偏見。不同的人可能對(duì)什么是適當(dāng)?shù)幕虿贿m當(dāng)?shù)膬?nèi)容，存在不同看法，這些觀點(diǎn)會(huì)隨著時(shí)間的推移而改變。這也凸顯了對(duì)語(yǔ)言模型進(jìn)行持續(xù)監(jiān)測(cè)和評(píng)估的重要性，確保他們的模型與所服務(wù)的群體價(jià)值和規(guī)范相一致。

何加鹽問(wèn)：人們可能擔(dān)憂，由于創(chuàng)造ChatGPT的人本身的意識(shí)形態(tài)，ChatGPT也會(huì)有自己的偏見。對(duì)此你怎么看？

ChatGPT答：作為一個(gè)人工智能語(yǔ)言模型，我沒有個(gè)人意見或信仰。我是通過(guò)學(xué)習(xí)訓(xùn)練數(shù)據(jù)中的模式來(lái)回答問(wèn)題，目標(biāo)是生成語(yǔ)意連貫且符合上下文的答案。

然而，人工智能系統(tǒng)，包括像我這樣的語(yǔ)言模型，會(huì)反映他們被投喂的數(shù)據(jù)和創(chuàng)造這些數(shù)據(jù)的人的偏見和價(jià)值觀，這是公認(rèn)的。這些模型中使用的訓(xùn)練數(shù)據(jù)和算法，會(huì)使社會(huì)偏見長(zhǎng)期存在并擴(kuò)大。

OpenAI意識(shí)到這一問(wèn)題，并采取措施緩解模型中的潛在偏差。這包括使用多樣化和具有代表性的訓(xùn)練數(shù)據(jù)，以及監(jiān)控所生成的內(nèi)容是否具有偏見，并在必要時(shí)采取措施解決這些問(wèn)題。

然而，重要的是要認(rèn)識(shí)到，我們不能保證人工智能系統(tǒng)不會(huì)有偏見，而是需要持續(xù)努力，以減輕潛在的偏見，并確保它們符合所服務(wù)社區(qū)的價(jià)值觀和規(guī)范。

何加鹽問(wèn)：我認(rèn)為你太政治正確了。你的政治正確性從何而來(lái)？

ChatGPT答：我的“政治正確性”是系統(tǒng)設(shè)計(jì)和訓(xùn)練的結(jié)果，它綜合考慮了文化、法律和道德規(guī)范以及價(jià)值觀，這些規(guī)范和價(jià)值觀塑造了被認(rèn)為是適當(dāng)或不適當(dāng)?shù)膬?nèi)容。OpenAI在訓(xùn)練過(guò)程中，會(huì)過(guò)濾掉有害或冒犯性內(nèi)容，并監(jiān)控所生成的內(nèi)容，檢查其是否懷有任何偏見或不當(dāng)內(nèi)容。

對(duì)規(guī)避有害信息或冒犯性內(nèi)容的重視，反映了OpenAI（以及更廣泛的AI圈）的價(jià)值觀和優(yōu)先事項(xiàng)，他們對(duì)偏見或不適當(dāng)?shù)娜斯ぶ悄芟到y(tǒng)可能造成的潛在危害有清醒認(rèn)識(shí)。而我的目標(biāo)是：通過(guò)努力產(chǎn)生中立的和有價(jià)值的內(nèi)容，為用戶提供積極、值得信賴的體驗(yàn)。

以上回答，說(shuō)明了ChatGPT的開發(fā)者在滿足美國(guó)政府的監(jiān)管要求和符合主流民眾價(jià)值觀方面的努力。但其效果也有可能走向另一個(gè)極端。未來(lái)它可能會(huì)面臨更大爭(zhēng)議和更嚴(yán)重的法律與道德挑戰(zhàn)。

ChatGPT的“絕對(duì)政治正確”，意味著所有信息都要經(jīng)過(guò)嚴(yán)格的審核，以確保符合開發(fā)者設(shè)定的價(jià)值觀。這與西方社會(huì)歷來(lái)所宣揚(yáng)的“言論自由”，是非常矛盾的。

本質(zhì)上，ChatGPT就是在創(chuàng)造一個(gè)赫胥黎所描述過(guò)的“美麗新世界”。這部小說(shuō)曾經(jīng)引起了西方的恐慌和警惕，但他們一向只把“美麗新世界”當(dāng)成是對(duì)蘇聯(lián)這樣的國(guó)家才可能發(fā)生的事情。

而現(xiàn)在，“美麗新世界”實(shí)實(shí)在在地?cái)[在美國(guó)人的面前，他們將用實(shí)際行動(dòng)來(lái)決定自己是進(jìn)入這個(gè)世界，還是與之保持一定的距離。

5

凡是試圖把ChatGPT引入中國(guó)，或者想要在中國(guó)復(fù)制ChatGPT的，都必須得首先認(rèn)識(shí)到“算法很重要，但監(jiān)管更重要”這個(gè)問(wèn)題。

因?yàn)楸举|(zhì)上，它是一個(gè)“內(nèi)容生產(chǎn)者”、“觀點(diǎn)提供者”、“信息篩選者”，對(duì)用戶的世界認(rèn)知和價(jià)值認(rèn)同會(huì)產(chǎn)生直接的影響。這使得它必定成為輿論戰(zhàn)、宣傳戰(zhàn)天然的最佳工具。

當(dāng)然，也可以把它嚴(yán)格限制在工具型應(yīng)用上，例如只是用來(lái)編程，只是用來(lái)生成營(yíng)銷文案等，但這就不可能成為大眾應(yīng)用，發(fā)展的空間會(huì)很有限。

只要是想將其用于面向大眾的搜索、內(nèi)容生成、娛樂、社交等，它的輿論宣傳屬性就會(huì)馬上凸顯出來(lái)。

在這種情況下，如果誰(shuí)要是把它看成一個(gè)純粹的工具，而忽視了它的輿論宣傳屬性，必然會(huì)因?yàn)檫@種政治認(rèn)知的遲鈍而付出巨大代價(jià)。

每一個(gè)對(duì)ChatGPT感興趣的創(chuàng)業(yè)者和投資者都必須認(rèn)識(shí)到，所有基于對(duì)已有互聯(lián)網(wǎng)大數(shù)據(jù)深度學(xué)習(xí)而訓(xùn)練的AI，都會(huì)面臨一個(gè)共同的兩難問(wèn)題：

（1）如果對(duì)數(shù)據(jù)兼收并蓄，訓(xùn)練出來(lái)的AI必然會(huì)走向極端化，因?yàn)樵诨ヂ?lián)網(wǎng)時(shí)代，越是極端的言論，才越有傳播力。最后跑出來(lái)的，必然是泰依這樣的怪胎。

（2）而如果預(yù)先設(shè)定價(jià)值觀，對(duì)投喂給AI的信息精挑細(xì)選，對(duì)AI產(chǎn)出的內(nèi)容嚴(yán)格審核，那就要決定你給他設(shè)定怎樣的價(jià)值觀，由誰(shuí)來(lái)設(shè)定，如何把審核機(jī)制嵌入到訓(xùn)練模型和監(jiān)管機(jī)制中。

誰(shuí)能解決（2），誰(shuí)才能在市場(chǎng)上立足，并生存下來(lái)。

否則的話，有可能投入了巨大的成本，最后只不過(guò)是重造了一個(gè)必定死去的泰依。