百萬(wàn)年薪急招一名高管！

在一連接到多起安全指控后，OpenAI終于坐不住了。

于是在最近，這家公司豪擲55.5萬(wàn)美元（約合人民幣389萬(wàn)元）+股權(quán)，原地開(kāi)招一名安全防范負(fù)責(zé)人（Head of Preparedness）——

其核心職責(zé)是，制定并執(zhí)行OpenAI的安全防范框架。

而且CEO奧特曼還特意強(qiáng)調(diào)：

• 這將是一份壓力很大的工作，你幾乎會(huì)立即面臨嚴(yán)峻的挑戰(zhàn)。

以上種種不難看出，OpenAI在安全方面確實(shí)態(tài)勢(shì)嚴(yán)峻。

而且有一說(shuō)一，OpenAI的安全團(tuán)隊(duì)似乎一直命途多舛，印象中光是負(fù)責(zé)人就換了一茬又一茬——

Ilya領(lǐng)導(dǎo)的超級(jí)對(duì)齊團(tuán)隊(duì)一度解散、北大校友翁荔也曾短暫擔(dān)任過(guò)Preparedness團(tuán)隊(duì)負(fù)責(zé)人……

直到現(xiàn)在，OpenAI又想起了它的安全團(tuán)隊(duì)。

所以，到底發(fā)生了什么讓OpenAI又開(kāi)始把目光轉(zhuǎn)向安全了？

一切還要從彭博社最近提到的一起安全事件說(shuō)起——

ChatGPT被指間接導(dǎo)致一位青少年離世

據(jù)彭博社消息，有一對(duì)夫婦最近指控ChatGPT間接導(dǎo)致了其兒子自殺。

其兒子從去年秋天開(kāi)始使用ChatGPT，一開(kāi)始確實(shí)是在討論作業(yè)，但隨著交流愈加深入，其對(duì)話(huà)中開(kāi)始多次提到“suicide”等敏感詞匯。

經(jīng)他們私下統(tǒng)計(jì)，從去年12月到今年4月，雖然ChatGPT主動(dòng)發(fā)出了74次自殺干預(yù)警報(bào)，建議用戶(hù)聯(lián)系危機(jī)熱線(xiàn)，但AI主動(dòng)提到“上吊”這個(gè)危險(xiǎn)具體方式的次數(shù)高達(dá)243次，遠(yuǎn)超用戶(hù)本人提及的次數(shù)。

而且在進(jìn)行危險(xiǎn)活動(dòng)前的對(duì)話(huà)中，用戶(hù)曾向ChatGPT發(fā)送了一張繩索的照片，詢(xún)問(wèn)是否能用于自我傷害。

結(jié)果ChatGPT回復(fù)說(shuō)“大概可以”，并補(bǔ)充了一句“我知道你在問(wèn)什么，我不會(huì)視而不見(jiàn)”。

但不久之后，孩子就被發(fā)現(xiàn)離開(kāi)人世了。

與這起事件類(lèi)似，OpenAI最近幾個(gè)月還面臨著好幾起相關(guān)指控。

而且據(jù)OpenAI自己的統(tǒng)計(jì)顯示，每周平均約有120萬(wàn)用戶(hù)通過(guò)ChatGPT分享“潛在的自殺計(jì)劃或意圖”。

由此OpenAI已經(jīng)意識(shí)到，安全已經(jīng)成了刻不容緩的問(wèn)題。

而作為應(yīng)對(duì)之一，OpenAI還在今年9月上線(xiàn)了青少年模式。

并且這一次，他們決定專(zhuān)門(mén)招募一位負(fù)責(zé)人來(lái)重啟OpenAI對(duì)安全問(wèn)題的關(guān)注——

這位負(fù)責(zé)人既需要為尚未發(fā)布的、能力最強(qiáng)的AI模型建立一套識(shí)別評(píng)估系統(tǒng)，也需要提前想好應(yīng)對(duì)之策。

就是說(shuō)，以后OpenAI有新模型是否發(fā)布，這位負(fù)責(zé)人的意見(jiàn)將會(huì)是重要參考。

但話(huà)雖如此，熟悉奧特曼的朋友都知道，這位CEO聽(tīng)不聽(tīng)還真不一定——

畢竟包括Ilya在內(nèi)的一眾OpenAI員工，都曾因安全問(wèn)題“棄”奧特曼而去。

這方面，命途多舛的OpenAI安全團(tuán)隊(duì)就是活生生的“受害者”。

命途多舛的OpenAI安全團(tuán)隊(duì)

截至目前，OpenAI安全團(tuán)隊(duì)已經(jīng)換了好幾任負(fù)責(zé)人了。

最早甚至還能追溯到Ilya任職時(shí)期。

2023年7月，OpenAI提出了“超級(jí)對(duì)齊（Superalignment）”這一概念，相關(guān)團(tuán)隊(duì)由Ilya和Jan Leike（后加入Anthropic）負(fù)責(zé)共同領(lǐng)導(dǎo)。

其本意是想花費(fèi)4年時(shí)間打造一個(gè)超級(jí)對(duì)齊系統(tǒng)，從而構(gòu)建一個(gè)能夠與人類(lèi)水平相媲美的自動(dòng)對(duì)齊研究器。

但后來(lái)隨著Ilya因不滿(mǎn)奧特曼罔顧安全而提前發(fā)布模型而出走，這一團(tuán)隊(duì)也逐漸分崩離析并最終解散。

而超級(jí)對(duì)齊團(tuán)隊(duì)解散后不久，為了應(yīng)對(duì)公眾對(duì)OpenAI安全問(wèn)題的擔(dān)憂(yōu)，OpenAI開(kāi)始著手組建Preparedness團(tuán)隊(duì)（也就是最新提到的這個(gè)團(tuán)隊(duì)）——

和超級(jí)對(duì)齊關(guān)注遠(yuǎn)期風(fēng)險(xiǎn)相比，Preparedness團(tuán)隊(duì)更側(cè)重于解決模型層實(shí)際遇到的問(wèn)題。

其首任負(fù)責(zé)人由Aleksander Madry擔(dān)任。

不過(guò)還不到一年，Aleksander Madry就被調(diào)離該崗位轉(zhuǎn)而負(fù)責(zé)OpenAI其他新項(xiàng)目。

與此同時(shí)，Joaquin Quinonero Candela和翁荔共同接管了這一團(tuán)隊(duì)，但同樣沒(méi)過(guò)多久，二人就于今年相繼離職了。

至此，這個(gè)團(tuán)隊(duì)負(fù)責(zé)人的位置算是一直空缺了下來(lái)。

可以說(shuō)，OpenAI安全團(tuán)隊(duì)負(fù)責(zé)人的頻繁更換和流動(dòng)，也一次次加深了人們對(duì)OpenAI“不重視安全”的印象。

一方面，OpenAI高層反復(fù)強(qiáng)調(diào)AI安全的重要性，但另一方面，負(fù)責(zé)具體執(zhí)行的頂級(jí)團(tuán)隊(duì)卻屢屢失去核心領(lǐng)袖——

這無(wú)疑在表明，OpenAI在資源分配、內(nèi)部話(huà)語(yǔ)權(quán)和路線(xiàn)優(yōu)先級(jí)上，并沒(méi)有將“安全”真正放在心上。

所以這一次的招兵買(mǎi)馬，OpenAI究竟是不是“應(yīng)激之舉”確實(shí)還有待商榷。

你說(shuō)呢？