国产av一二三区|日本不卡动作网站|黄色天天久久影片|99草成人免费在线视频|AV三级片成人电影在线|成年人aV不卡免费播放|日韩无码成人一级片视频|人人看人人玩开心色AV|人妻系列在线观看|亚洲av无码一区二区三区在线播放

網(wǎng)易首頁 > 網(wǎng)易號 > 正文 申請入駐

Anthropic AI安全大佬裸辭看心理醫(yī)生!“宗教式”狂熱、極度“混亂”,內(nèi)部開發(fā)正變成即興戲劇

0
分享至


整理 | 褚杏娟

眾所周知,Anthropic 一直把“AI 安全”掛在嘴邊,甚至把它當作公司最核心的自我定位。但就在今天,負責 AI 安全工作的研究員 Mrinank Sharma 宣布辭職,這件事本身就像一記反差極強的注腳:一個組織最強調(diào)的價值觀,卻最終無法留住最貼近它的人,那問題往往不只是個人選擇那么簡單。

在公開信里,Mrinank 說得很直白:這些年里,他一次又一次目睹“讓價值觀真正主導行動”有多難。他看見組織不斷面對各種壓力,于是最重要的事情被迫暫時擱置;而這種邏輯并不只發(fā)生在 Anthropic,而是整個社會層面的常態(tài)。

回看他在 Anthropic 的兩年,Mrinank 認為自己完成了當初來這里的初心。結(jié)束博士學業(yè)、搬到舊金山后,他幾乎把全部精力投入 AI 安全:研究 AI 迎合人類偏好的機制,搭建防范 AI 被用于生物恐怖主義的防御體系,并推動這些技術(shù)真正落地;他還參與撰寫了最早一批 AI 安全案例研究,為行業(yè)積累可復制的經(jīng)驗。

在所有成果里,他尤其看重內(nèi)部透明機制的建設,他認為這是組織把價值觀“落到行動上”的少數(shù)抓手之一。與此同時,他最后一個研究項目是關(guān)于 AI 助手是否可能削弱人性、扭曲人類本質(zhì)的討論,也被他視為一個重要的階段性成果。

但正是在這種“越深入越貼近現(xiàn)實”的過程中,他越來越清楚:自己站在一個必須重新選擇方向的節(jié)點上。對他而言,當今世界的風險并不只來自 AI 或生物技術(shù),而是多重系統(tǒng)性危機疊加的結(jié)果,真正危險的東西往往來自整體社會結(jié)構(gòu)的不穩(wěn)定。在組織內(nèi)部的實踐中,他也反復體會到讓價值觀真正主導行動的難度。

于是,在持續(xù)反思現(xiàn)實環(huán)境與內(nèi)心訴求的過程中,他決定去直面那些“不能被回避的問題”。這意味著離開原有體系,開啟新的探索。

離開后,他將搬回英國,并讓自己隱退一段時間。在推特評論區(qū)里,他提到自己也在嘗試進行心理治療。接下來,他希望把更多精力放在寫作上,把詩性認知與科學理性并置,作為理解現(xiàn)實、塑造技術(shù)的兩條同樣不可替代的路徑。他還計劃攻讀詩歌相關(guān)學位,持續(xù)練習公共表達,并深化自己在引導、教練、社區(qū)建設與群體協(xié)作方面的能力。

Mrinank 的離開也很快引發(fā)外界揣測與情緒化解讀。有網(wǎng)友嘲諷說:“看來 Anthropologie(故意寫錯以諷刺)真正關(guān)心 AI 安全的時代已經(jīng)過去了?當安全問題影響收入時,他們就會把它放一邊。我們在泄露的 Soul 文檔里就看到了這一點,里面六次提到收入?!?/p>

雖帶偏見,但它也提出一個問題:Anthropic 的真實立場到底是什么?它確實比許多競爭對手更認真地談安全,也更公開地把風險放在臺面上,但與此同時,它又在全速推進開發(fā)一些自己也承認“可能極其危險”的工具。這家公司像是被撕成兩半:一半在剎車,一半在油門。

對安全的執(zhí)著,像“宗教信仰“

這種撕裂并不是抽象的,它滲透在 Anthropic 的人才結(jié)構(gòu)與組織氣質(zhì)里。作為行業(yè)從業(yè)者,進入 Anthropic 的難度,被人形容為接近高中生或大學生進入 NFL 的概率。

前 Geoworks、Amazon、Google、Grab、Sourcegraph 員工 Steve Yegge 在過去四個月里和近 40 位 Anthropic 員工深入交流,從聯(lián)合創(chuàng)始人、高管到不同部門的一線成員,覆蓋研究、工程、市場、銷售、內(nèi)容與產(chǎn)品。

他認識的每一個 Anthropic 員工幾乎都是“精英中的精英”,甚至比 Google 巔峰時期還夸張。他說“證據(jù)之一是 Google 當年居然錄用了我,而我在那群人里幾乎是最菜的”。現(xiàn)在幾乎所有頂級人才都在往那里聚集,而這種場景他以前見過不止一次。

Steve 還提到,Anthropic 這家公司非常“封閉”,員工心里都清楚:只要低調(diào)做事、閉嘴干活,將來基本都會非常富有。幾乎每一個在那里工作的人,都處在一種高度興奮又極其投入的狀態(tài)里:他們知道一件可能改變社會結(jié)構(gòu)的大事正在發(fā)生,同時也隱約知道這件事對社會既可能是好事,也可能是巨大沖擊。

于是,他在 Anthropic 見到的每個人、每個團隊,都帶著一種奇妙的混合情緒:一半是興奮,一半是憂傷。幾乎每個人都處在一種高度興奮又極其投入的狀態(tài)里。所有人心里都清楚,一件可能改變整個社會的大事正在發(fā)生,同時也隱約知道,這對社會來說既可能是好事,也可能帶來巨大沖擊。

他甚至進一步推斷,Anthropic 員工們可能真的在為許多公司感到惋惜,因為太多企業(yè)根本沒有認真對待這場變革。2026 年可能成為壓垮大量公司的關(guān)鍵一年,而很多公司現(xiàn)在還沒意識到危險在逼近。Anthropic 一直試圖提醒外界,但這種提醒就像對一個一百年沒見過海嘯的沿海村莊喊“遠處發(fā)生了海底地震”,很難被認真對待。

這種“冷酷高效”的運轉(zhuǎn)方式,又與一個看似矛盾的根源綁定在一起:一種對使命極度執(zhí)著的文化。

Anthropic 由一批前 OpenAI 員工創(chuàng)立,他們認為 OpenAI 在安全問題上過于松懈,尤其在“AI 對人類生存構(gòu)成根本性風險”這件事上不夠嚴肅。久而久之,這種焦慮在公司內(nèi)部演變成近似“信仰”的意識形態(tài),而 CEO Dario Amodei 被視為精神領(lǐng)袖與思想象征。

據(jù)報道,他每個月兩次召集員工參加所謂的 “Dario Vision Quest”(DVQ),長時間演講如何構(gòu)建與人類價值觀對齊的可信 AI 系統(tǒng),也談地緣政治、勞動力市場沖擊等宏觀議題。接近公司的人甚至形容內(nèi)部氛圍像一個“宗教團體”,員工在使命上高度一致,對 Amodei 懷有近乎信仰般的認同。

“你去問任何一個人為什么來這里工作,答案都會是:為了讓 AI 更安全。我們的存在意義,就是讓 AI 更安全?!笔紫こ處熤?Boris Cherny 說道。

“混亂”的內(nèi)部

更有意思的是:這種使命感并沒有讓 Anthropic 變得“成熟穩(wěn)定”,反而讓它保持一種反職業(yè)化的混亂。

很多員工都會用“混亂”來形容內(nèi)部狀態(tài)。Steve 說,按體量來看,Anthropic 早該流程化、層級化、分工明確了,但它似乎根本不在乎這些。在關(guān)鍵領(lǐng)域,如生產(chǎn)系統(tǒng)、穩(wěn)定性、安全性,他們確實非常嚴肅,有大量世界級 SRE 和擴展工程師在兜底。可真正驅(qū)動公司運轉(zhuǎn)的,是 Claude 不斷進化的產(chǎn)品形態(tài),它像發(fā)動機一樣讓整個“蜂群”持續(xù)高速運轉(zhuǎn)。

Steve 說這家公司是被“氛圍”驅(qū)動的,他不覺得是在夸張:核心部門的內(nèi)部環(huán)境翻滾沸騰,員工自己也把這種狀態(tài)叫做“靠感覺運行的蜂群大腦”。系統(tǒng)看起來脆弱,可能存在未知的擴展上限,但到目前為止,它確實維持住了這種運轉(zhuǎn)方式。

Steve 把這種狀態(tài)稱為“黃金時代”,即一個持續(xù)數(shù)年的高強度創(chuàng)新期,創(chuàng)造力爆炸、節(jié)奏極快、效率極高,同時迅速吸引行業(yè)最頂級的人才。Steve 自己經(jīng)歷過兩次類似的階段,一次在 Amazon,持續(xù)到 2005 年離開;一次在 Google,大約持續(xù)到 2011 年 4 月,之后他親眼看著 Google 逐漸僵化,跨團隊協(xié)作消失、部門開始封閉,而 Amazon 卻繼續(xù)保持執(zhí)行力與創(chuàng)新力。

他還舉了 Microsoft 在 2000 年代初期的例子:輸?shù)?Java 訴訟案后圍繞 C#/.NET 重建生態(tài),那幾年也曾聚集頂級人才、成為思想領(lǐng)袖型公司,但后來同樣衰落,很多人最終轉(zhuǎn)投 Google。

在 Steve 看來,殺死創(chuàng)新機器的關(guān)鍵,往往不是“人才不行”,而是重心轉(zhuǎn)向利潤后,“工作量與人力數(shù)量”的比例關(guān)系被打破。他把這總結(jié)為一句話:真正的關(guān)鍵在于,是否存在“工作多于人”的狀態(tài)。

前 Amazon 首席工程師 Jacob Gabrielson 也有類似觀察:在 Amazon 很少發(fā)生搶項目,因為“每個人都始終略微超負荷工作”。而當 Google 在 2011 年后砍掉大量項目卻保留幾乎所有工程師,工作機會開始不足,資源爭奪、地盤意識、派系斗爭與內(nèi)部政治就成了衰落起點。微軟內(nèi)部甚至給這種行為起過外號,叫“舔餅干”,即搶占自己做不完的項目,只為了不讓別人拿走。今天很多公司已經(jīng)默認在這種模式下運行。

而在 Anthropic,幾乎所有方向的工作都遠遠多于人力。它像站在一個不斷擴張的球體表面:混亂、伴隨成長陣痛,但幾乎沒有人需要為“有沒有活干”而內(nèi)斗,因為機會像是無限的。每個人都能多次把想法拿出來試,“蜂群”系統(tǒng)會自然篩選出真正有價值的方向。

開發(fā)模式變成即興戲劇

在這樣的土壤里,Anthropic 形成了一種很不傳統(tǒng)的內(nèi)部開發(fā)模式。Steve 認為未來的軟件開發(fā)可能會越來越像“蜂群大腦”:員工把工作方式形容為“是的,而且……”式的即興戲劇。每一個想法都會被接住、展開、品味,然后交給整個“蜂群”判斷價值,并不存在一個絕對中心化的決策權(quán)威。大家不斷嘗試、混合、探索,當真正的“魔法”出現(xiàn)時,所有人幾乎會同時意識到。

這更像一種洪水填充式的搜索,通過不斷拼接與試探,找到可以繼續(xù)推進的方向。因此,Steve 更傾向把它稱為“探索式開發(fā)”或“演化式開發(fā)”:不是先寫一份龐大的規(guī)格文檔,而是所有人圍坐在“篝火”旁一起構(gòu)建。篝火中心是一個不斷變化、生長的原型系統(tǒng),沒有瀑布流程,也沒有完整規(guī)格,只有極短的反饋回路和極快的迭代節(jié)奏。

在 Anthropic,90 天已經(jīng)是最長計劃周期。在這種規(guī)模下,他們幾乎是在即興創(chuàng)作。Claude Cowork 從第一次被提出到公開發(fā)布只用了十天。按他們的說法,如今 Anthropic 工程師的生產(chǎn)效率比使用 Cursor 或聊天工具的普通工程師高 10 到 100 倍,而如果對比 2005 年的 Google 工程師,差距甚至可能上千倍。

從這個角度看,Anthropic 像一臺高速運轉(zhuǎn)的多臂老虎機:在極短時間內(nèi)對大量想法下注、驗證,每個人都有機會試一次,只要你能做出來,就有人會去用。但“蜂群”同樣會排斥那些不愿意以“快樂工蜂”姿態(tài)參與其中的人:如果你太強調(diào)自我、太在意個人表現(xiàn)、太想搶中心位置,很快就會被系統(tǒng)排擠出去。用早期員工的原話就是:這里是“自我中心的終結(jié)”。

諷刺的是,絕大多數(shù)公司之所以能走到今天,靠的恰恰是不斷學會說“不”。而現(xiàn)在,“不敢拒絕”正在變成越來越大的問題。一位來自銷售部門的內(nèi)部人士說,當下幾乎所有公司問的問題都可以歸結(jié)為兩個:第一,“一切還會好嗎?”第二,“五年后我們還存在嗎?”他們表面鎮(zhèn)定、專業(yè)、裝作什么都懂,但實際上幾乎都在恐慌。把這些問題聚類分析,你會發(fā)現(xiàn)背后全部是對未來的不確定與恐懼。

而撰稿人 Matteo Wong 也指出,Anthropic 在某種程度上與自己發(fā)生沖突,它對幾乎每一個決策都進行深度思考,甚至帶著焦慮。它既擔心自身技術(shù)被用于制造生物武器,也公開表達政治立場;它一邊批判自動化的傷害,一邊生產(chǎn)可能奪走崗位的工具;它談安全談到近乎道德姿態(tài),卻又沒人真正認真考慮“把 AI 繁榮放慢下來”這件事。

有人在現(xiàn)場看到基于 Anthropic 技術(shù)的招聘外聯(lián)自動化工具,興奮地喊“這會摧毀整個行業(yè)”;而當作者詢問員工是否愿意放慢 AI 發(fā)展速度時,得到的回答從“行業(yè)能慢一半就好了”,到“AGI 最好 2032 年再來”,再到“慢幾個月可能就夠”,最后落在同一個信念上:AI 安全研究本身未來也可以被 Claude 自動化。一旦實現(xiàn),他們相信測試體系就能跟上 AI 能力指數(shù)級增長的節(jié)奏。

https://steve-yegge.medium.com/the-anthropic-hive-mind-d01f768f3d7b

https://www.bloomberg.com/opinion/articles/2026-02-05/anthropic-ai-safety-obsession-is-its-secret-weapon

https://www.linkedin.com/feed/update/urn:li:activity:7422376409672867841/

會議推薦

InfoQ 2026 全年會議規(guī)劃已上線!從 AI Infra 到 Agentic AI,從 AI 工程化到產(chǎn)業(yè)落地,從技術(shù)前沿到行業(yè)應用,全面覆蓋 AI 與軟件開發(fā)核心賽道!集結(jié)全球技術(shù)先鋒,拆解真實生產(chǎn)案例、深挖技術(shù)與產(chǎn)業(yè)落地痛點,探索前沿領(lǐng)域、聚焦產(chǎn)業(yè)賦能,獲取實戰(zhàn)落地方案與前瞻產(chǎn)業(yè)洞察,高效實現(xiàn)技術(shù)價值轉(zhuǎn)化。把握行業(yè)變革關(guān)鍵節(jié)點,搶占 2026 智能升級發(fā)展先機!

特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相關(guān)推薦
熱點推薦
伊朗強援已到!以色列集結(jié)十萬大軍,關(guān)鍵時刻,普京對中國做承諾

伊朗強援已到!以色列集結(jié)十萬大軍,關(guān)鍵時刻,普京對中國做承諾

凡知
2026-03-02 15:18:28
一家4口爬山祈福,33歲妻子墜亡,死者父親稱已完成尸檢,丈夫最新回應質(zhì)疑:帶兒女山頂屋內(nèi)休息,20分鐘后人就不見了

一家4口爬山祈福,33歲妻子墜亡,死者父親稱已完成尸檢,丈夫最新回應質(zhì)疑:帶兒女山頂屋內(nèi)休息,20分鐘后人就不見了

都市快報橙柿互動
2026-03-02 11:43:55
父親之謎!谷愛凌出生證明生父一欄空白 最新傳聞曝光:長得真像

父親之謎!谷愛凌出生證明生父一欄空白 最新傳聞曝光:長得真像

念洲
2026-03-01 21:29:29
CCTV5播中國女籃VS巴西,比賽時間確定,韓旭回歸,宮魯鳴做減法

CCTV5播中國女籃VS巴西,比賽時間確定,韓旭回歸,宮魯鳴做減法

體育大學僧
2026-03-03 10:03:09
張家界“愛國賊事件”:傻X式愛國,是個巨大禍害

張家界“愛國賊事件”:傻X式愛國,是個巨大禍害

麥大人
2025-10-13 15:29:56
電影院抓小三后續(xù)!為求刺激上演燈下黑?孩子也不是丈夫親生的

電影院抓小三后續(xù)!為求刺激上演燈下黑?孩子也不是丈夫親生的

社會醬
2026-03-01 20:43:29
若中美開戰(zhàn),美摧毀北斗衛(wèi)星,中國將如何應對?4大殺手锏已就位

若中美開戰(zhàn),美摧毀北斗衛(wèi)星,中國將如何應對?4大殺手锏已就位

春風秋雨
2025-10-29 19:55:04
48小時送走哈梅內(nèi)伊:令人恐怖的技術(shù)代差,現(xiàn)代戰(zhàn)爭的形態(tài)變了

48小時送走哈梅內(nèi)伊:令人恐怖的技術(shù)代差,現(xiàn)代戰(zhàn)爭的形態(tài)變了

黑企鵝觀察
2026-03-01 14:40:34
伊朗4枚彈道導彈“突襲”美軍航母,卻變成一場“昂貴的煙花秀”

伊朗4枚彈道導彈“突襲”美軍航母,卻變成一場“昂貴的煙花秀”

矚望云霄
2026-03-02 10:49:12
歸化誰最適合男籃?布朗要價高+時間緊 郭士強召回此人才有大用

歸化誰最適合男籃?布朗要價高+時間緊 郭士強召回此人才有大用

大嘴爵爺侃球
2026-03-03 09:46:52
華國鋒擔任中央主席時,中央先后任命了15位開國將帥輔佐他

華國鋒擔任中央主席時,中央先后任命了15位開國將帥輔佐他

雍親王府
2026-03-02 15:55:03
美官員:對伊朗的最新打擊規(guī)模將遠超去年6月

美官員:對伊朗的最新打擊規(guī)模將遠超去年6月

參考消息
2026-02-28 17:39:04
不可錯過!3月3日中午12:00比賽!中央5套CCTV5、CCTV5+直播表

不可錯過!3月3日中午12:00比賽!中央5套CCTV5、CCTV5+直播表

皮皮觀天下
2026-03-03 10:48:02
美官員稱未來24小時內(nèi)對伊打擊將“顯著升級”,特朗普:大的行動很快就會到來,目前進度比計劃提前

美官員稱未來24小時內(nèi)對伊打擊將“顯著升級”,特朗普:大的行動很快就會到來,目前進度比計劃提前

臺州交通廣播
2026-03-03 10:42:40
伊朗拒絕全部條件

伊朗拒絕全部條件

鋒火故事會
2026-02-27 18:25:26
打人夫妻“社會性死亡”!村民曝更多黑幕,不止群毆女孩這么簡單

打人夫妻“社會性死亡”!村民曝更多黑幕,不止群毆女孩這么簡單

夢錄的西方史話
2026-03-02 16:27:56
美軍再度動用B-2轟炸伊朗,加固導彈基地是首批目標

美軍再度動用B-2轟炸伊朗,加固導彈基地是首批目標

中國青年報
2026-03-02 11:33:08
沙特王儲突然站隊,中國三年前留下的后手,關(guān)鍵時刻拉了伊朗一把

沙特王儲突然站隊,中國三年前留下的后手,關(guān)鍵時刻拉了伊朗一把

肖茲探秘說
2026-01-28 18:29:02
豆瓣9.4分!三月這部直擊女性痛點的佳作最不該錯過

豆瓣9.4分!三月這部直擊女性痛點的佳作最不該錯過

桃桃淘電影
2026-03-02 10:00:15
在小縣城名聲很臭是啥體驗?網(wǎng)友:臉皮夠厚,一切不成問題

在小縣城名聲很臭是啥體驗?網(wǎng)友:臉皮夠厚,一切不成問題

解讀熱點事件
2026-02-04 00:05:07
2026-03-03 11:55:00
InfoQ incentive-icons
InfoQ
有內(nèi)容的技術(shù)社區(qū)媒體
12096文章數(shù) 51783關(guān)注度
往期回顧 全部

科技要聞

手機AI在MWC上卷出了新高度

頭條要聞

牛彈琴:多國對轟炸保持沉默 西班牙首相確實是條漢子

頭條要聞

牛彈琴:多國對轟炸保持沉默 西班牙首相確實是條漢子

體育要聞

35輪后積分-7,他們遭遇史上最早的降級

娛樂要聞

謝娜霸氣護夫:喊話薛之謙給張杰道歉

財經(jīng)要聞

霍爾木茲海峽近乎停擺 布油直逼80美元

汽車要聞

長安汽車2月銷量151922輛 環(huán)比逆勢增長12.8%

態(tài)度原創(chuàng)

親子
游戲
家居
時尚
手機

親子要聞

科普|帶您認識兒童小腸增強CT檢查

任天堂壓抑了!官號盛贊《生化危機9》里昂:好性感

家居要聞

萬物互聯(lián) 享科技福祉

普通人穿衣真的很簡單!單品選對、搭配合理,大方舒適又得體

手機要聞

2025年全球手機出貨量12.5億部:蘋果同比增長7% 再奪全球第一

無障礙瀏覽 進入關(guān)懷版