作者：AzeemAzhar、NitaFarahany、EricTopol等 2026年2月26日

兩周前，我在財(cái)經(jīng)新聞上讀到一篇關(guān)于一種叫做“離散事件”的文章。我當(dāng)時(shí)沒完全理解，所以在開車出門前，我讓我的OpenClaw智能體R Mini Arnold給我解釋一下，并幫我找到相關(guān)的數(shù)據(jù)。

等我到的時(shí)候，智能體已經(jīng)調(diào)出了三十年的市場(chǎng)數(shù)據(jù)，并指出了我最近思考中一些我之前沒注意到的矛盾之處。我當(dāng)場(chǎng)調(diào)整了我的投資組合。這個(gè)決定是我自己做的，但背后的思考過程……卻變得模糊不清。到底誰說了算——是我還是我的智能體？

我想靜下心來思考這個(gè)問題，而且不想獨(dú)自一人。于是我組織了一場(chǎng)對(duì)話，參與者包括：NitaFarahany，她著有《大腦之戰(zhàn)》（TheBattleforYourBrain）一書，曾就人類思維倫理問題向奧巴馬總統(tǒng)提供咨詢；Eric Topol，他是當(dāng)今被引用次數(shù)最多的醫(yī)學(xué)研究人員之一，對(duì)AI在醫(yī)學(xué)領(lǐng)域的應(yīng)用有著前沿的見解；RohitKrishnan，他是一位工程師、經(jīng)濟(jì)學(xué)家，曾任對(duì)沖基金經(jīng)理，如今致力于構(gòu)建人工智能平臺(tái)；以及《大西洋月刊》首席執(zhí)行官NicholasThompson，他主持了這場(chǎng)對(duì)話。

以下是文字稿（為了清晰流暢，略作編輯）。

人性的邊界在哪里？AI的邊界又在哪里？

Nick Thompson：Azeem，你今年已經(jīng)編寫了數(shù)千行代理代碼，自圣誕節(jié)以來還開發(fā)了多個(gè)應(yīng)用程序。但你講述的駕車經(jīng)歷聽起來像是你掌控著一切——你提出問題，得到答案，做出決策。給我講講那種模糊感真正出現(xiàn)的情況。

Azeem Azhar：這種模糊性比問題本身更微妙。我的智能體——我當(dāng)時(shí)用的是OpenClaw——經(jīng)常會(huì)說：“在本周我們之前的對(duì)話中，你提到了X，但這似乎與你現(xiàn)在提出的問題相矛盾?！蔽抑耙恢痹诤退懻揂I的瓶頸以及如何加碼AI相關(guān)的投資。然后我問到了下行風(fēng)險(xiǎn)。它發(fā)現(xiàn)了其中的矛盾：一方面我擔(dān)心崩盤，另一方面我又在考慮增加投資。它提醒了我這一點(diǎn)。我們進(jìn)行了一番對(duì)話，它重新構(gòu)建了我提出的問題。

Nita Farahany：這觸及了一個(gè)關(guān)于自主行動(dòng)意味著什么的根本問題。你的行為是符合自身意愿的，還是受他人意愿的驅(qū)使？如今，我們所做的很多事情都很少是出于自身意愿。

這學(xué)期我在杜克大學(xué)教一門關(guān)于心理隱私和人工智能法律政策高級(jí)議題的課。我對(duì)學(xué)生們進(jìn)行了一次注意力測(cè)試。他們記錄了三天內(nèi)拿起電子設(shè)備的次數(shù)以及注意力都花在了哪些事情上。第一天：記錄下來，不要改變你的行為。第二天：禁止使用任何算法引導(dǎo)你的應(yīng)用程序——這意味著基本上什么都不允許。第三天：想做什么就做什么，再次記錄。第二天的情況令人矚目。有人讀了一本書。他們想不起來上次讀書是什么時(shí)候了。這些可是學(xué)生??！有人完成了一個(gè)他們之前一直認(rèn)為自己沒時(shí)間做的拼圖。而第三天呢？比第一天更糟。他們又完全沉迷其中了。

Azeem在掌控嗎？他的行為在某種程度上是他掌控一切的，他指示智能體去調(diào)查某個(gè)具體問題。但事實(shí)上，他會(huì)對(duì)智能體提供的信息做出反應(yīng)，不斷地陷入這種通知與響應(yīng)的循環(huán)中，一邊聽從智能體的指示，一邊思考他們的一舉一動(dòng)，這三者之間存在著深刻的關(guān)聯(lián)。Azeem和他的工具之間的界限已經(jīng)模糊不清。它們已經(jīng)成為他的一部分。

Nick：而且它極易被黑客攻擊。他就是基于這個(gè)來控制他的投資組合。如果我是個(gè)精明的對(duì)沖基金經(jīng)理，我會(huì)想辦法入侵OpenClaw，把他的投資引導(dǎo)到我的基金里。

Nita：Azeem把這個(gè)問題交給AI工具處理，這本身就是一個(gè)更根本的問題。這比有人故意操縱他的投資組合更微妙、更普遍、更具普適性。

Rohit Krishnan令我驚訝的是，盡管這些工具并不安全，但負(fù)面事件的數(shù)量卻出奇地少。造成傷害的能力與造福人類的能力都在增強(qiáng)，然而，不良事件卻仍然很少發(fā)生。從對(duì)沖基金的角度來看：你會(huì)把資源投入到哪里？攻擊OpenClaw比把同樣的精力投入到其他方面更能帶來收益嗎？答案似乎總是否定的。所以我的OpenClaw會(huì)與我的郵箱通信，偶爾也會(huì)回復(fù)郵件。盡管我知道存在注入攻擊，但我對(duì)這種安全隱患還算可以接受。

為什么給醫(yī)生配備AI后，他們的水平反而會(huì)下降？

Nick：Eric，Rohit的理論框架——即實(shí)際危害小于感知到的危險(xiǎn)——在醫(yī)學(xué)領(lǐng)域是否成立？

Eric Topol：我認(rèn)為我們目前還不得而知?，F(xiàn)在有好幾項(xiàng)研究比較了單獨(dú)使用AI和AI與醫(yī)生結(jié)合使用在各種臨床表現(xiàn)上的表現(xiàn)。結(jié)果顯示，AI的表現(xiàn)優(yōu)于醫(yī)生與AI結(jié)合。這出乎意料。我們?cè)疽詾橐磺卸紤?yīng)該是混合模式。表現(xiàn)不佳的醫(yī)生更容易接受AI的建議，而專家則會(huì)拒絕AI的合理建議。如果再加上智能輔助，情況可能更是如此。我們?nèi)匀徊磺宄颉Ｊ且驗(yàn)獒t(yī)生存在自動(dòng)化偏見嗎？還是因?yàn)樗麄內(nèi)狈κ褂肁I的經(jīng)驗(yàn)？目前情況還很模糊。醫(yī)療領(lǐng)域不像其他許多領(lǐng)域那樣快速采用AI，因?yàn)榕R床決策更加復(fù)雜和微妙。

Nick：這和我之前聽你說過的話相悖，Azeem——你說人類如果能很好地運(yùn)用AI，應(yīng)該比AI本身強(qiáng)大得多。

Azeem：Eric描述的現(xiàn)象我們?cè)谥R(shí)型工作領(lǐng)域都觀察到過。能力低于平均水平的人在使用AI后會(huì)有所進(jìn)步。而能力頂尖的人反而會(huì)退步，因?yàn)樗麄儠?huì)忽略AI的建議。但我很好奇，數(shù)據(jù)中是否隱藏著一條U型曲線。低于平均水平的人：能力會(huì)提升。頂尖的四分之一的人：會(huì)過度思考。真正杰出的人：會(huì)完全掌控機(jī)器。看看Andrej Karpathy，一位杰出的深度學(xué)習(xí)工程師，他的軟件開發(fā)能力遠(yuǎn)超我們所有人。他把大量的工作交給了AI系統(tǒng)。他是這方面的專家，但他的反饋是：他完成了更多的工作，并且把極限推向了更高的層次。

Nita：讓我暫時(shí)扮演一下哲學(xué)家的角色。我們究竟想衡量什么？在Eric的領(lǐng)域，這一點(diǎn)比較明確：診斷是否正確？病人是否病情好轉(zhuǎn)？但在其他領(lǐng)域，我們無法進(jìn)行公平的比較。以教育為例。如果衡量文章的質(zhì)量是提高還是下降，AI確實(shí)能提升文章質(zhì)量。但如果衡量學(xué)習(xí)成果，結(jié)果就截然相反了。人反而變得更糟，而文章質(zhì)量卻提高了。那么，人類究竟是因?yàn)锳I生成的更精良的文章而受益，還是因?yàn)閷懳恼碌娜藳]有從中學(xué)習(xí)而變得更糟呢？

Nick：所以解決方案是讓AI做出影響極其重大的決定——比如手術(shù)——但讓人類參與到發(fā)展性工作中，比如寫論文？

Nita：要從長遠(yuǎn)角度來思考這個(gè)問題。今天，我們是否應(yīng)該在生死攸關(guān)的決策中使用AI？答案是肯定的。但實(shí)際應(yīng)用起來卻并非如此：現(xiàn)在，醫(yī)生們不再憑直覺判斷是否需要手術(shù)。他們無法解讀代碼，因?yàn)樗麄兛床欢麄冎皇敲つ康貒L試AI的各種輸出，而不是進(jìn)行批判性的評(píng)估。隨著時(shí)間的推移，我們的情況會(huì)是更好還是更糟？我擔(dān)心，從長遠(yuǎn)來看，我們的處境會(huì)比短期內(nèi)糟糕得多。

Nick：所以你的意思是，在某些特定情況下，AI的手術(shù)成功率會(huì)更高，我們也知道這一點(diǎn)，但有些病人會(huì)因?yàn)槿祟愂中g(shù)失誤而死亡——但你仍然更喜歡那種世界，因?yàn)橹辽偃祟愡€能保持勝任能力？

Nita：Nick，那是人為構(gòu)建的概念。真正的問題在于，我們應(yīng)該投資什么，才能讓人們長期保持我所說的“能力要素”。我們?nèi)绾尾拍茏龅絻扇涿溃考纫肁I來做出當(dāng)下至關(guān)重要的決策，又要構(gòu)建相應(yīng)的系統(tǒng)，使人類在未來能夠繼續(xù)應(yīng)對(duì)這些決策。這才是沒人問的問題。

Rohit：或許需要考慮的一點(diǎn)是，這些醫(yī)生是否擅長與AI合作。過去三四年里，我做出的每一個(gè)重要決定都是借助AI做出的。有時(shí)我同意，有時(shí)我不同意。但隨著時(shí)間的推移，你會(huì)逐漸形成一種感覺，判斷它何時(shí)準(zhǔn)確，何時(shí)不準(zhǔn)確。這些研究并非像《危險(xiǎn)邊緣》那樣，由專家給出一個(gè)答案，AI給出另一個(gè)答案，然后由你選擇其中一個(gè)?，F(xiàn)實(shí)世界中存在時(shí)間限制、制衡機(jī)制，以及多人參與的決策過程。這些背景信息在論文中是無法體現(xiàn)的。

Nick：Eric，所以也許問題不在于根本原因——只是目前醫(yī)生們還不了解如何使用AI。一旦我們學(xué)會(huì)了，一切就都好了？

Eric：Nick，我們希望如此。醫(yī)學(xué)界最傾向于這種解釋。

我們絕不應(yīng)該將哪個(gè)領(lǐng)域交給AI？

Eric：我們剛剛證實(shí)的另一個(gè)醫(yī)學(xué)問題是技能退化?，F(xiàn)在有一項(xiàng)針對(duì)腸胃科醫(yī)生的研究，他們讓AI來尋找息肉。隨著時(shí)間的推移，當(dāng)關(guān)掉AI后，他們自己發(fā)現(xiàn)息肉的能力就下降了。此外，還有一些年輕醫(yī)生，他們一開始就缺乏相關(guān)技能。人們期待的混合模式——人機(jī)結(jié)合，優(yōu)于任何單一模式——最終會(huì)勝出嗎？我們無法確定。

Azeem：技能退化是真實(shí)存在的。Nita和Eric指出的正是教育中的一個(gè)缺口。在現(xiàn)階段，我們需要自己摸索出一套維持技能的教學(xué)方法。我經(jīng)常用這支鋼筆寫作，關(guān)掉電腦。昨天我和一位同事進(jìn)行了一次研討，我們幾個(gè)小時(shí)都靜靜地在紙上討論一個(gè)問題，沒有手機(jī)，沒有電腦。我們團(tuán)隊(duì)經(jīng)常這樣做。也許這樣做不對(duì)。但這是我們對(duì)抗去技能化的一種姿態(tài)——這種松散的氛圍會(huì)讓你越來越遠(yuǎn)離自己的心智能力。

Azeem的鋼筆，適合遠(yuǎn)離AI和電子設(shè)備的安靜工作。

Nick：但你這樣做難道不是適得其反嗎？你一直在寫如何讓AI為你寫作，試圖讓它成為更優(yōu)秀的文風(fēng)編輯。而寫作本身就是一種思考，如果你降低了寫作能力，你的思考能力也就退化了。

Nita：我要反駁這種說法。“寫作就是思考”這種說法我聽過太多遍了，我覺得純屬胡扯。我寫作的時(shí)候，其實(shí)會(huì)先做個(gè)演講。我覺得公開演講比寫作更能激發(fā)我的思考。我思考的是，在主題演講中，我該如何講述這個(gè)故事？等我講過幾次，和聽眾互動(dòng)過幾次之后，我才能把它提煉成文字。我的思考主要不是通過寫作實(shí)現(xiàn)的。問題在于，如果我們不認(rèn)識(shí)到每個(gè)人的創(chuàng)造力運(yùn)作方式都不同——對(duì)Azeem來說可能是鋼筆，對(duì)其他人來說可能是口頭表達(dá)，或者繪畫——我們最終會(huì)制定出一些一刀切的規(guī)則，反而忽略了重點(diǎn)。一旦你找到了自己創(chuàng)造力的核心所在，你就要保護(hù)它，不讓它被他人利用。

Nick：所以你的建議是：找出你最擅長思考的地方，然后千萬別讓AI靠近那里。

Nita：沒錯(cuò)。要保留讓你能夠靈活應(yīng)對(duì)各種新情況的核心能力。不要把所有創(chuàng)造性思維都外包出去。我發(fā)的郵件？很可能是AI寫的。講座總結(jié)？通常也是AI寫的。但主題演講或者新穎的想法，那才是我思考的源泉。我會(huì)先用口頭形式表達(dá)出來，然后再提煉成文字。也許我會(huì)讓AI做我的文字編輯。但思考本身會(huì)一直留在我腦海里。

Rohit：我的看法是，我擁有了更多可支配的能力，自然而然地，我會(huì)把時(shí)間花在真正想做的事情上。這是內(nèi)生的，我最終會(huì)減少在不太關(guān)心的事情上的時(shí)間，而把更多時(shí)間花在更關(guān)心的事情上。而且這種變化是持續(xù)的。我今天堅(jiān)持的事情與一年前或十年前不同，因?yàn)槲覀儠?huì)隨著時(shí)間而改變。一部分可能是某種特定類型的寫作，一部分可能是某種特定類型的研究或公開演講——每個(gè)人的情況都不一樣。所以我不再糾結(jié)于“我應(yīng)該對(duì)AI保留什么？”，而是更多地思考：既然有了這個(gè)智能體，我們可以一起做什么？如果我確信它有效，我就會(huì)把更多工作交給它。這和擁有一個(gè)非常優(yōu)秀的私人助理的運(yùn)作方式是一樣的——一旦你了解了他們的優(yōu)勢(shì)，你就會(huì)說“你負(fù)責(zé)這個(gè)，我負(fù)責(zé)那個(gè)”。

Azeem：我有更多的時(shí)間投入到Nita所說的“生成性構(gòu)成能力”領(lǐng)域。我花更多的時(shí)間寫作，也花更多的時(shí)間閱讀。我寫很多文章都是先手寫，然后朗讀出來，再轉(zhuǎn)錄。這讓我想起Eric幾年前跟我介紹過的一個(gè)觀點(diǎn)：這些工具可以幫助醫(yī)生騰出時(shí)間，讓他們成為更好的醫(yī)生。到了2026年，我比四年前投入了更多精力進(jìn)行深入思考，那時(shí)我還在疲于應(yīng)付收件箱和谷歌搜索。

Nick：Azeem，你好像一天中的一部分時(shí)間生活在2100年，一部分時(shí)間生活在1450年。聽起來真美妙。

Eric：我同意，這完全是個(gè)人選擇。如果我自己寫論文或博客，我覺得用AI代寫就是一種作弊。如果不是我自己的作品，就不應(yīng)該分享給其他人。也許有一天我會(huì)和Azeem一起進(jìn)入2100年。但情況正在改變，它是動(dòng)態(tài)的。你會(huì)把越來越多讓生活更自動(dòng)化、更實(shí)用的事情外包出去。在醫(yī)學(xué)中，奪回時(shí)間可能是最大的目標(biāo)，因?yàn)獒t(yī)生的時(shí)間被擠壓得太厲害了。如果你能擺脫數(shù)據(jù)文員的職能，擺脫那些瑣碎的任務(wù)，你就能成為一個(gè)更好的醫(yī)生。醫(yī)患關(guān)系也能得到修復(fù)。

Azeem：不過，我遇到的難題是，我仍然在高速運(yùn)轉(zhuǎn)。而真正偉大的思考源于專注、觀察和反復(fù)推敲。我們很多例子都有時(shí)間限制——現(xiàn)在就要看病人，周五之前必須完成代碼。但真正偉大的思考?xì)v來都離不開細(xì)致的思考和自我反思。如果我有十天不受干擾的時(shí)間，我能進(jìn)行更高質(zhì)量的思考嗎？

Nita：其實(shí)也可以用AI來做到這一點(diǎn)。我偶然看到一篇博客文章，里面介紹了一種叫做“土豆提示”的方法。我把它應(yīng)用到了Claude身上。這個(gè)想法是，每當(dāng)我輸入“土豆”這個(gè)詞，后面跟著一個(gè)論點(diǎn)時(shí)，AI就會(huì)告訴我三個(gè)論點(diǎn)可能失敗的地方、兩個(gè)反駁論點(diǎn)，以及我忽略的一個(gè)盲點(diǎn)。而且它必須是尖銳的，不帶任何客套。

頭幾次，我真想找個(gè)地洞鉆進(jìn)去哭一場(chǎng)。這感覺太糟糕了。但它也讓我的思維變得更加敏銳。每次我拋出一個(gè)論點(diǎn)，心想“Nita，你這見解真絕妙”，這個(gè)“土豆”提示就會(huì)立刻審視它。我仍然會(huì)和朋友們交流想法。但這種即時(shí)、實(shí)時(shí)的、充滿敵意的反饋，讓AI能夠挑戰(zhàn)你，而不是讓你把事情推卸給你。

學(xué)校的作用是什么？

Rohit：總的來說，我不認(rèn)為教育能讓我們擺脫困境。教育體系的設(shè)立初衷是為了完成一些相當(dāng)具體的事情。最擅長學(xué)習(xí)這些工具的孩子，是那些只是去玩它們的人。互聯(lián)網(wǎng)是這樣，移動(dòng)設(shè)備是這樣，編程也是這樣。

AI加劇了這個(gè)問題，因?yàn)樗菀资褂昧?。我八歲的兒子偶然發(fā)現(xiàn)Canva有AI功能——我之前都不知道。他一直在用它制作關(guān)于恐龍的小網(wǎng)站。沒人教過他。那只是個(gè)文本框；他會(huì)打字。我們需要更多奇思妙想和玩耍，而不是結(jié)構(gòu)化的課程。

Nita：我們的教育體系過于注重產(chǎn)出，而忽略了核心能力。德國有一所學(xué)校試行了正念和呼吸練習(xí)項(xiàng)目。美國也有一項(xiàng)名為“學(xué)習(xí)呼吸”的全國性項(xiàng)目。這些項(xiàng)目旨在培養(yǎng)孩子的內(nèi)感受能力：身體感知、扎根感和直覺發(fā)展。研究表明，這些項(xiàng)目對(duì)數(shù)學(xué)成績有直接影響，因?yàn)閷W(xué)會(huì)感知自己的身體能夠發(fā)展認(rèn)知能力，而認(rèn)知能力是思考的基礎(chǔ)。工具是之后才有的。教育應(yīng)該培養(yǎng)的是思考的能力。

Azeem：我要做那個(gè)堅(jiān)定的樂觀主義者。我們?cè)谶^去三四十年里，從未持續(xù)地嘗試過這一點(diǎn)。在專業(yè)服務(wù)領(lǐng)域，我們最終培養(yǎng)出一些律師，他們的客戶溝通能力糟糕透頂；也出現(xiàn)了一些醫(yī)生，他們的待人接物態(tài)度時(shí)而熱情，時(shí)而令人恐懼——所有這些都是因?yàn)槲覀兒鲆暳诉@些技能?；蛟S現(xiàn)在我們不得不重視起來了。這與其說是一個(gè)棘手的問題，不如說是一個(gè)機(jī)遇。

Eric：我們培養(yǎng)醫(yī)學(xué)生的方式絕對(duì)是錯(cuò)誤的。他們被選拔的標(biāo)準(zhǔn)是考試成績——而AI在這方面已經(jīng)做得更好了——以及平均績點(diǎn)，而不是人際溝通能力。美國160所醫(yī)學(xué)院中，沒有一所將AI納入核心課程。它幾乎就像不存在一樣。無論是選拔方式還是教育方式，我們甚至都沒有意識(shí)到，這正在改變醫(yī)學(xué)。

Azeem：那么，我們?cè)阼b別診斷中追求高可靠性的程度究竟有多高呢？鑒別診斷實(shí)際上是一種機(jī)械的、算法式的過程。機(jī)器在這方面比人做得更好。過去我們需要人類來完成這項(xiàng)工作，是因?yàn)橄嚓P(guān)的知識(shí)匱乏，難以從人類的認(rèn)知中獲取?；蛟S現(xiàn)在這項(xiàng)工作可以外包了，我們可以著手發(fā)展另一部分——即對(duì)患者預(yù)后的影響：構(gòu)成性意識(shí)，即對(duì)“人”的具身理解。

Eric：沒錯(cuò)。診斷準(zhǔn)確率將是AI在醫(yī)學(xué)領(lǐng)域最偉大的貢獻(xiàn)之一。我們已經(jīng)有了很好的跡象表明這一點(diǎn)。現(xiàn)在的問題是如何正確地部署它。

如何區(qū)分真正的思考和聽起來像在思考的AI？

Nick：我們都持謹(jǐn)慎樂觀的態(tài)度。但AI即將變得更加強(qiáng)大。你認(rèn)為什么發(fā)展趨勢(shì)會(huì)決定我們明年的發(fā)展方向是更好還是更糟？

Nita：我注意到Eric說過的一點(diǎn)——他覺得如果把AI寫出來的東西發(fā)布出去，就像是在作弊。這就是我一直在關(guān)注的轉(zhuǎn)折點(diǎn)。我們一直在討論自我：構(gòu)建自我，維護(hù)自我。但我們身處一個(gè)信息生態(tài)系統(tǒng)，一個(gè)我們所有人都在汲取的人類知識(shí)庫。信息越是合成，人類的切身感受就越少。人們正在追蹤互聯(lián)網(wǎng)上有多少內(nèi)容是由AI生成的。我們不知道這會(huì)對(duì)兒童的認(rèn)知發(fā)展，對(duì)我們集體的思考能力造成什么影響。

Azeem：在原子武器時(shí)代，曾有那么一個(gè)時(shí)刻，我們可以精確地測(cè)量出它的起源——通過大氣數(shù)據(jù)，一種之前不存在的放射性同位素突然出現(xiàn)。我認(rèn)為，AI生成的文本正接近這個(gè)時(shí)刻。如果你瀏覽某個(gè)網(wǎng)站，你會(huì)看到很多文章，它們是由一些非常忙碌、并非專業(yè)作家的人以極快的速度生成的。我讀這些文章是因?yàn)槠渲写_實(shí)包含一些見解、數(shù)據(jù)和論證。但我很好奇，在我們不斷接觸這些內(nèi)容的過程中，那些在我們看來美好的事物是否會(huì)開始發(fā)生變化，而我們卻渾然不覺。

Nick：如果AI寫出來的東西比人類寫出來的東西還好呢？如果2028年X平臺(tái)上的平均寫作質(zhì)量比2023年更高呢？

Rohit：平均質(zhì)量確實(shí)提高了，但人們對(duì)它的反感也更強(qiáng)了。我用的是Pangram（一款檢測(cè)AI生成文本的工具）——到處都是。不只是X，記者、已發(fā)表的文章里也充斥著它?！袄边@個(gè)詞用得恰到好處，因?yàn)樗雌饋硐袷且活D豐盛的大餐，但實(shí)際上卻毫無營養(yǎng)，空洞無物。這就是AI的拙劣之處。它擅長的領(lǐng)域——比如構(gòu)建 Azeem 每天用的應(yīng)用，或者我用的那些——才是真正的能力。如果我讓AI幫我寫一篇文章，然后我又得重寫，那反而會(huì)增加工作量，而不是減少。

Azeem：AI內(nèi)容也告訴我們，文字生產(chǎn)的機(jī)械化程度已經(jīng)很高了。某些研究報(bào)告、學(xué)術(shù)論文、營銷文案，本質(zhì)上都是由人類執(zhí)行的算法，就像早期NASA的女性計(jì)算機(jī)執(zhí)行我們現(xiàn)在交給機(jī)器的計(jì)算一樣。真正的寫作發(fā)生在別處，而且極其困難。

我努力構(gòu)建AI風(fēng)格指南，是希望它能幫助人們學(xué)習(xí)我的寫作方式。它無法完全復(fù)制我的寫作，除了一些細(xì)微之處：我偏愛日耳曼語詞根而非拉丁語詞根，我寫的句子91%都是主動(dòng)句，段落內(nèi)句子長度也會(huì)有所變化。這些只是表面現(xiàn)象。真正缺失的是源于切身經(jīng)歷和鮮活生活體驗(yàn)的部分。我想，我們面臨的挑戰(zhàn)在于，隨著這些工具的普及——我們獲得的許多體驗(yàn)，無論是Netflix、TikTok還是商店里的商品，都離不開它們——我的體驗(yàn)將會(huì)變得更加模糊，因此也更容易與外部AI系統(tǒng)生成的文本相吻合，而不是像我曾經(jīng)那樣，以更真實(shí)的方式去體驗(yàn)事物。

Nita：我一直在研究意義建構(gòu)方面的研究。這種影響更多地體現(xiàn)在貢獻(xiàn)者身上，而非接收者身上。你對(duì)人類知識(shí)體系的貢獻(xiàn)，是自我成長的一部分。大腦需要這種成長過程。當(dāng)AI取代它時(shí)，你不會(huì)體驗(yàn)到同樣的效果。我生命中最具影響力的書之一是《獻(xiàn)給阿爾吉儂的花束》。我二年級(jí)就讀了這本書——太早了，我全程都在哭。Daniel Keyes花了十四年時(shí)間才寫完。這本書始于他還是醫(yī)學(xué)生的時(shí)候；后來他遇到了一位智力有障礙的人。所有這些感受都融入了書中。這與Azeem用AI花了九十分鐘提煉他的世界觀有什么不同嗎？也許有。我們不得而知。但我們必須承認(rèn)，十四年的寫作與AI輔助的九十分鐘提煉，在本質(zhì)上是不同的。

如果你與AI進(jìn)行迭代式合作，將你的聲音和生活經(jīng)驗(yàn)融入其中——并將其作為傳遞這些內(nèi)容的媒介——這與那些完全不把自己代入其中的LinkedIn帖子截然不同。這其中存在著本質(zhì)區(qū)別。

Azeem：確實(shí)存在差異。今天我做了一個(gè)項(xiàng)目。我們?cè)贓V公司寫了數(shù)百萬字。我想提取出我們的核心觀點(diǎn)——我對(duì)某些事情的看法是什么，以及這些看法是如何轉(zhuǎn)變的？我讓AI分析了所有這些文字，構(gòu)建了一個(gè)概念圖：我曾經(jīng)持有的十幾個(gè)觀點(diǎn)，以及它們隨時(shí)間推移的變化。我親自審閱了它，然后與團(tuán)隊(duì)分享。原本需要1000小時(shí)的人類工作，我只用了90分鐘。我只做了不到0.2%的工作量。但我仍然覺得我貢獻(xiàn)了一些有用、實(shí)用且極具個(gè)人特色的東西。

Rohit：每當(dāng)AI足夠強(qiáng)大時(shí)，我們就會(huì)把它視為一種工具——因?yàn)樗兊每煽俊６?dāng)它走向極端時(shí)，我們又會(huì)認(rèn)為它會(huì)摧毀某些固有的人性。我們?cè)诟鱾€(gè)領(lǐng)域都經(jīng)歷過這種情況：放射學(xué)、金融、供應(yīng)鏈等等。藝術(shù)領(lǐng)域的情況有所不同，因?yàn)樗且环N獨(dú)特的人類活動(dòng)。但每當(dāng)AI強(qiáng)大到足以完成我們自己想做的工作時(shí)，我們通常都樂于把它交給別人，然后去創(chuàng)作更多像《獻(xiàn)給阿爾吉儂的花束》這樣的作品。

Eric：這有點(diǎn)像魁北克和加拿大其他地區(qū)的情況。你必須有意識(shí)地保護(hù)自己的語言，否則它就會(huì)被淘汰。如果我們沒有有意識(shí)地將AI作為一種工具來使用（我認(rèn)為這才是它應(yīng)有的定位），我們就會(huì)失去人類文化中至關(guān)重要的一部分。

Azeem：是刻意的意圖，就是這樣。是關(guān)于我們自身能力的刻意意圖。是刻意地認(rèn)為這些東西只是工具，無論我們?nèi)绾螌徱曀鼈?，無論我們?nèi)绾螖M人化它們，它們始終是工具，而且應(yīng)該保持工具的本質(zhì)。

本文編譯自substack，原文作者AzeemAzhar、NitaFarahany、EricTopol等

https://www.exponentialview.co/p/where-the-human-ends-and-ai-begins