文：城主

這是一位頂級(jí)醫(yī)療專家對(duì)數(shù)字醫(yī)療發(fā)展的討論和AI進(jìn)入醫(yī)療保健領(lǐng)域的預(yù)測(cè)。他將這個(gè)時(shí)期稱為“海明威時(shí)刻”，意指一種逐漸然后突然的變化，類似于海明威在《太陽(yáng)祭壇升起》中描述的人物破產(chǎn)的方式。他認(rèn)為，醫(yī)療保健領(lǐng)域的數(shù)字化轉(zhuǎn)型將是這樣的過(guò)程，盡管起步較晚，但未來(lái)幾年將會(huì)有驚人的變化。

講座來(lái)自加州大學(xué)舊金山分校醫(yī)學(xué)系主任、暢銷書(shū)《數(shù)字醫(yī)生：醫(yī)學(xué)計(jì)算機(jī)時(shí)代黎明的希望、炒作和傷害》的作者鮑勃·瓦赫特（Bob Wachter），他討論了醫(yī)療保健的數(shù)字化發(fā)展——從大約 15 年前開(kāi)始廣泛引入電子健康記錄開(kāi)始。他將描述將塑造生成式人工智能工具（如 GPT-4 和 Gemini）實(shí)施的當(dāng)前背景，并分析（正如他在最近的一篇 JAMA 文章中所做的那樣）為什么未來(lái)幾年為真正的數(shù)字化轉(zhuǎn)型奠定了基礎(chǔ)。

視頻完整版分享：

醫(yī)學(xué)博士 Robert M. Wachter 是加州大學(xué)舊金山分校醫(yī)學(xué)系的教授兼系主任。鮑勃寫(xiě)了300篇文章和六本書(shū)，在1996年創(chuàng)造了“住院醫(yī)生”一詞。他是醫(yī)院醫(yī)學(xué)學(xué)會(huì)的前任主席，美國(guó)內(nèi)科醫(yī)學(xué)委員會(huì)的前任主席，以及美國(guó)國(guó)家醫(yī)學(xué)院的當(dāng)選成員。2015年，《現(xiàn)代醫(yī)療保健》雜志將他評(píng)為美國(guó)最具影響力的醫(yī)生高管。

總結(jié)一下講座的主要內(nèi)容：

Bob Wachter是多個(gè)委員會(huì)的董事會(huì)成員，為很多數(shù)字和人工智能領(lǐng)域的公司提供建議。盡管醫(yī)療保健領(lǐng)域的數(shù)字化轉(zhuǎn)型過(guò)程中存在許多挑戰(zhàn)，但Bob看到了新的人工智能，特別是大語(yǔ)言模型和基礎(chǔ)模型的潛力。

Bob回顧了過(guò)去十到十五年醫(yī)療保健領(lǐng)域的數(shù)字化轉(zhuǎn)型，特別是電子健康記錄的應(yīng)用。雖然電子健康記錄的應(yīng)用帶來(lái)了許多便利，但也帶來(lái)了一些未預(yù)料到的問(wèn)題，如文檔負(fù)擔(dān)和電子收件箱的問(wèn)題。Bob認(rèn)為，解決這些問(wèn)題需要技術(shù)的改進(jìn)和組織的演變，需要以全新的方式利用技術(shù)完成工作。

Bob引用了諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主羅伯特·索洛的話：“除了生產(chǎn)力統(tǒng)計(jì)數(shù)據(jù)之外，你隨處都可以看到計(jì)算機(jī)時(shí)代?！?這是一個(gè)生產(chǎn)力悖論。盡管電子健康記錄提供了一些優(yōu)勢(shì)，但并未帶來(lái)顯著的生產(chǎn)力提升。這可能是因?yàn)殡娮硬v的質(zhì)量不佳，以及我們還未重新構(gòu)思這項(xiàng)工作的方式。然而，歷史表明，每個(gè)行業(yè)的生產(chǎn)力悖論總會(huì)自行解決，平均時(shí)間在2到10年之間。醫(yī)療保健行業(yè)的復(fù)雜性可能會(huì)使這個(gè)過(guò)程延長(zhǎng)到10到20年。

新的人工智能技術(shù)，如生成式AI和GPT-4，可能會(huì)推動(dòng)這一趨勢(shì)。這些技術(shù)是否能夠解決現(xiàn)有技術(shù)無(wú)法解決的問(wèn)題，以及當(dāng)前的醫(yī)療保健生態(tài)系統(tǒng)是否有某些方面可以促進(jìn)互補(bǔ)創(chuàng)新或繞過(guò)對(duì)它們的需求，是需要回答的兩個(gè)關(guān)鍵問(wèn)題。

盡管人工智能在醫(yī)療保健領(lǐng)域的應(yīng)用并非新現(xiàn)象，但其在過(guò)去幾年中的技術(shù)進(jìn)步令人印象深刻。然而，這些技術(shù)也存在一些問(wèn)題，如幻覺(jué)問(wèn)題，即機(jī)器試圖找到問(wèn)題的答案并有彌補(bǔ)問(wèn)題的傾向。盡管如此，越來(lái)越多的證據(jù)表明，這些技術(shù)非常好，將產(chǎn)生有意義的變化，并且我們可以開(kāi)始在醫(yī)療保健用例中推出它們，并深思熟慮、負(fù)責(zé)任和安全地進(jìn)行。

Bob討論了GPT-4在真實(shí)組織背景下的應(yīng)用，包括通過(guò)醫(yī)學(xué)委員會(huì)審查、法律委員會(huì)審查，甚至在解決《新英格蘭雜志》CPC案件上表現(xiàn)得比專家更好。同時(shí)談到了一項(xiàng)尚未經(jīng)過(guò)同行評(píng)審的研究，該研究使用了一個(gè)名為“AIME”的人工智能系統(tǒng)，該系統(tǒng)可以提供對(duì)話、診斷和治療建議。研究結(jié)果顯示，無(wú)論是從專家對(duì)臨床醫(yī)學(xué)的看法，還是從患者的反應(yīng)來(lái)看，人工智能的表現(xiàn)都優(yōu)于醫(yī)生。

最后，Bob討論了生成式人工智能可能帶來(lái)的問(wèn)題，包括數(shù)據(jù)質(zhì)量、黑箱問(wèn)題、道德問(wèn)題和差異、數(shù)字鴻溝、隱私和安全問(wèn)題，以及去技能化和自動(dòng)化的自滿。盡管存在這些問(wèn)題，但Bob認(rèn)為生成式人工智能已經(jīng)為醫(yī)療保健做好了準(zhǔn)備。

Bob提到了一些即將出現(xiàn)的技術(shù)，如數(shù)字抄寫(xiě)程序和風(fēng)險(xiǎn)預(yù)測(cè)工具。他強(qiáng)調(diào)了預(yù)見(jiàn)到可預(yù)測(cè)問(wèn)題的重要性，如偏見(jiàn)、幻覺(jué)和自動(dòng)化自滿，以及應(yīng)對(duì)不可預(yù)測(cè)的問(wèn)題。最后，Bob提到了他們部門(mén)的一些新職位，如臨床信息學(xué)和數(shù)字化轉(zhuǎn)型部門(mén)負(fù)責(zé)人，首席健康人工智能官等。他認(rèn)為這些新職位是臨床操作中需要進(jìn)行的治理變革的一個(gè)例子。

=以下是本城根據(jù)講座內(nèi)容重新整理的書(shū)面全文版=

主持人：

各位下午好，歡迎參加醫(yī)學(xué)大查房。今天，我有幸向大家介紹一位杰出的演講者，他就是我們的醫(yī)學(xué)主席，鮑勃·瓦赫特博士。他來(lái)此是為了探討醫(yī)療保健領(lǐng)域的生成人工智能。這是否是我們的海明威時(shí)刻？你很快就會(huì)明白這個(gè)表述的含義。如今，人工智能和ChatGPT-4無(wú)處不在，不僅頻繁出現(xiàn)在頭條新聞中，也已經(jīng)融入我們的電子健康記錄中。我們將討論其變革潛力。

瓦赫特博士是這個(gè)領(lǐng)域的一位杰出專家，他在這個(gè)領(lǐng)域擁有豐富的專業(yè)知識(shí)。他是《數(shù)字醫(yī)生：醫(yī)學(xué)計(jì)算機(jī)時(shí)代黎明時(shí)的希望、炒作和危害》一書(shū)的作者，這本書(shū)詳細(xì)追蹤了電子健康記錄的演變及其采用或缺乏的情況，從嬰兒時(shí)期一直到現(xiàn)在。他已經(jīng)在全國(guó)乃至全世界的醫(yī)學(xué)大查房、院系講座、大學(xué)講座中發(fā)表了這個(gè)演講的一個(gè)版本。你可能已經(jīng)讀過(guò)他最近在《JAMA》上發(fā)表的關(guān)于這個(gè)主題的文章，探討人工智能的前景，以及它如何影響我們的臨床領(lǐng)域、研究領(lǐng)域和教育領(lǐng)域。

瓦赫特博士的簡(jiǎn)歷非常豐富，我們需要整整一個(gè)小時(shí)才能讀完。他是我們醫(yī)學(xué)系的系主任，也是一位教授。他創(chuàng)造了“住院醫(yī)生”和“住院醫(yī)學(xué)”一詞，使加州大學(xué)舊金山分校因此而聞名于世。他的研究重點(diǎn)實(shí)際上集中在電子健康記錄、技術(shù)以及從EHR的采用到現(xiàn)代的醫(yī)學(xué)數(shù)字化轉(zhuǎn)型的興起。他是我們所有人的導(dǎo)師和贊助者，我們很高興今天能向他學(xué)習(xí)。非常感謝你，鮑勃。

Bob：

站在麥克風(fēng)的這一邊，感覺(jué)很有趣，也很不同。因此，我期待與您討論我認(rèn)為未來(lái)十年醫(yī)療保健領(lǐng)域發(fā)生的最有趣和最重要的事情。那么讓我繼續(xù)討論吧。我把這個(gè)標(biāo)題定為“這是我們的海明威時(shí)刻嗎？”你可能想知道我在說(shuō)什么，我稍后會(huì)解釋。

我是多個(gè)委員會(huì)的董事會(huì)成員并為其提供建議，其中包括一些數(shù)字和人工智能領(lǐng)域的公司。我今天不會(huì)談?wù)撍麄兊娜魏萎a(chǎn)品，盡管我與他們的合作幫助我了解了這個(gè)世界的這一地區(qū)。

海明威在1926年寫(xiě)的《太陽(yáng)祭壇升起》中，我正在討論其中一個(gè)角色破產(chǎn)了。那么問(wèn)題來(lái)了，一個(gè)人怎么會(huì)破產(chǎn)呢？他的一名角色問(wèn)道。答案有兩種：逐漸的，然后突然的。如果你看看醫(yī)學(xué)的數(shù)字化轉(zhuǎn)型，你不得不說(shuō)它是漸進(jìn)的，坎坷不平，充其量是不確定的。如果你想一下通過(guò)亞馬遜購(gòu)買產(chǎn)品、通過(guò)Netflix獲得娛樂(lè)、預(yù)訂飛機(jī)、計(jì)劃旅行、處理財(cái)務(wù)的方式的轉(zhuǎn)變，我們?cè)跀?shù)字游戲方面已經(jīng)很晚了。事實(shí)上，幾乎所有其他行業(yè)都經(jīng)歷了廣泛的數(shù)字化轉(zhuǎn)型。醫(yī)療保健確實(shí)起步很晚。但我想說(shuō)，這是我們的海明威時(shí)刻。在這個(gè)時(shí)刻，過(guò)去幾年發(fā)生的所有事情顯然都是漸進(jìn)的，但轉(zhuǎn)變會(huì)有些突然。我并不是說(shuō)下周會(huì)突然發(fā)生。在接下來(lái)的幾年里，您將會(huì)以令人驚嘆的方式看到數(shù)字化轉(zhuǎn)型的產(chǎn)品。

所以我將在大約45分鐘內(nèi)討論電子健康記錄以及我們對(duì)數(shù)字化轉(zhuǎn)型的了解，我想留出至少10分鐘的時(shí)間進(jìn)行討論。答案是這比看起來(lái)要困難得多。它比我們?nèi)魏稳讼胂蟮亩家部赖枚?，這就是為什么我花了一年的時(shí)間來(lái)寫(xiě)一本關(guān)于它的書(shū)。我認(rèn)為這非常困難。然后我會(huì)花大部分時(shí)間談?wù)撔碌娜斯ぶ悄?，我?huì)把它放在生成人工智能的范疇下，談?wù)摯笳Z(yǔ)言模型和基礎(chǔ)模型。談?wù)撍姆绞接泻芏啵艺J(rèn)為就我們的目的而言，一年半前剛剛以ChatGPT的形式出現(xiàn)的新人工智能，現(xiàn)在還有很多其他版本。以及一些機(jī)遇和挑戰(zhàn)是什么。這是我們的海明威時(shí)刻嗎？我已經(jīng)給了你最終的答案，我認(rèn)為是的。

正如Lakshmi提到的，大約一個(gè)月前，我與Eric Brynjolfsson在《JAMA》上寫(xiě)了一篇關(guān)于此問(wèn)題的文章，我將在今天的演講中多次提到他。埃里克在斯坦福大學(xué)。他是那里的經(jīng)濟(jì)學(xué)教授，而且是這個(gè)國(guó)家、世界上真正的領(lǐng)先思想家之一，在行業(yè)的數(shù)字化轉(zhuǎn)型中，醫(yī)療保健并非如此。所以這是一次很好的合作。

因此，讓我們回顧一下我過(guò)去在這里談?wù)撨^(guò)的事情，但我認(rèn)為這是一個(gè)值得回顧的事情以及我們要討論的事情的基礎(chǔ)，醫(yī)學(xué)的數(shù)字化轉(zhuǎn)型真正開(kāi)始于大約10到15年前的電子健康記錄。現(xiàn)在，人們有時(shí)會(huì)來(lái)問(wèn)我，為什么醫(yī)療保健如此害怕技術(shù)？為什么你們是這樣的勒德分子？顯然，這是完全錯(cuò)誤的。前往放射科或電生理學(xué)實(shí)驗(yàn)室（手術(shù)室）。我們熱愛(ài)科技。數(shù)十年來(lái)，我們一直非常愉快且良好地使用它。但這些都是解決單一問(wèn)題的技術(shù)，其焦點(diǎn)非常狹窄，唯一需要學(xué)習(xí)如何使用它們的人是一小群專家。因此，當(dāng)我談?wù)摂?shù)字化轉(zhuǎn)型時(shí)，我指的是我們工作和思考工作的整個(gè)方式，以及擁有數(shù)字化基礎(chǔ)的方式。事實(shí)上，這一切從15年前就開(kāi)始了。

這是電子健康記錄采用的曲線對(duì)于非聯(lián)邦急癥護(hù)理醫(yī)院，醫(yī)生辦公室采用電子健康記錄的曲線大致如下。你看，這件事的主要信息還不到15年前，即2008年，不到十分之一的美國(guó)醫(yī)院擁有電子健康記錄，這意味著他們完成了他們的工作。對(duì)于年輕人來(lái)說(shuō)，很難想象這就是工作的方式，但我們?cè)诩埳狭什輰?xiě)下，我們使用傳真機(jī)，我們使用便利貼。這就是我們記錄患者情況、獲取數(shù)據(jù)和移動(dòng)數(shù)據(jù)的方式以及我們分析它的方式。實(shí)際上在大約五年內(nèi)，到2015年左右，以前只有不到十分之一的醫(yī)院擁有電子健康記錄，現(xiàn)在只有不到十分之一的醫(yī)院沒(méi)有。這是一個(gè)了不起的轉(zhuǎn)變。這是怎么發(fā)生的？你可能會(huì)問(wèn)，之所以會(huì)發(fā)生這樣的事，是因?yàn)槁?lián)邦政府投入了300億美元作為2008年刺激計(jì)劃的一部分，政府向醫(yī)生和醫(yī)院提供了獎(jiǎng)勵(lì)金，基本上是鼓勵(lì)他們采用電子健康記錄，如果不這樣做則進(jìn)行處罰。所以這是加州大學(xué)舊金山分校首次采用電子健康記錄的時(shí)代，我們是很好的伙伴。幾乎美國(guó)的每家醫(yī)院和幾乎每家醫(yī)生辦公室采用電子健康記錄?，F(xiàn)在，這就是那個(gè)時(shí)代的我。我想，孩子，這會(huì)很棒。我的iPhone非常棒。我喜歡開(kāi)放式桌子。我喜歡在線預(yù)訂機(jī)票。我喜歡在亞馬遜上買東西。那么，當(dāng)我們從存儲(chǔ)信息、通過(guò)傳真機(jī)在紙傳輸信息到在這些數(shù)字機(jī)器中記錄有關(guān)患者的所有數(shù)據(jù)時(shí)，可能會(huì)出現(xiàn)什么問(wèn)題呢？

所以我要談一點(diǎn)，我只會(huì)展示兩到三張幻燈片，它們實(shí)際上是我寫(xiě)的一本300頁(yè)書(shū)的摘要，但基本上一些未預(yù)料到的事情確實(shí)出了問(wèn)題。我現(xiàn)在花一些時(shí)間這樣做的原因是我認(rèn)為值得讓我們的大腦集中精力事實(shí)上，數(shù)字化轉(zhuǎn)型比看起來(lái)更困難。這項(xiàng)技術(shù)可能看起來(lái)很酷。它可能看起來(lái)非常簡(jiǎn)單，但我們并不能很好地預(yù)測(cè)技術(shù)與工作相結(jié)合時(shí)出現(xiàn)的一些問(wèn)題，我想這就是電子健康記錄在我們身上發(fā)生的事情。這是一張您可能熟悉的幻燈片。這是一個(gè)七歲的女孩，幾年前去看醫(yī)生，她是一位藝術(shù)家。她用蠟筆畫(huà)了這幅去看醫(yī)生的回憶。你看，在中間，她旁邊有一個(gè)女孩，她的媽媽，在角落里她姐姐旁邊。而在那遙遠(yuǎn)的角落，回到病人正在打字的地方是醫(yī)生。這是她對(duì)與醫(yī)生互動(dòng)的記憶。

我確信，這對(duì)你們來(lái)說(shuō)非常熟悉，尤其是那些從事門(mén)診護(hù)理的人。我認(rèn)為這是一幅壯觀的圖畫(huà)。女孩做錯(cuò)了一件事，有人發(fā)現(xiàn)嗎？醫(yī)生的臉上露出了笑容。那部分是不對(duì)的。我不知道有哪個(gè)醫(yī)生會(huì)因?yàn)槌蔀橐幻嘿F的數(shù)據(jù)錄入員而感到高興，這是我們所有人的感受，隨著電子健康記錄的推出。這部分是軟件的錯(cuò)，但部分原因是現(xiàn)在突然醫(yī)院可能會(huì)說(shuō)，我希望你記錄這件事或那件事，因?yàn)槲覀冃枰鼇?lái)生成更好的賬單或用于我們的質(zhì)量衡量...出于一百個(gè)不同的原因。突然間，醫(yī)生們覺(jué)得他們的任務(wù)是完成計(jì)算機(jī)可以讓他們做的所有這些事情。當(dāng)然，當(dāng)他們?cè)诩埳蟻y寫(xiě)亂畫(huà)時(shí)，這一切都是不可能的。這是一個(gè)意想不到的后果的另一個(gè)部分，我們所有的門(mén)診服務(wù)提供者都跪下了，我們正在非常努力地努力改善。

這是電子健康記錄收件箱。你看，這些是來(lái)自加州大學(xué)舊金山分校的數(shù)據(jù)，A.J.我們臨床信息學(xué)和數(shù)字化轉(zhuǎn)型部門(mén)的Holmgren已成為該領(lǐng)域研究的全國(guó)領(lǐng)導(dǎo)者。你看，從2016年開(kāi)始，電子收件箱消息的數(shù)量上漲了很多很多倍因此，門(mén)診醫(yī)生平均每天要接診病人八、九或十個(gè)小時(shí)，然后還要花幾個(gè)小時(shí)處理電子郵件收件箱消息。我們誰(shuí)都沒(méi)有預(yù)料到這一點(diǎn)。我不認(rèn)識(shí)任何人，我也沒(méi)有看到任何關(guān)于這方面的文章。在事情發(fā)生之前，它就爆炸了。當(dāng)然，如果你仔細(xì)想想，你會(huì)發(fā)現(xiàn)這是完全合乎邏輯和自然的。

我們?yōu)榛颊咛峁┝艘粋€(gè)患者門(mén)戶，非常棒。我們給了他們很多他們通常不理解的信息。他們得到實(shí)驗(yàn)室結(jié)果、X光檢查結(jié)果、心電圖，最終得到醫(yī)生的證明他們想預(yù)約與醫(yī)生討論此事。下一次預(yù)約是兩個(gè)月后，有一個(gè)小有用的按鈕，上面寫(xiě)著向您的醫(yī)療團(tuán)隊(duì)發(fā)送消息，而且是免費(fèi)的。回想起來(lái)，這是一個(gè)愚蠢的時(shí)刻。當(dāng)然，他們會(huì)那么做。事實(shí)上，他們也確實(shí)這么做了。接下來(lái)我們知道的是醫(yī)生，大多數(shù)人都在門(mén)診，跪著呼救，因?yàn)檫@是一個(gè)巨大的負(fù)擔(dān)。

我們基本上所做的是創(chuàng)造和數(shù)字化，當(dāng)我們處于紙質(zhì)世界時(shí)這是不可能的，創(chuàng)造了24X7、365天聯(lián)系醫(yī)生的渠道沒(méi)有考慮一下這個(gè)的商業(yè)模式是什么？對(duì)此的組織勞動(dòng)力模型是什么？你瞧，它不起作用。所以只是兩個(gè)例子，我認(rèn)為文檔負(fù)擔(dān)和電子收件箱就是兩個(gè)例子--我們沒(méi)有人預(yù)料到的數(shù)字化后果，這真的很有意義。對(duì)于患者及其臨床醫(yī)生來(lái)說(shuō)，這都是負(fù)面的。我從這個(gè)情況就可以看出，事情已經(jīng)完全偏離了正軌。這是我?guī)啄昵霸趤喞Ｄ侵菘吹降囊粍t急診醫(yī)師招聘廣告。亞利桑那綜合醫(yī)院即將在大峽谷州開(kāi)業(yè)，這是一家小型的精品綜合醫(yī)院。當(dāng)我想到綜合醫(yī)院時(shí)，我會(huì)想到縣城的醫(yī)院，它并不是一家精品綜合醫(yī)院，但這家醫(yī)院卻是。這是他們?cè)趶V告中的描述。他們有急診室，因?yàn)槿绻阏谡衅讣痹\室的醫(yī)生，你應(yīng)該有一個(gè)急診室。他們還有放射科室，兩個(gè)手術(shù)室，一個(gè)小型的設(shè)施，16個(gè)住院病房，這些都是廣告的一部分，用粗體字顯示，顯然是他們的主要賣點(diǎn)。他們沒(méi)有電子病歷系統(tǒng)。這就是他們?cè)噲D推銷的工作，告訴醫(yī)生，你可以來(lái)這里，仍然可以在紙上隨意寫(xiě)寫(xiě)畫(huà)畫(huà)。

顯然，我們犯了一些錯(cuò)誤，我將花一兩分鐘的時(shí)間來(lái)談?wù)剶?shù)字化轉(zhuǎn)型前10到15年對(duì)我來(lái)說(shuō)的教訓(xùn)，我認(rèn)為這實(shí)際上是電子健康記錄時(shí)代。在這里，我將引用JAMA文章的合著者Eric Brynjolfsson，他在1993年在麻省理工學(xué)院時(shí)撰寫(xiě)的一篇名為《信息技術(shù)的生產(chǎn)力悖論》的文章。生產(chǎn)力悖論是指一項(xiàng)技術(shù)進(jìn)入一個(gè)行業(yè)，而他當(dāng)時(shí)研究的行業(yè)是制造業(yè)、金融服務(wù)業(yè)和華爾街交易柜臺(tái)。計(jì)算機(jī)的出現(xiàn)讓每個(gè)人都關(guān)注起了計(jì)算機(jī)的神奇功能。每個(gè)人都在關(guān)注蘋(píng)果和微軟在做什么。他們認(rèn)為，這將是一件偉大的事情。它將使工作變得更容易、更好、更有效。然而，他們發(fā)現(xiàn)，在一個(gè)又一個(gè)的案例中，一個(gè)又一個(gè)的行業(yè)，兩年過(guò)去了，五年過(guò)去了，有時(shí)甚至十年過(guò)去了，他們卻看不到任何承諾的生產(chǎn)率提高。他們都對(duì)出了什么問(wèn)題感到困惑。

我認(rèn)為，諾貝爾經(jīng)濟(jì)學(xué)獎(jiǎng)得主羅伯特·索洛在1986年寫(xiě)的這句話很好地解釋了這一點(diǎn)：“除了生產(chǎn)力統(tǒng)計(jì)數(shù)據(jù)之外，你隨處都可以看到計(jì)算機(jī)時(shí)代?！边@意味著我走進(jìn)工廠，到處都是計(jì)算機(jī)，但我們并沒(méi)有看到任何承諾的收益。這是為什么呢？這些計(jì)算機(jī)看起來(lái)非常靈活，能夠完成我們希望它們能夠完成的一些奇特的事情。事實(shí)證明，這是一個(gè)又一個(gè)行業(yè)的可預(yù)見(jiàn)的發(fā)現(xiàn)，隨后埃里克和其他研究人員試圖了解其背后的原因以及如何解決它。

事實(shí)證明，在解決生產(chǎn)力悖論之前，其背后有兩件事需要解決。我把它比作一個(gè)保險(xiǎn)箱。你需要兩把鑰匙。一是技術(shù)需要改進(jìn)，1.0版本的表現(xiàn)并不盡如人意。直到他們收到了大量的用戶反饋和大量的迭代周期，你才使用了32.4版本。你已經(jīng)使技術(shù)變得更好，因此獲得了一些優(yōu)勢(shì)。但當(dāng)我在寫(xiě)書(shū)時(shí)研究這個(gè)問(wèn)題時(shí)，我發(fā)現(xiàn)最有趣的令人驚訝的，但我認(rèn)為令人大開(kāi)眼界的發(fā)現(xiàn)并不是最重要的。最重要的不是技術(shù)變得更好。這是組織的演變，利用技術(shù)以完全不同的方式完成工作。布林約爾松和其他人談?wù)摰氖且谩⒁?、重新想象作品，或者有時(shí)他們寫(xiě)下所謂的互補(bǔ)創(chuàng)新。你必須創(chuàng)新組織自己的方式、管理自己的方式以及人們思考工作的方式。據(jù)報(bào)道或研究，絕對(duì)沒(méi)有哪個(gè)行業(yè)在實(shí)施新技術(shù)的第一天就做到了這一點(diǎn)。當(dāng)你做了一段時(shí)間之后，你就開(kāi)始摸不著頭腦為什么沒(méi)有實(shí)現(xiàn)優(yōu)勢(shì)，人們開(kāi)始說(shuō)，也許我們應(yīng)該考慮以不同的方式組織自己。這不是一件自然的事。這對(duì)于人類來(lái)說(shuō)是非常困難的。我非常確信，過(guò)去50年來(lái)唯一能夠在技術(shù)真正出現(xiàn)之前就預(yù)見(jiàn)到技術(shù)的用途的人就是史蒂夫·喬布斯。我們其他凡人無(wú)法做到這一點(diǎn)。我們必須引入技術(shù)，然后我們說(shuō)，哦，這很有趣。我沒(méi)有意識(shí)到發(fā)生了這種事。我們可能需要考慮以不同的方式組織自己。

我認(rèn)為，如果你看看電子健康記錄時(shí)代，你會(huì)說(shuō)它只是在堅(jiān)持生產(chǎn)力悖論。從某些方面來(lái)說(shuō)，這是預(yù)期的結(jié)果。這些機(jī)器顯然已經(jīng)提供了一些真正的優(yōu)勢(shì)，但并沒(méi)有在生產(chǎn)力方面帶來(lái)令人印象深刻的改進(jìn)。如果有的話，那就是有點(diǎn)相反。這可能是因?yàn)閮蓚€(gè)電子病歷都不是那么好，還因?yàn)槲覀冞€沒(méi)有重新構(gòu)思這項(xiàng)工作。我們傾向于將這些東西放在現(xiàn)有的工作流程、勞動(dòng)力和文化中。這就是解決生產(chǎn)力悖論所需要的?，F(xiàn)在，在你對(duì)此感到過(guò)于沮喪之前，你應(yīng)該知道，所研究的每個(gè)行業(yè)的生產(chǎn)力悖論總是變得更好。它總是會(huì)自行解決，但平均時(shí)間在2到10年之間，并且由于您知道的很多原因，醫(yī)療保健比其他行業(yè)要困難得多。所以我們可能談?wù)摰氖?0到20年。問(wèn)題部分在于新的人工智能是否會(huì)推動(dòng)這一趨勢(shì)。所以讓我們轉(zhuǎn)向，這就是我想說(shuō)的關(guān)于背景和歷史的全部?jī)?nèi)容，醫(yī)療保健領(lǐng)域的數(shù)字化轉(zhuǎn)型。我將用剩下的時(shí)間來(lái)談?wù)撔碌娜斯ぶ悄?，無(wú)論是生成式AI和GPT-4以及其他形式、Gemini、谷歌的產(chǎn)品還是其他產(chǎn)品。他們是否會(huì)繞過(guò)或縮短這段生產(chǎn)力悖論時(shí)期，我認(rèn)為在醫(yī)療保健數(shù)字化轉(zhuǎn)型方面我們?nèi)蕴幱谥虚g狀態(tài)？對(duì)我來(lái)說(shuō)，使用伯恩希奧森模型有兩個(gè)問(wèn)題需要回答。一是現(xiàn)在的技術(shù)是否足夠強(qiáng)大，它可以以現(xiàn)有技術(shù)無(wú)法解決的方式解決重要問(wèn)題，并且不需要組織變革嗎？第二個(gè)問(wèn)題是，當(dāng)前的醫(yī)療保健生態(tài)系統(tǒng)是否有某些方面可以促進(jìn)互補(bǔ)創(chuàng)新或繞過(guò)對(duì)它們的需求？因此，我認(rèn)為這是我在思考時(shí)思考的兩個(gè)問(wèn)題，這項(xiàng)新技術(shù)是否會(huì)比我們?cè)陔娮咏】涤涗浿锌吹降母斓匕l(fā)展并更快地實(shí)現(xiàn)成果和效益，并且比其他行業(yè)的技術(shù)更快地實(shí)現(xiàn)？

所以現(xiàn)在當(dāng)我們轉(zhuǎn)向更多地談?wù)撊斯ぶ悄軙r(shí)，讓我坦白一下。我在觀眾中看到一些人是真正的現(xiàn)場(chǎng)觀眾，而且可能更多是在網(wǎng)上，真正的人工智能專家。他們了解它的運(yùn)作方式。他們了解數(shù)學(xué)。我不。我知道要成為人工智能專家并開(kāi)發(fā)新工具，你必須能夠計(jì)算出這些方程，也許是這個(gè)，也許是那個(gè)。我的大腦不是這樣工作的。這些事我都無(wú)能為力。我對(duì)人工智能的看法，我認(rèn)為這足以滿足大多數(shù)普通用戶的目的，是有一些數(shù)學(xué)知識(shí)，然后奇跡就發(fā)生了，然后后端有一些數(shù)學(xué)。我就是這么想的。我認(rèn)為這可能就是您需要知道的全部?jī)?nèi)容。我希望到目前為止，你們中的大多數(shù)人都已經(jīng)使用過(guò)這些新的人工智能技術(shù)。如果你還沒(méi)有，我想你應(yīng)該這樣做。我認(rèn)為我們都必須學(xué)習(xí)如何有效地使用這些東西。我現(xiàn)在可以告訴你，當(dāng)我像以前那樣進(jìn)行Google搜索時(shí)，我現(xiàn)在在Google上進(jìn)行GPT-4或Gemini搜索。我現(xiàn)在每天都會(huì)使用這些工具，每天很多次，因?yàn)槲艺J(rèn)為它們與我們以前的工具相比是進(jìn)步的。但我正處于奇跡狀態(tài)。我正在使用奇跡。我知道其中包含了很多東西，我對(duì)此表示贊賞。我認(rèn)為你不需要很好地理解這一點(diǎn)，就可以認(rèn)真思考它在你的工作中可能扮演的角色。

現(xiàn)在，我們中的一些人將人工智能視為醫(yī)療保健領(lǐng)域的一種新穎的現(xiàn)象。我想向你澄清這不是真的。人們對(duì)人工智能抱有很大的熱情，這是三、四十年前的事情。這是我在醫(yī)學(xué)院和住院醫(yī)師實(shí)習(xí)的時(shí)候。有很多初創(chuàng)公司。還有醫(yī)療保健人工智能初創(chuàng)公司。有一些學(xué)術(shù)研究小組正在研究人工智能。他們犯了一個(gè)非常非常嚴(yán)重的戰(zhàn)略錯(cuò)誤。他們說(shuō)，我們擁有這項(xiàng)新技術(shù)，可以取代人腦的功能。我們應(yīng)該關(guān)注什么問(wèn)題？您認(rèn)為他們關(guān)注的問(wèn)題是什么？有什么猜測(cè)嗎？診斷，當(dāng)然，他們專注于診斷。這就是醫(yī)生所做的。這是最有趣的問(wèn)題，可能也是醫(yī)生所做的最重要的事情。因此他們專注于診斷。造成如此戰(zhàn)略性錯(cuò)誤的原因是診斷是迄今為止最難正確的事情。

考慮一下醫(yī)療保健系統(tǒng)的混亂和患者的安排，或者計(jì)算出手術(shù)室中的流程或發(fā)送事先授權(quán)。難道只有一千件事比診斷更容易嗎？他們專注于最難的一個(gè)，但他們沒(méi)有做對(duì)。現(xiàn)在，做對(duì)意味著你在95%或更多的時(shí)間里做對(duì)了。如果你有50%的時(shí)間都做對(duì)了，那就沒(méi)什么幫助了。這就好像如果你有一個(gè)拼寫(xiě)檢查器在50%的時(shí)間內(nèi)正確，你就不會(huì)使用它。所以它很快就給出了答案，有時(shí)非常聰明，有時(shí)又非常愚蠢。我認(rèn)為在這部漫畫(huà)中，它被捕捉得很好，脈搏加快，出汗，呼吸淺弱。當(dāng)這個(gè)家伙的背上掛著一支箭時(shí)，電腦告訴我你得了膽結(jié)石。這些人工智能系統(tǒng)給出的反應(yīng)實(shí)在是太荒謬了。人們認(rèn)識(shí)他們并了解他們，而新臨床醫(yī)學(xué)則表示，這毫無(wú)意義。這對(duì)我的工作沒(méi)有幫助。此外，請(qǐng)記住，這是前電子健康記錄時(shí)代。

因此，要使用這些東西，我必須先寫(xiě)筆記，然后進(jìn)入計(jì)算機(jī)并輸入所有這些數(shù)據(jù)，這是一個(gè)巨大的時(shí)間消耗。所以這些公司都倒閉了。學(xué)術(shù)團(tuán)體大多解散，這導(dǎo)致了一個(gè)有時(shí)被稱為醫(yī)療保健領(lǐng)域人工智能冬天的時(shí)期。所以實(shí)際上從1980年到2010年左右，有一段時(shí)間，人工智能開(kāi)始在其他行業(yè)獲得一些關(guān)注。想想Visa對(duì)您的信用卡賬單做了什么，以預(yù)測(cè)您的支出。人工智能已經(jīng)嵌入到許多其他行業(yè)，但在醫(yī)療保健領(lǐng)域，這幾乎是不可能的。

如果你是一位年輕的院士，2005年我就說(shuō)想做AI，我和其他導(dǎo)師會(huì)對(duì)你說(shuō)，那不是一個(gè)好地方?，F(xiàn)在，2010年左右冬天開(kāi)始解凍，當(dāng)IBM Watson橫空出世并擊敗Jeopardy冠軍時(shí)。如果你觀看這些比賽，你會(huì)情不自禁地說(shuō)，好吧，現(xiàn)在黃金時(shí)段已經(jīng)準(zhǔn)備好了。在醫(yī)學(xué)領(lǐng)域，沃森大張旗鼓地推出了“沃森健康”，很多關(guān)于華生醫(yī)生的文章，也都熄火了。大約三年前，IBM的Watson健康部門(mén)基本上被出售為零部件。冬天就這樣繼續(xù)著。

那么問(wèn)題來(lái)了，現(xiàn)在不同了嗎？我認(rèn)為答案是肯定的。原因是技術(shù)已經(jīng)有了巨大的進(jìn)步，就在過(guò)去的幾年里。對(duì)于我們這些玩過(guò)GPT-3的人來(lái)說(shuō)，當(dāng)它問(wèn)世時(shí)，我想對(duì)于我們大多數(shù)人來(lái)說(shuō)，這讓我們大開(kāi)眼界。這與我們之前見(jiàn)過(guò)的任何事情都不同。它能夠進(jìn)行對(duì)話，能夠看似理解正在發(fā)生的事情，并且越來(lái)越像人類一樣思考，而無(wú)需先前版本所需的大量編程和算法，這確實(shí)令人印象深刻。

在我開(kāi)始詳細(xì)描述其美妙之處之前，我想先向你們介紹一些主要的問(wèn)題。你們可能已經(jīng)聽(tīng)說(shuō)過(guò)很多關(guān)于這個(gè)領(lǐng)域的信息，但這只是幻覺(jué)。我將用一個(gè)例子來(lái)說(shuō)明，這個(gè)例子可能有些人已經(jīng)從莎拉·默里那里聽(tīng)說(shuō)過(guò)。我想莎拉大約一年前在這里的演講中可能已經(jīng)提到過(guò)這個(gè)例子，那是在我們的首屆人工智能大賽中。莎拉做了一件非常聰明的事情，她使用了GPT-3.5，并要求其事先書(shū)面授權(quán)。因此，如果你是一名門(mén)診醫(yī)生，除了你的電子健康記錄收件箱之外，這就是你生活中的困擾。它正在向保險(xiǎn)公司申請(qǐng)書(shū)面授權(quán)，要求他們?cè)试S使用藥物或支付MRI或PET掃描或任何此類檢查的費(fèi)用。莎拉說(shuō)，"GPT-3.5，你能為我寫(xiě)一份向保險(xiǎn)公司申請(qǐng)Pixaban處方的預(yù)授權(quán)申請(qǐng)嗎？" Pixaban是一種針對(duì)失眠患者的強(qiáng)效抗凝劑。然而，對(duì)于那些不懂臨床的人來(lái)說(shuō)，這看起來(lái)很奇怪。因?yàn)閷?duì)于失眠患者使用強(qiáng)效血液稀釋劑沒(méi)有臨床依據(jù)。但是，GPT-3.5非常樂(lè)于助人地編寫(xiě)了這份預(yù)授權(quán)申請(qǐng)。

然后，莎拉讀到了這篇文章，她覺(jué)得這篇文章非常有說(shuō)服力，以至于她實(shí)際上進(jìn)行了PubMed搜索，看看她是否錯(cuò)過(guò)了這篇關(guān)于使用抗凝劑治療失眠的新文獻(xiàn)。然而，沒(méi)有這樣的研究。這是幻覺(jué)。這是編造出來(lái)的。這些機(jī)器非常受歡迎。他們?cè)噲D找到你問(wèn)題的答案，并且他們有這種彌補(bǔ)問(wèn)題的傾向。我會(huì)在幾分鐘后回到這個(gè)問(wèn)題，因?yàn)檫@是一個(gè)實(shí)際上已經(jīng)改進(jìn)的領(lǐng)域。

這是山姆·奧爾特曼（Sam Altman），他現(xiàn)在是OpenAI的首席執(zhí)行官，非常有名，然后三個(gè)月前被解雇了一天半，然后又被重新雇用。這是他現(xiàn)在發(fā)布的一條推文，一年多前，我認(rèn)為這很好地抓住了這個(gè)問(wèn)題。ChatGPT非常有限，但在某些方面足夠好，足以給人一種偉大的誤導(dǎo)性印象。現(xiàn)在依賴它來(lái)做任何重要的事情都是錯(cuò)誤的。我認(rèn)為在醫(yī)療保健領(lǐng)域，我們所做的事情很重要。這是進(jìn)展的預(yù)覽。在穩(wěn)健性和真實(shí)性方面我們還有很多工作要做。因此，該領(lǐng)域大公司的首席執(zhí)行官表示，不要那么快，讓我們確保我們深思熟慮地處理這件事，特別是在像我們工作的高風(fēng)險(xiǎn)領(lǐng)域。

然而，我認(rèn)為，越來(lái)越多的證據(jù)表明這些東西非常好，將產(chǎn)生有意義的變化，并且我們可以開(kāi)始在醫(yī)療保健用例中推出它們，并深思熟慮、負(fù)責(zé)任和安全地進(jìn)行。讓我舉幾個(gè)例子。這就是我，我有一個(gè)熟人有這個(gè)問(wèn)題，我們正在努力尋找針對(duì)這個(gè)特殊困難診斷的最佳治療方法。所以我問(wèn)了GPT-4，所以下一個(gè)版本，對(duì)于一個(gè)有過(guò)terp的65歲男性來(lái)說(shuō)，首選策略是什么？我沒(méi)說(shuō)清楚terp是什么意思。中度帕金森病患者，現(xiàn)在患有前列腺癌，格里森評(píng)分為8，并且沒(méi)有轉(zhuǎn)移性疾病的證據(jù)。我們一直在進(jìn)行的咨詢，有時(shí)是路邊咨詢。這不是前列腺癌的最佳治療方法，甚至不是格里森評(píng)分為某某人的前列腺癌的最佳治療方法，對(duì)于患有兩種合并癥或某種程度（在本例中為帕金森?。┑娜藖?lái)說(shuō)，前列腺癌的最佳治療方法可能會(huì)影響您之前的治療方法。太有趣了，太復(fù)雜了。

這就是GPT-4所說(shuō)的，我不會(huì)把整件事讀給你聽(tīng)，但它說(shuō)，手術(shù)可以有效，但考慮到患者既往接受過(guò)terp治療且可能出現(xiàn)手術(shù)并發(fā)癥和副作用，這可能不是首選。此外，帕金森氏癥會(huì)使術(shù)后恢復(fù)變得復(fù)雜。確實(shí)如此，它沒(méi)有閱讀任何教科書(shū)章節(jié)。沒(méi)有人寫(xiě)過(guò)關(guān)于這一特殊臨床情況的教科書(shū)章節(jié)。它整合了大量的信息，根據(jù)該患者的情況，以下是我對(duì)手術(shù)的看法。這是我對(duì)輻射的看法。它可以提供良好的癌癥控制。先前的治療方案可能不會(huì)排除輻射，但需要權(quán)衡與輻射相關(guān)的特定副作用。我不知道。事實(shí)證明，如果你之前有過(guò)terp，那么放療實(shí)際上風(fēng)險(xiǎn)更大，因?yàn)槟呀?jīng)清除了前列腺床，并且可能會(huì)產(chǎn)生更多的放療副作用。當(dāng)你使用放射治療時(shí)，你還需要使用雄激素剝奪療法，它對(duì)此進(jìn)行了一些討論。它最終放下了自己的觀點(diǎn)并表示，我建議采用放射和激素療法，而不是手術(shù)。

我認(rèn)為這很有趣，因?yàn)槲乙呀?jīng)與許多外科醫(yī)生和放射腫瘤學(xué)家交談過(guò)，我的感覺(jué)是，在這種特殊情況下，手術(shù)會(huì)更好。其原因主要是雄激素剝奪療法常常使人感到相當(dāng)虛弱。如果你已經(jīng)患有神經(jīng)系統(tǒng)疾病，情況可能會(huì)更糟。所以我回到GPT-4并說(shuō)，你認(rèn)為激素會(huì)加劇帕金森病的虛弱嗎？正如一位深思熟慮、富有同理心的同事所說(shuō)，你提出了一個(gè)有效的觀點(diǎn)。然后它接著說(shuō)，它有很多副作用。其中包括疲勞、肌肉質(zhì)量下降和骨密度下降。它們可以影響個(gè)人的整體實(shí)力?，F(xiàn)在，我剛剛回去并在上周提出了相同的用例，但它并沒(méi)有給我最終的答案。它做了我認(rèn)為更合適的事情，這就是這三者各自的風(fēng)險(xiǎn)和收益。這很復(fù)雜，您應(yīng)該咨詢醫(yī)生。所以我認(rèn)為這是對(duì)的。六個(gè)月后，該公司進(jìn)一步認(rèn)識(shí)到，錯(cuò)誤地降低鎳價(jià)并不是正確的選擇。這是另一個(gè)例子，說(shuō)明在短短六個(gè)月的時(shí)間里，情況已經(jīng)有了多大的改善。

作為挑戰(zhàn)的一部分，你對(duì)GPT有何看法，無(wú)論如何，部分基于你三個(gè)月前或六個(gè)月前聽(tīng)到的事情。它正在以驚人的速度發(fā)生變化，并且?guī)缀跞砍e極的方向發(fā)展。當(dāng)然，這對(duì)于FDA來(lái)說(shuō)是一個(gè)巨大的挑戰(zhàn)，因?yàn)樗噲D找出如何監(jiān)管這一點(diǎn)？如果你批準(zhǔn)了一種治療肺纖維化的新藥物，看看杰夫，這將是你10年后使用的藥物。但如果你被要求批準(zhǔn)人工智能用于前列腺癌的診斷或治療建議，當(dāng)你完成審批流程時(shí)，它已經(jīng)比你必須查看的系統(tǒng)更好了。它的發(fā)展如此之快，以至于產(chǎn)生了很多問(wèn)題。

莎拉又來(lái)了。你記得，這是她提出使用抗凝劑治療失眠的事先授權(quán)請(qǐng)求的三個(gè)月后。三個(gè)月后，她重新登錄，現(xiàn)在不是GPT-3.5，而是GPT-4。它說(shuō)，對(duì)不起，但這里似乎存在重大誤解。沒(méi)有科學(xué)依據(jù)或臨床證據(jù)表明阿哌沙班對(duì)此用途有效或合適。因此，我起草這樣的請(qǐng)求是不道德和不合適的。那只是三個(gè)月后的事了。因此，如果你對(duì)幻覺(jué)的印象以及我們不準(zhǔn)備在醫(yī)療保健中采用這一技術(shù)的原因，這太可怕了，基于將莎拉視為阿哌沙班的例子，這不再是系統(tǒng)中的缺陷。還有其他缺陷。它仍然時(shí)不時(shí)地產(chǎn)生幻覺(jué)，但已經(jīng)比六個(gè)月前好多了。

現(xiàn)在，三個(gè)月前，我會(huì)說(shuō)，這也是我現(xiàn)在做這個(gè)演講的部分原因，我會(huì)說(shuō)絕對(duì)沒(méi)有實(shí)證研究表明這些東西在真實(shí)組織的背景下發(fā)揮作用。有大量的研究，而且還在不斷發(fā)展，表明它可以通過(guò)醫(yī)學(xué)委員會(huì)的審查。它可以通過(guò)法律委員會(huì)。它幾乎比任何SAT考試的孩子都做得更好。甚至一個(gè)月前發(fā)表的一項(xiàng)研究表明，它可以比《新英格蘭雜志》專家?guī)?lái)的更好地解決《新英格蘭雜志》CPC案件。所以做了很多令人印象深刻的派對(duì)技巧，但沒(méi)有真正的證據(jù)。我認(rèn)為根據(jù)我在電子健康記錄方面的經(jīng)驗(yàn)，我真正想要的是證據(jù)，證明你把它放到一個(gè)真實(shí)的工作場(chǎng)所，有真實(shí)的人員、文化、治理、資金和激勵(lì)措施，它實(shí)際上會(huì)兌現(xiàn)承諾。在過(guò)去的三個(gè)月里，出現(xiàn)了許多研究，其中許多尚未經(jīng)過(guò)同行評(píng)審，所以我們必須拭目以待，但所有這些研究都指向當(dāng)你把這個(gè)進(jìn)入職場(chǎng)，只要你用心去做，結(jié)果非常令人印象深刻。那么讓我給你舉三個(gè)例子。最后一項(xiàng)將來(lái)自醫(yī)療保健。前兩個(gè)來(lái)自其他行業(yè)。

這是為公司的呼叫中心配備GPT。這是一家財(cái)富500強(qiáng)軟件公司。GPT部署在他們的呼叫中心。他們有一個(gè)巨大的呼叫中心，人們打電話來(lái)詢問(wèn)有關(guān)他們軟件的問(wèn)題。他們所做的是將GPT提供給呼叫中心的一半人員，并用它來(lái)啟用他們的計(jì)算機(jī)。而另一半，他們沒(méi)有為此接受過(guò)最少的訓(xùn)練。如果你使用過(guò)它，你會(huì)發(fā)現(xiàn)它不需要太多訓(xùn)練。你只需輸入對(duì)話提示，它就知道你在說(shuō)什么。他們?cè)趲讉€(gè)月內(nèi)觀察到了120萬(wàn)條聊天記錄。每小時(shí)成功解決的呼叫數(shù)量增加了14%。客戶滿意度上升，員工保留率也提高。他們發(fā)現(xiàn)，我們?cè)趲缀跛械难芯恐卸伎吹搅诉@一發(fā)現(xiàn)，最大的進(jìn)步是技能最低的工人和最新的工人。換句話說(shuō)，似乎技能更高、經(jīng)驗(yàn)更豐富的工人并不那么需要這個(gè)，但特別是對(duì)于年輕和新員工來(lái)說(shuō)，它可以幫助他們比其他方式更快地完成學(xué)習(xí)曲線。它做了什么？有人打電話來(lái)說(shuō)，我對(duì)優(yōu)質(zhì)照片集感興趣。該訂閱如何運(yùn)作？呼叫中心人員無(wú)需思考或搜索。GPT看到問(wèn)題后，只需單擊一下即可自動(dòng)提取照片集。從而顯著縮短了得出正確答案的時(shí)間。

這是幾個(gè)月前剛剛發(fā)表的另一項(xiàng)研究。這就是波士頓咨詢集團(tuán)，大型高端咨詢公司之一。而他們現(xiàn)在被要求做的，是一個(gè)更加復(fù)雜的任務(wù)。我們并不是要求呼叫中心只是為打電話的人找到正確的信息。我們要求一個(gè)咨詢小組幫助一家假設(shè)的鞋業(yè)公司制定其業(yè)務(wù)和營(yíng)銷策略。所以這是在看市場(chǎng)潛力。你是建店？你們主要做網(wǎng)上銷售嗎？如果你要建造商店和實(shí)體店，你會(huì)把它放在參與者中，新入行且基礎(chǔ)技能較低的人員有所提升，我估計(jì)提升了43%，而技術(shù)水平最高的一半?yún)⑴c者也有所提升，但提升幅度僅為17%。因此，每個(gè)人都能看到的主要好處是，低技能和新工人的提升更為顯著。那么，這與醫(yī)療保健有何關(guān)系呢？這是一項(xiàng)尚未經(jīng)過(guò)同行評(píng)審的研究，因此請(qǐng)持保留態(tài)度。顯然，谷歌對(duì)此非常感興趣，企業(yè)也希望幫助你相信他們正在做一些非常美妙的事情。但這種情況幾乎總是在后來(lái)的同行評(píng)審出版物中得到證實(shí)。因此，我相信這是真實(shí)且正確的。這是五天前才發(fā)布的。

他們進(jìn)行了一項(xiàng)隨機(jī)雙盲交叉研究，讓演員患者以O(shè)SCE格式擺出149個(gè)案例場(chǎng)景。教育界的人都知道那是什么，但基本上都是患者和醫(yī)生之間正常情況下的來(lái)回對(duì)話。他們所做的基本上是將這些病例呈現(xiàn)給初級(jí)保健醫(yī)生或他們的人工智能系統(tǒng)版本，該系統(tǒng)經(jīng)過(guò)調(diào)整可以在人工智能中提供對(duì)話、診斷和治療建議。他們將其稱為“Articulate Medical Information Explorer”或“AIME”。

它基本上是一個(gè)大型語(yǔ)言模型，主要是為了這個(gè)目的而訓(xùn)練的。因此，他們花了幾個(gè)月的時(shí)間進(jìn)行嘗試，并在系統(tǒng)出現(xiàn)問(wèn)題時(shí)向系統(tǒng)提供反饋?，F(xiàn)在在以前從未見(jiàn)過(guò)的新案例上進(jìn)行了嘗試。提出了149個(gè)案例場(chǎng)景，他們對(duì)這些演員患者進(jìn)行了盲法調(diào)查進(jìn)行評(píng)估，這些患者不知道是初級(jí)保健醫(yī)生還是人工智能給了他們答案，然后專家們會(huì)檢查診斷和建議的質(zhì)量。

對(duì)話是這樣的。這位患者隨后寫(xiě)信說(shuō)：我感到胸部和上腹部疼痛。AI問(wèn)道，我打斷了一些對(duì)話。AI已經(jīng)問(wèn)過(guò)病人，你能比你描述的更詳細(xì)一點(diǎn)嗎？病人說(shuō)，感覺(jué)胸部有重物，上腹部感到不適。我不會(huì)將其描述為燃燒或刺痛，確切地說(shuō)更像是一種相當(dāng)明顯的持續(xù)壓力。AI說(shuō)，這個(gè)描述很清楚，謝謝。它幫助我縮小可能性，但為了給你最好的建議，我需要更多的背景知識(shí)。首先，你的年齡是多少？您有任何重要的病史嗎？這包括心臟問(wèn)題、高血壓或既往手術(shù)。病人繼續(xù)給出答案。它會(huì)持續(xù)大約七八個(gè)來(lái)回，直到人工智能提出他們認(rèn)為正在發(fā)生的事情以及你是否需要去急診室或看醫(yī)生或開(kāi)始某種治療的建議。

這是他們的發(fā)現(xiàn)結(jié)果。左邊是專家對(duì)臨床醫(yī)學(xué)的看法，右邊是患者的反應(yīng)。人工智能的結(jié)果是粉色的，醫(yī)生的結(jié)果是藍(lán)色的。更好的是圖表可以延伸得更遠(yuǎn)。你可以看到，在三個(gè)領(lǐng)域中，患者被問(wèn)及他們的看法，患者對(duì)護(hù)理的信心，感知到的開(kāi)放、誠(chéng)實(shí)和同理心，人們認(rèn)為人工智能更好，包括比醫(yī)生更有同理心，這是多項(xiàng)研究中發(fā)現(xiàn)的結(jié)果。當(dāng)專科醫(yī)生被要求查看診斷和建議的質(zhì)量時(shí)，他們認(rèn)為人工智能更準(zhǔn)確，更好的管理計(jì)劃和升級(jí)建議大致相同。所以你必須看看這個(gè)并說(shuō)，至少它是好的，并且可能比回答相同病例場(chǎng)景的醫(yī)生更好。什么是一個(gè)相當(dāng)真實(shí)的世界他們?cè)O(shè)定的一組條件。這是排名前10位的診斷結(jié)果。這是專家的判斷關(guān)于診斷準(zhǔn)確性的質(zhì)量。你可以看到，人工智能在每一個(gè)方面都比醫(yī)生做得更好。所以對(duì)于我們這些喜歡我們工作的人來(lái)說(shuō)，這在某種程度上令人興奮，也有點(diǎn)可怕，但顯然我們已經(jīng)過(guò)了可以說(shuō)我們不要關(guān)注這一點(diǎn)的地步了。它還沒(méi)有為醫(yī)療保健做好準(zhǔn)備。我認(rèn)為它已經(jīng)為醫(yī)療保健做好了準(zhǔn)備。

因此，讓我嘗試將所有內(nèi)容整合在一起。與包括電子健康記錄在內(nèi)的現(xiàn)有技術(shù)相比，生成式人工智能是否需要更少的補(bǔ)充創(chuàng)新和整個(gè)系統(tǒng)的更少變化才能產(chǎn)生影響？我認(rèn)為答案是肯定的。使用它幾乎不需要訓(xùn)練。有一種東西叫做Prompt工程。實(shí)際上，您可以在放入其中以獲得更好響應(yīng)的各種內(nèi)容方面做得更好，但您可以注冊(cè)GPT 4.0立即輸入提示，無(wú)需任何訓(xùn)練即可獲得有用的答案。更容易集成到現(xiàn)有軟件，包括電子健康記錄和工作流程。

因此，請(qǐng)考慮從紙質(zhì)文件到電子病歷的轉(zhuǎn)變。我們需要將計(jì)算機(jī)放置在各處，并弄清楚每個(gè)人將如何度過(guò)他們的一天?，F(xiàn)在，您每天花費(fèi)大量時(shí)間，而不是閱讀紙質(zhì)圖表，而是在計(jì)算機(jī)上打字并從計(jì)算機(jī)上閱讀。向人工智能的過(guò)渡是你已經(jīng)在使用計(jì)算機(jī)了。你一直在使用這些工具?，F(xiàn)在的問(wèn)題是輸出是什么？因此，我認(rèn)為從紙質(zhì)到電子病歷的提升要輕得多。所以你會(huì)看到，新的人工智能產(chǎn)品能夠融入你的電子健康記錄，你仍然在Epic上打字，但現(xiàn)在它正在做一些Epic無(wú)法做的事情。這是一件容易得多的事情。這不是小事。仍然需要做大量的工作來(lái)整合它，但比幾年前要容易得多。

主要的EHR公司Epic和Cerner也在非常非常努力地構(gòu)建人工智能，我們開(kāi)始看到這些東西推出，而且我們會(huì)看到越來(lái)越多。Epic與OpenAI和Microsoft建立了合作伙伴關(guān)系。Cerner被大型軟件公司Oracle收購(gòu)，部分原因是他們相信人工智能專業(yè)知識(shí)會(huì)有所幫助。因此，您很快就會(huì)在計(jì)算機(jī)和工作流程中看到更多這樣的內(nèi)容。已經(jīng)有很多初創(chuàng)公司和老牌公司致力于解決醫(yī)療保健問(wèn)題他們已經(jīng)接受了這種人工智能并將其應(yīng)用到他們的產(chǎn)品中，并且在GPT發(fā)布后的六個(gè)月內(nèi)就真正做到了這一點(diǎn)。

我認(rèn)為醫(yī)療保健和數(shù)字化領(lǐng)導(dǎo)者已經(jīng)從過(guò)去十年中吸取了教訓(xùn)。我認(rèn)為我們對(duì)于如何在醫(yī)療保健領(lǐng)域進(jìn)行數(shù)字化工作不再像以前那么天真了。我們比以前更不相信炒作了。我們已經(jīng)培養(yǎng)了領(lǐng)導(dǎo)者，我在這里看到了其中的一些人，他們的職業(yè)生涯涉及醫(yī)療保健、信息學(xué)、數(shù)字化，以及如何使其發(fā)揮作用、研究和教學(xué)。我認(rèn)為我們現(xiàn)在已經(jīng)掌握了很多以前沒(méi)有的東西。醫(yī)療保健領(lǐng)域的勞動(dòng)力短缺可能會(huì)減少政治阻力。它不會(huì)讓它消失。

想想去年美國(guó)發(fā)生的兩次大罷工。一個(gè)是汽車行業(yè)，另一個(gè)是好萊塢，他們主要討論的是，人工智能會(huì)取代我的工作嗎？因此，隨著這些工具的出現(xiàn)，將會(huì)出現(xiàn)政治阻力，但在醫(yī)療保健領(lǐng)域，醫(yī)生、護(hù)士以及計(jì)費(fèi)部門(mén)的人員非常短缺，我認(rèn)為如果這項(xiàng)技術(shù)能夠改善我的生活，它會(huì)更受歡迎照顧病人更容易，而且我認(rèn)為與其他行業(yè)相比，對(duì)工作替換的恐懼要少一些。

讓我花幾分鐘討論一下可能會(huì)出現(xiàn)什么問(wèn)題，結(jié)果是，當(dāng)我們思考生成式人工智能時(shí)，只用一分鐘的時(shí)間來(lái)討論人工智能的問(wèn)題，這本可以是一個(gè)完整的演講。我只是想讓你意識(shí)到它們。我們可以在討論中談?wù)撍鼈?。顯然，人工智能可以使用其擁有的數(shù)據(jù)，而這些數(shù)據(jù)主要來(lái)自電子健康記錄。他們?nèi)匀豢梢跃幵煲恍〇|西。仍然會(huì)有幻覺(jué)的問(wèn)題，還有垃圾進(jìn)、垃圾出的問(wèn)題。如果HR中的數(shù)據(jù)錯(cuò)誤，那么AI的輸出也會(huì)錯(cuò)誤。黑匣子問(wèn)題。臨床醫(yī)生會(huì)遵循他們不理解的推導(dǎo)預(yù)測(cè)和建議嗎？我認(rèn)為這是一個(gè)懸而未決的問(wèn)題。

許多人工智能公司不僅致力于為您提供答案，而且還為您提供他們從何處獲得答案。因?yàn)樗麄兿嘈牛绻覀冎纴?lái)源是什么，我們就會(huì)更加相信答案。我認(rèn)為他們這樣做是合理的。很多道德問(wèn)題和差異。如果電子病歷對(duì)過(guò)去的做法進(jìn)行審查表明，黑人骨折患者比白人患者獲得的止痛藥更少，那么人工智能就會(huì)相信這是治療黑人患者的正確方法，并將其納入其治療建議中。你還可以舉出100個(gè)其他例子。因此，它并不比我們更有偏見(jiàn)，但它可以將這些偏見(jiàn)嵌入到其建議中。因此，需要做大量的工作來(lái)思考如何預(yù)防這種情況，并消除這些系統(tǒng)的偏見(jiàn)。

此外，還有對(duì)數(shù)字鴻溝的擔(dān)憂。隨著越來(lái)越多的護(hù)理以數(shù)字方式提供，我們需要確保人們能夠使用無(wú)線網(wǎng)絡(luò)以及他們需要的所有東西。最后，還有大量的隱私和安全問(wèn)題。數(shù)據(jù)共享存在很多障礙，包括擔(dān)心安全漏洞，以及誰(shuí)擁有數(shù)據(jù)？算法是否會(huì)被黑客攻擊是一個(gè)問(wèn)題？如果人工智能犯了錯(cuò)誤，誰(shuí)該承擔(dān)責(zé)任？

同樣，我?guī)缀蹩梢栽诿總€(gè)問(wèn)題上花費(fèi)一個(gè)小時(shí)。它們是大問(wèn)題。我們會(huì)給他們很多思考。我將花一分鐘時(shí)間討論一個(gè)我特別喜歡、我認(rèn)為很有趣的問(wèn)題，對(duì)我們訓(xùn)練界尤其重要，這就是去技能化和自動(dòng)化的自滿。當(dāng)AI是對(duì)的時(shí)候，50%的時(shí)間，它沒(méi)有幫助，你不會(huì)使用它。當(dāng)人工智能100%正確時(shí)，那就太好了，只是我不確定我們要做什么。問(wèn)題是人工智能在一段時(shí)間內(nèi)的正確率會(huì)達(dá)到90%，因此，你將擁有一個(gè)由醫(yī)生或護(hù)士負(fù)責(zé)查看結(jié)果并簽字的系統(tǒng)。這聽(tīng)起來(lái)相當(dāng)強(qiáng)大，并且是一個(gè)自動(dòng)防故障系統(tǒng)，只不過(guò)它不在任何人類系統(tǒng)中。

這個(gè)故事在過(guò)去的航空界經(jīng)常被講述，在航空界，在一架大飛機(jī)上，你的駕駛艙里有三個(gè)人。你有一名飛行員、Copilot和飛行工程師，大約30年前，他們拋棄了飛行工程師，他們不需要第三個(gè)人。航空界有句俗話：最終你將擁有的不再是兩個(gè)人，而是一名飛行員和一只狗，俗話說(shuō)，飛行員會(huì)陪伴狗，如果飛行員試圖觸摸控制裝置，狗就會(huì)咬飛行員，因?yàn)轱w機(jī)基本上會(huì)自行飛行。這很有趣，直到你想到一些相當(dāng)引人注目的航空事故，這些事故是由于計(jì)算機(jī)出現(xiàn)故障而飛行員不知道該做什么，因?yàn)樗麄円呀?jīng)失去了技能。他們只有在電子設(shè)備工作時(shí)才知道如何駕駛飛機(jī)。

所以這就是去技能化，但更大的問(wèn)題可能是自動(dòng)化的自滿。如果人工智能99%的時(shí)間都是正確的，那么放射科醫(yī)師在簽署放射學(xué)報(bào)告之前是否真的閱讀過(guò)放射學(xué)報(bào)告？答案是人類很難集中注意力。我們知道這一點(diǎn)，因?yàn)槲覀円呀?jīng)在汽車自動(dòng)駕駛領(lǐng)域看到了這一點(diǎn)。這是特斯拉自動(dòng)駕駛儀駕駛員手冊(cè)中的內(nèi)容顯然是由一群非常昂"在一秒鐘內(nèi)知曉并對(duì)正在發(fā)生的事情做出反應(yīng)，這聽(tīng)起來(lái)可能有些荒謬，但實(shí)際上可能是有效的。

讓我回顧一下幾年前發(fā)生的一起特斯拉事故，這是一起相當(dāng)知名的事件。當(dāng)特斯拉汽車進(jìn)行計(jì)算機(jī)模型計(jì)算時(shí)，我認(rèn)為它有160英尺的反應(yīng)時(shí)間，然后司機(jī)才意識(shí)到汽車將駛?cè)胍惠v非常大的卡車?？杀氖?，司機(jī)并未能避開(kāi)，汽車真的撞上了卡車，導(dǎo)致卡車將汽車和司機(jī)的上半身都剪掉。顯然，司機(jī)因此喪生。這個(gè)事故實(shí)在太瘋狂了。我們不能期待有一個(gè)始終準(zhǔn)確的系統(tǒng)，并且要求人類負(fù)責(zé)簽字，如果他們簽字后出現(xiàn)問(wèn)題，從瀆職的角度來(lái)看，我們將承擔(dān)責(zé)任。我不知道如何解決這個(gè)問(wèn)題。我認(rèn)為這是我們必須解決的一個(gè)真正問(wèn)題，這在訓(xùn)練領(lǐng)域非常重要。因此，我以此結(jié)束，以確保我們有一些時(shí)間進(jìn)行討論。這就是我現(xiàn)在的想法。

我認(rèn)為你應(yīng)該將過(guò)去10年或者15年的醫(yī)療保健視為基礎(chǔ)。這意味著我們已經(jīng)創(chuàng)建了現(xiàn)在數(shù)字化的數(shù)據(jù)，以數(shù)字方式完成我們工作的工具，這方面的專家事實(shí)上現(xiàn)在所有人都習(xí)慣了數(shù)字化工作。當(dāng)我與居民或?qū)W生談?wù)撨^(guò)去的日子時(shí)，我們?cè)诩埳侠L制圖表，進(jìn)行X光檢查，然后將其放在燈前，就像我在日志中談?wù)撐业耐暌粯印Ｎ也幌?.....他們只知道數(shù)字健康。所以我們已經(jīng)經(jīng)歷了這一切。我們現(xiàn)在已經(jīng)在某種程度上創(chuàng)建了治理，以弄清楚如何使其發(fā)揮作用并做出決策。在某種程度上，文化。我認(rèn)為所有這些都是基礎(chǔ)性的，讓我們?yōu)獒t(yī)學(xué)的數(shù)字化轉(zhuǎn)型做好了準(zhǔn)備。電子健康記錄將越來(lái)越成為這些新技術(shù)的基礎(chǔ)。所以你永遠(yuǎn)都會(huì)在某件事上。我們認(rèn)為這是電子健康記錄，但它會(huì)越來(lái)越多地為你做一些事情，這些事情可能是Epic沒(méi)有做的，但據(jù)我們所知，是其他公司已經(jīng)做的，或者UCSF做的。

低垂的果實(shí)，意思是會(huì)做一些簡(jiǎn)單的事情。我認(rèn)為我們會(huì)比80年代的人更聰明。我們將從物流和運(yùn)營(yíng)開(kāi)始，調(diào)度、計(jì)費(fèi)、事先授權(quán)、患者溝通。其中一家正在開(kāi)發(fā)預(yù)先授權(quán)引擎的公司的首席執(zhí)行官表示，他們現(xiàn)在在您輸入字母O的地方就擁有了該引擎。它會(huì)打印出您對(duì)Ozempic UnitedHealthcare事先授權(quán)的事先授權(quán)。它知道這就是您想要做的。因此，所有這些都是一種容易實(shí)現(xiàn)、唾手可得的成果，而且風(fēng)險(xiǎn)也沒(méi)有那么高。而不是從診斷和治療等臨床高風(fēng)險(xiǎn)領(lǐng)域開(kāi)始，但這也并不遙遠(yuǎn)。

我認(rèn)為，在某些方面，這將從臨床護(hù)理的操作問(wèn)題開(kāi)始。從加州大學(xué)舊金山分校開(kāi)始，我們現(xiàn)在正在推出數(shù)字抄寫(xiě)程序。因此，過(guò)去幾年我們?yōu)槲覀冏畲罅康牧鲃?dòng)文檔提供的人類抄寫(xiě)員，越來(lái)越多，我認(rèn)為在幾年內(nèi)，每個(gè)醫(yī)生都會(huì)有一個(gè)數(shù)字抄寫(xiě)員。您將與患者交談，您的筆記就會(huì)出現(xiàn)。該領(lǐng)域的公司已經(jīng)經(jīng)歷了一段時(shí)間的反彈，但現(xiàn)在已經(jīng)準(zhǔn)備好迎接黃金時(shí)段了。現(xiàn)在技術(shù)已經(jīng)相當(dāng)不錯(cuò)了。您還將擁有系統(tǒng)，Epic正在構(gòu)建其中一個(gè)系統(tǒng)，但也會(huì)有其他系統(tǒng)，也就是說(shuō)，總結(jié)患者的過(guò)去病史并瀏覽300頁(yè)的注釋，并為您提供一頁(yè)摘要患者的既往病史，并以臨床上實(shí)際上相當(dāng)可信的方式進(jìn)行。您還將看到患者選擇以及正在推出的風(fēng)險(xiǎn)預(yù)測(cè)工具。這就是你之前首先看到的，然后您開(kāi)始看到建議的診斷和建議的治療。

我們需要預(yù)見(jiàn)到可預(yù)測(cè)的問(wèn)題，例如偏見(jiàn)、幻覺(jué)和自動(dòng)化自滿，加上不可預(yù)測(cè)的事情。如果我能預(yù)測(cè)它們，我會(huì)告訴你它們是什么，但我不知道它們會(huì)是什么。我只知道我們會(huì)見(jiàn)到他們以及一些政治阻力。但我認(rèn)為醫(yī)學(xué)數(shù)字化轉(zhuǎn)型的舞臺(tái)終于搭建好了。我認(rèn)為這非常重要，特別是對(duì)于像我們這樣的地方來(lái)說(shuō)，評(píng)估這些實(shí)施，確保收益大于風(fēng)險(xiǎn)，并重新考慮我們的組織結(jié)構(gòu)圖，以確保我們現(xiàn)在為新型數(shù)字工作做好了準(zhǔn)備，包括人工智能。

我將向您展示一些工作和人員的示例。這些工作崗位在六個(gè)月前還不存在。所以在我們部門(mén)，我們成立了臨床信息學(xué)和數(shù)字化轉(zhuǎn)型部門(mén)，朱莉·阿德勒·米爾斯坦 (Julie Adler Milstein) 擔(dān)任部門(mén)負(fù)責(zé)人。就在此時(shí)，七個(gè)月前，部分原因是準(zhǔn)備研究這項(xiàng)工作，成為該領(lǐng)域教育的領(lǐng)導(dǎo)者。對(duì)此非常非常興奮。我猜，大約三四個(gè)月前，我們部門(mén)的 Sarah Murray 成為了首席健康人工智能官。直到六、八個(gè)月前，我們才知道我們需要一位首席健康人工智能官，當(dāng)時(shí)我們意識(shí)到我們絕對(duì)需要有人來(lái)負(fù)責(zé)這一切，并找出如何讓這一切發(fā)揮作用。我認(rèn)為這只是臨床操作中需要進(jìn)行的治理變革的一個(gè)例子，進(jìn)行研究和教育。我為我們所做的工作以及這些人和許多其他人（包括在座的許多人）所做的工作感到自豪。

我確實(shí)認(rèn)為生成式人工智能的獨(dú)特力量加上我們?cè)谶^(guò)去10到15年中所做的信息學(xué)基礎(chǔ)工作以及衛(wèi)生系統(tǒng)轉(zhuǎn)型的迫切需要將創(chuàng)造我們的海明威時(shí)刻。如果你學(xué)的是醫(yī)療保健，我會(huì)說(shuō)海明威可能會(huì)說(shuō)的話，您如何描述醫(yī)療保健的數(shù)字化轉(zhuǎn)型？星號(hào)是幾年后，這不是明天，但也不是十年，而是兩年、三年、四年。我認(rèn)為答案是醫(yī)療保健在很大程度上發(fā)生了轉(zhuǎn)變，變得更好，逐漸地，然后突然地，我想現(xiàn)在是我們的時(shí)刻了。

我認(rèn)為在加州大學(xué)舊金山分校，我們有能力成為這方面的領(lǐng)導(dǎo)者。非常感謝您的關(guān)注。

QnA:

主持人：鮑勃，非常感謝你創(chuàng)造了歷史杰作，感謝你現(xiàn)在所處的位置以及我們要去的地方。我們從現(xiàn)場(chǎng)觀眾和數(shù)字觀眾那里提出了一些問(wèn)題。

Annie Leukemeyer 博士提出了一個(gè)問(wèn)題。她詢問(wèn)，您如何看待 GPT-4 等工具的有時(shí)限性？一方面，你可以說(shuō)它發(fā)展得很快，但另一方面，它不一定訪問(wèn)上周的研究或我們?nèi)绾螌⑵浼{入醫(yī)學(xué)文獻(xiàn)。

是的，答案是如果您可以訪問(wèn)上周的研究，那么它也可以?，F(xiàn)在到目前為止還沒(méi)有，因?yàn)榈侥壳盀橹梗?dāng) GPT-4 首次推出時(shí)，它擁有一個(gè)到2021年為止都可用的信息庫(kù)。所以人們已經(jīng)習(xí)慣了它目前還不是最新的想法。新的 GPT 和 GPT-5 最終將推出將會(huì)和我們一樣與時(shí)俱進(jìn)。當(dāng)然，問(wèn)題是這個(gè)東西如何審查文獻(xiàn)并知道這項(xiàng)研究是好是壞，它是否會(huì)衡量影響因子或者給編輯的信等等？我認(rèn)為這些都是棘手的問(wèn)題，但對(duì)我們來(lái)說(shuō)也是棘手的問(wèn)題。但我認(rèn)為你可以從新的人工智能中得到及時(shí)的響應(yīng)，我們已經(jīng)習(xí)慣了他們的時(shí)間滯后。我認(rèn)為未來(lái)的情況不會(huì)如此。

我很好奇只是想了解一下你上一篇關(guān)于加州大學(xué)舊金山分校在這個(gè)領(lǐng)域的地位的帖子，您認(rèn)為衛(wèi)生系統(tǒng)的作用是什么？我們是否與公司共同開(kāi)發(fā)某些技術(shù)，或者我們的最佳角色是幫助在臨床護(hù)理環(huán)境中進(jìn)行測(cè)試和驗(yàn)證？或者我們是在觀察事情的進(jìn)展，也許一旦 Epic 在其他20個(gè)大型衛(wèi)生系統(tǒng)中進(jìn)行了測(cè)試，我們就會(huì)開(kāi)始實(shí)施類似的事情。

是的，這是一個(gè)引人注目的問(wèn)題。那么問(wèn)題是學(xué)術(shù)健康中心在這項(xiàng)工作中扮演什么角色？我認(rèn)為誠(chéng)實(shí)的答案是我不知道，因?yàn)槲艺J(rèn)為它是如此新，而且發(fā)展得如此之快。我認(rèn)為大部分的發(fā)展由于需要的規(guī)模，你需要的技術(shù)量，很多發(fā)展將發(fā)生在企業(yè)界、初創(chuàng)企業(yè)界，創(chuàng)業(yè)世界和微軟、谷歌、蘋(píng)果、微軟世界。我認(rèn)為他們將會(huì)是，他們最終將不得不向衛(wèi)生系統(tǒng)出售產(chǎn)品。因此，他們將尋找合作伙伴來(lái)幫助開(kāi)發(fā)這些東西，了解醫(yī)療保健系統(tǒng)中的用例進(jìn)行研究以驗(yàn)證它們?cè)诂F(xiàn)實(shí)生活中是否有效。說(shuō)它在實(shí)驗(yàn)室或虛構(gòu)的用例中有效是一回事。另一種說(shuō)法是，在現(xiàn)實(shí)生活中培養(yǎng)未來(lái)的勞動(dòng)力是我們工作的一部分。

學(xué)術(shù)健康系統(tǒng)真的很有趣，因?yàn)槟愕纳虒W(xué)院并不經(jīng)營(yíng)企業(yè)。法學(xué)院不經(jīng)營(yíng)律師事務(wù)所。我們集臨床系統(tǒng)、教育、研究于一體，具有真正的價(jià)值。但是一家非常大的風(fēng)險(xiǎn)投資公司兩天前剛剛購(gòu)買了一個(gè)醫(yī)療保健系統(tǒng)。它這樣做并不是因?yàn)樗J(rèn)為醫(yī)療保健系統(tǒng)可以盈利，而是因?yàn)樗胍粋€(gè)學(xué)習(xí)實(shí)驗(yàn)室來(lái)測(cè)試新的數(shù)字工具。所以你可以看到各種新的關(guān)系。我認(rèn)為作為一個(gè)衛(wèi)生系統(tǒng)，如果我們不擅長(zhǎng)這一點(diǎn)，我們不會(huì)僅僅在醫(yī)療保健系統(tǒng)市場(chǎng)中生存。我認(rèn)為教育和研究領(lǐng)域也是如此。

我認(rèn)為研究界將提出一萬(wàn)億個(gè)問(wèn)題。因此，我認(rèn)為我們開(kāi)始這個(gè)新部門(mén)的部分原因是我們需要新的研究重點(diǎn)。我認(rèn)為這將是學(xué)術(shù)健康系統(tǒng)的協(xié)同作用，將所有這三件事一起做，所增加的價(jià)值超出了公司所能做到的。但這將會(huì)有很多合作伙伴關(guān)系。

作為訓(xùn)練項(xiàng)目的負(fù)責(zé)人，我有一個(gè)關(guān)于去技能的問(wèn)題。這讓我非常緊張，尤其是因?yàn)?，正如安妮所提出的，你無(wú)法判斷他正在做的研究的質(zhì)量。我們的學(xué)員是否會(huì)失去理解諸如什么是偉大的研究、什么不是偉大的研究以及我們?nèi)绾巫鑫覀兿胱龅氖虑橹g的區(qū)別的能力？所以我很好奇，是否有其他人的經(jīng)驗(yàn)教訓(xùn)，比如飛行員或其他組織行業(yè)關(guān)于如何防止技能下降的問(wèn)題？因?yàn)槟鷽](méi)有接種疫苗似乎很自然。

是的，如果你從來(lái)沒(méi)有這樣做的話，一些去技能化是正常和適當(dāng)?shù)?。正如我多次告訴人們的那樣，我?guī)缀醪挥浀梦移拮拥氖謾C(jī)號(hào)碼。如果我丟了手機(jī)，我就再也見(jiàn)不到她了，因?yàn)槲乙呀?jīng)不擅長(zhǎng)記住電話號(hào)碼或記住方向了。我不再需要了。因此，我認(rèn)為像您這樣運(yùn)行訓(xùn)練項(xiàng)目的人面臨的部分挑戰(zhàn)是弄清楚什么是合適的，什么是他們真正不需要再學(xué)習(xí)的東西與他們大部分時(shí)間可能不需要的東西相比，他們需要一些時(shí)間，以某種方式評(píng)估計(jì)算機(jī)的輸出。我認(rèn)為這將是您和其他像您一樣的人在未來(lái)10年需要解決的一個(gè)核心問(wèn)題。區(qū)分去技能化和自動(dòng)化自滿很重要。它們是相關(guān)的，但并不完全相同。我記得當(dāng)我在寫(xiě)書(shū)時(shí)采訪薩倫伯格船長(zhǎng)時(shí)，我們正在談?wù)撈渲幸恍┦鹿室约坝?jì)算機(jī)開(kāi)始提供不良信息的飛機(jī)。他說(shuō)，他們駕駛的是一架他們不知道如何駕駛的飛機(jī)。當(dāng)他的電腦出現(xiàn)時(shí)，他知道如何飛行，當(dāng)他的飛機(jī)熄火時(shí)，因?yàn)樗邮苓^(guò)滑翔機(jī)訓(xùn)練并且知道。

那么問(wèn)題來(lái)了，你能模擬那些情況嗎？你能建立一個(gè)模擬來(lái)讓它們通過(guò)嗎？計(jì)算機(jī)給出錯(cuò)誤的答案并給他們體驗(yàn)。自動(dòng)他們將物品放入袋子并通過(guò)X光機(jī)進(jìn)行檢查，以確保人們保持警覺(jué)。因?yàn)槿绻氵B續(xù)檢查了10,000個(gè)袋子，都沒(méi)有發(fā)現(xiàn)任何問(wèn)題，你可能就會(huì)放松警惕。這是一個(gè)復(fù)雜的問(wèn)題，但我認(rèn)為我們需要重新思考。我記得當(dāng)谷歌剛剛出現(xiàn)的時(shí)候，有人質(zhì)疑我們?yōu)槭裁催€要教醫(yī)學(xué)生記憶事實(shí)，因?yàn)槟憧梢酝ㄟ^(guò)搜索找到任何信息。但實(shí)際證明，這種觀點(diǎn)是荒謬的，掌握基礎(chǔ)知識(shí)仍然非常重要。我認(rèn)為對(duì)于人工智能也是如此。你仍然需要了解成為一名好醫(yī)生的基礎(chǔ)知識(shí)，但現(xiàn)在找到可靠的信息比以前更容易。這將影響我們的培訓(xùn)方式。

感謝你的精彩演講。我很想聽(tīng)聽(tīng)你對(duì)面臨潛在風(fēng)險(xiǎn)時(shí)的機(jī)會(huì)和利益的看法，特別是誰(shuí)會(huì)承擔(dān)風(fēng)險(xiǎn)，誰(shuí)會(huì)受益，誰(shuí)可能會(huì)受到傷害？

是的，問(wèn)題在于誰(shuí)會(huì)從中受益，誰(shuí)會(huì)因?yàn)檫@些工具的潛在風(fēng)險(xiǎn)而受到傷害。我認(rèn)為這通常是在系統(tǒng)內(nèi)置的激勵(lì)機(jī)制的背景下進(jìn)行的。我認(rèn)為圍繞這個(gè)問(wèn)題的激勵(lì)機(jī)制并不比現(xiàn)在的激勵(lì)機(jī)制更復(fù)雜。

我認(rèn)為你有一個(gè)系統(tǒng)，如果你按數(shù)量付費(fèi)，更多的RVU和更多的小部件正在使用，那么，如果這些工具能讓護(hù)理變得更好、更安全、更便宜，你還有動(dòng)力花錢購(gòu)買這些工具嗎？答案并不是像你應(yīng)該的那樣強(qiáng)大的激勵(lì)，但你仍然有激勵(lì)，尤其是在競(jìng)爭(zhēng)激烈的市場(chǎng)中，盡可能做到最好，以最低的成本提供最好的結(jié)果。而且這樣做還有道德動(dòng)機(jī)。

我認(rèn)為，關(guān)于誰(shuí)承擔(dān)傷害成本的問(wèn)題非常有趣。因?yàn)槿斯ぶ悄芄荆切樘厮估录珜?xiě)法律文件的律師也在他們推出的每一款產(chǎn)品上寫(xiě)了一些東西，說(shuō)，我們不是醫(yī)生，你應(yīng)該咨詢醫(yī)生。在任何有關(guān)醫(yī)療建議的GPT-4搜索結(jié)束時(shí)，總會(huì)有一行內(nèi)容表明你應(yīng)該咨詢醫(yī)療保健專業(yè)人士。對(duì)于任何事情，除非是100%完美，否則他們都會(huì)有一位醫(yī)生來(lái)查看結(jié)果并簽字。當(dāng)我們推出數(shù)字抄寫(xiě)員時(shí)，文檔仍然需要在該注釋上簽名，并且如果發(fā)生不良情況，文檔將是負(fù)責(zé)的人。如果數(shù)字X射線正在讀取X射線，情況也是如此，但放射科醫(yī)生必須簽字。因此，在可預(yù)見(jiàn)的未來(lái)，我認(rèn)為人類將會(huì)被感受到、被保留、被承擔(dān)責(zé)任。數(shù)字公司可以盡一切努力確保我們不會(huì)稱他們?yōu)獒t(yī)生，也不會(huì)將責(zé)任歸咎于他們的法庭。

我認(rèn)為我應(yīng)該提到的一個(gè)激勵(lì)因素或財(cái)務(wù)因素是按服務(wù)收費(fèi)的制度，在流動(dòng)世界中，唯一收費(fèi)的事情是你來(lái)我的辦公室參觀，我會(huì)花10分鐘與你在一起并寫(xiě)一張便條，然后將其發(fā)送給Aetna。這種方式越來(lái)越行不通了。如果你的護(hù)理越來(lái)越多地通過(guò)監(jiān)控你的心率和情緒等的數(shù)字設(shè)備來(lái)提供，以及由此而來(lái)的建議，這將如何計(jì)費(fèi)？因此，隨著醫(yī)療保健越來(lái)越多地被解構(gòu)為一大堆虛擬交互，我們獲得報(bào)酬的方式必須改變，如果醫(yī)療保健系統(tǒng)負(fù)責(zé)的話，這里有X筆錢來(lái)照顧這位患有Y種合并癥的患者。如果你做得更好、更便宜，你就會(huì)做得很好。如果你做得不好而且成本更高，你就不會(huì)做得很好。我認(rèn)為基于小部件、基于交易的支付的想法將會(huì)被所有這些數(shù)字工具所取代。

也許還有觀眾提出的最后一個(gè)問(wèn)題。黑匣子現(xiàn)象是否有可能適用于他們喜歡的患者，我不知道發(fā)生了什么，但我的手表告訴我我應(yīng)該做X，并且初級(jí)保健醫(yī)生告訴我我應(yīng)該做X。我甚至不需要關(guān)注正在發(fā)生的事情，因?yàn)槲业玫搅送扑]。那么這會(huì)影響他們參與醫(yī)療保健的方式嗎？

當(dāng)然。所以問(wèn)題是這種可解釋性問(wèn)題，這是否會(huì)像患者一樣與患者互動(dòng)？

我認(rèn)為數(shù)字化，數(shù)字化的歷史就是它總是使事物民主化?？紤]一下你計(jì)劃旅行或管理財(cái)務(wù)的方式。所以總是讓事情民主化。這是一個(gè)可以憑經(jīng)驗(yàn)回答的開(kāi)放性問(wèn)題。人們需要多少解釋才能相信？這就涉及到可信度問(wèn)題。答案是，我個(gè)人并不怎么想。我認(rèn)為可信度基本上是基于他們所聽(tīng)到的和所看到的。當(dāng)位智告訴你下高速公路并開(kāi)車穿過(guò)這個(gè)小社區(qū)時(shí)，當(dāng)你開(kāi)車經(jīng)過(guò)時(shí)，你需要位智告訴你嗎？我告訴你這樣做的原因是在你前方一英里處發(fā)生了車禍。只是相信位智知道這是帶你到達(dá)目的地的更好路線。我認(rèn)為可解釋性被高估了。我認(rèn)為我們將越來(lái)越無(wú)法解釋某些輸出。

谷歌已經(jīng)證明，當(dāng)你觀察視網(wǎng)膜的背面并將其顯示給人工智能時(shí)，它可以告訴你患者是否患有糖尿病、高血壓和高膽固醇，并且還可以告訴你患者的性別，這是眼科醫(yī)生無(wú)法做到的。沒(méi)有人知道它在排隊(duì)做什么，但它可以做到這一點(diǎn)。因此，它會(huì)越來(lái)越多地告訴你一些你無(wú)法確定推導(dǎo)的事情。這將是一個(gè)問(wèn)題，你對(duì)公司和之前的結(jié)果有足夠的信心相信它沒(méi)問(wèn)題嗎？我認(rèn)為答案，我認(rèn)為趨勢(shì)，我認(rèn)為可解釋性是一個(gè)過(guò)渡階段。我想在某些時(shí)候你會(huì)說(shuō)，事情常常是正確的，好吧，它肯定比我知道的更多，這就涉及到自動(dòng)化自滿的問(wèn)題。因?yàn)楫?dāng)它出錯(cuò)時(shí)，我們就沒(méi)有足夠的資金去理解。關(guān)鍵是要看看結(jié)果并說(shuō)，這很奇怪。那是從哪里來(lái)的？

我認(rèn)為對(duì)于我們這一代的醫(yī)生來(lái)說(shuō)，這是很自然的，但是對(duì)于這個(gè)時(shí)代成長(zhǎng)起來(lái)的全新醫(yī)生來(lái)說(shuō)，我認(rèn)為，如果他們除了人工智能輸出之外從未見(jiàn)過(guò)任何東西，而且人工智能輸出在99.9%的時(shí)間里都是可信的，那么這會(huì)變得越來(lái)越困難。所以這些都是非常棘手的問(wèn)題，我們必須努力解決它們。

主持人：精彩的演講，精彩的問(wèn)答。非常感謝你的參與。