*僅供醫(yī)學(xué)專業(yè)人士閱讀參考

連日來，多家醫(yī)學(xué)院校發(fā)文，督促師生員工審慎使用“龍蝦”等智能代理軟件，非必要不使用，如確需使用，應(yīng)嚴(yán)格遵循一定安全要求。

專家表示，醫(yī)療關(guān)乎生命，AI賦能醫(yī)療必須以安全為底線。

撰文 | 文慧、燕小六

近期，開源AI智能體框架OpenClaw（俗稱“龍蝦”）在網(wǎng)絡(luò)上迅速走紅。

它具有高度的“自主執(zhí)行”能力，可以自主進行文件管理、郵件收發(fā)、批量數(shù)據(jù)處理等復(fù)雜任務(wù)，一經(jīng)推出便在全球范圍內(nèi)引發(fā)部署熱潮。但這并不安全，今年2月以來，工信部、國家互聯(lián)網(wǎng)應(yīng)急中心多次發(fā)布相關(guān)風(fēng)險預(yù)警。

3月13日，國家網(wǎng)絡(luò)與信息安全信息通報中心再次發(fā)布預(yù)警，明確指出OpenClaw存在架構(gòu)設(shè)計缺陷多、默認(rèn)配置風(fēng)險高、高危漏洞數(shù)量多等五大安全風(fēng)險。據(jù)通報數(shù)據(jù)，我國境內(nèi)活躍的OpenClaw互聯(lián)網(wǎng)資產(chǎn)約2.3萬個，呈爆發(fā)式增長態(tài)勢。

“醫(yī)學(xué)界”梳理發(fā)現(xiàn)，在國家層面密集預(yù)警的背景下，北京協(xié)和醫(yī)學(xué)院等多家醫(yī)學(xué)院校已緊急發(fā)布相關(guān)通知，提醒師生員工審慎使用“龍蝦”等智能代理軟件。

這背后的原因或許是，對于醫(yī)學(xué)院及其附屬的醫(yī)療機構(gòu)而言，“龍蝦”的風(fēng)險遠(yuǎn)比其他行業(yè)更加復(fù)雜、也更加嚴(yán)峻。

協(xié)和帶頭，多家醫(yī)學(xué)院校緊急提醒

據(jù)“醫(yī)學(xué)界”不完全統(tǒng)計，目前已有北京協(xié)和醫(yī)學(xué)院、廣東醫(yī)科大學(xué)、內(nèi)蒙古醫(yī)科大學(xué)、新疆醫(yī)科大學(xué)、重慶醫(yī)科大學(xué)、溫州醫(yī)科大學(xué)、南京中醫(yī)藥大學(xué)、杭州醫(yī)學(xué)院等十余家醫(yī)學(xué)院校發(fā)布了OpenClaw的風(fēng)險提示。

各院校的應(yīng)對力度不盡相同，但態(tài)度一致明確。

北京協(xié)和醫(yī)學(xué)院信息辦通知明確要求各部門、各學(xué)院及各所院廣泛傳達(dá)并督促師生員工審慎使用“龍蝦”等智能代理軟件，堅持“非必要不使用”的原則。如確需使用，應(yīng)嚴(yán)格遵循六大安全要求。

內(nèi)蒙古醫(yī)科大學(xué)則嚴(yán)禁在網(wǎng)絡(luò)信息中心統(tǒng)一分配、管理的服務(wù)器及校園公共計算資源上安裝、部署、運行OpenClaw相關(guān)程序。

圖源：智慧內(nèi)醫(yī)大

廣東醫(yī)科大學(xué)著重提醒師生，部署OpenClaw要注意防護，避免電腦里的畢業(yè)論文、實驗數(shù)據(jù)、科研成果，以及個人賬號密碼、校園信息等面臨被竊取、篡改的風(fēng)險。新疆醫(yī)科大學(xué)同樣在3月11日發(fā)文提醒，審慎使用“龍蝦”。

圖源：新疆醫(yī)科大學(xué)

在國家層面的密集預(yù)警之下，全國已有數(shù)十所高校均已發(fā)布類似通知，甚至嚴(yán)禁辦公電腦安裝“龍蝦”。

其中，醫(yī)學(xué)院校的應(yīng)對值得關(guān)注，因為它們不僅是教學(xué)科研機構(gòu)，更直接連接著臨床醫(yī)療體系，承載著遠(yuǎn)比普通高校更為敏感的數(shù)據(jù)資產(chǎn)。

通常而言，一所醫(yī)學(xué)院校的網(wǎng)絡(luò)環(huán)境中，往往同時運行著教務(wù)系統(tǒng)、科研數(shù)據(jù)庫和附屬醫(yī)院的臨床信息系統(tǒng)，任何一個環(huán)節(jié)的安全漏洞，都可能產(chǎn)生鏈?zhǔn)椒磻?yīng)。

某大學(xué)附屬醫(yī)院員工告訴“醫(yī)學(xué)界”，目前他所在的醫(yī)院雖未就“龍蝦”單獨下達(dá)通知，但作為大學(xué)附屬機構(gòu)，學(xué)校的要求，醫(yī)院會跟著執(zhí)行。

科技型醫(yī)療服務(wù)企業(yè)“鄰家好醫(yī)”創(chuàng)始人兼CEO羅林對“醫(yī)學(xué)界”表示，OpenClaw在醫(yī)療圈的熱度在不斷提升，不過在臨床一線，其應(yīng)用仍處于早期探索階段，業(yè)內(nèi)心態(tài)整體保持“關(guān)注且謹(jǐn)慎”。

醫(yī)療機構(gòu)為何要格外警惕？

“龍蝦”的安全風(fēng)險是普遍性的，但對醫(yī)學(xué)院或醫(yī)療機構(gòu)來說，這些風(fēng)險一旦落地，后果可能遠(yuǎn)比其他行業(yè)嚴(yán)重。

這首先與醫(yī)療數(shù)據(jù)的特殊性有關(guān)。

醫(yī)院信息系統(tǒng)中存儲著海量的患者隱私數(shù)據(jù)——姓名、身份證號、病史、診斷結(jié)果、檢查影像、基因檢測信息等，這些數(shù)據(jù)一旦泄露，不僅侵犯患者個人權(quán)益，還可能觸發(fā)嚴(yán)重的法律后果。

與一般商業(yè)數(shù)據(jù)不同，醫(yī)療數(shù)據(jù)具有高度的不可逆性，即一個人的病史和基因信息等一旦外泄，無法像更換密碼那樣補救。

對醫(yī)學(xué)院校而言，風(fēng)險還疊加了一層科研維度。

大量尚未發(fā)表的臨床試驗數(shù)據(jù)、藥物研發(fā)資料、科研成果儲存在校園網(wǎng)絡(luò)中，如果被OpenClaw在自主執(zhí)行過程中讀取甚至外傳，不僅涉及知識產(chǎn)權(quán)損失，還可能影響正在進行的臨床研究的合規(guī)性。

正如廣東醫(yī)科大學(xué)在通知中特別提到的，畢業(yè)論文、實驗數(shù)據(jù)、科研成果都是需要重點防護的對象。

羅林對“醫(yī)學(xué)界”表示，如果未經(jīng)嚴(yán)格管控就將OpenClaw引入醫(yī)院內(nèi)網(wǎng)環(huán)境，等于在核心醫(yī)療系統(tǒng)中打開一扇“未知之門”。患者的敏感信息將直接暴露在風(fēng)險之下，隱私保護防線可能全面失守。

更深層的隱憂在于醫(yī)療數(shù)據(jù)的完整性。

羅林指出，病歷數(shù)據(jù)一旦被惡意或錯誤修改，將直接埋下醫(yī)療事故的隱患。在臨床實踐中，醫(yī)生的每一個診療決策都建立在對病歷信息的信任之上。

如果一個AI智能體在“自主執(zhí)行”過程中篡改或丟失了關(guān)鍵的檢查結(jié)果、用藥記錄或手術(shù)記錄，后果不堪設(shè)想。更棘手的是，這種篡改往往是隱蔽的，醫(yī)生未必能在第一時間察覺。

權(quán)限失控則是另一重風(fēng)險。一旦OpenClaw獲得了對醫(yī)院信息系統(tǒng)的深層訪問權(quán)限，系統(tǒng)遭到破壞、數(shù)據(jù)記錄丟失等情況就可能發(fā)生。

此外，還有網(wǎng)絡(luò)安全專家指出，AI智能體本身固有的“幻覺”問題在醫(yī)療領(lǐng)域尤其危險。普通用戶使用AI時，一個錯誤的回答或許只是帶來不便；但在診療環(huán)節(jié)，如果AI給出了錯誤的輔助建議，而臨床人員未能及時識別和糾正，后果可能直接關(guān)乎患者的生命安全。

AI醫(yī)療，安全是底線

值得注意的是，從制度層面來看，醫(yī)療行業(yè)受到的監(jiān)管力度本就遠(yuǎn)高于一般行業(yè)。

《個人信息保護法》將醫(yī)療健康信息列為“敏感個人信息”，處理此類信息需要取得個人的單獨同意，并采取嚴(yán)格的保護措施。

《數(shù)據(jù)安全法》和《網(wǎng)絡(luò)安全法》也對關(guān)鍵信息基礎(chǔ)設(shè)施的運營者提出了更高的安全要求，而大型醫(yī)療機構(gòu)的信息系統(tǒng)往往屬于這一范疇。

一旦因部署“龍蝦”導(dǎo)致數(shù)據(jù)安全事件，醫(yī)療機構(gòu)面臨的不僅是技術(shù)層面的損失，更可能是法律層面的嚴(yán)厲追責(zé)。

羅林對“醫(yī)學(xué)界”表示，以O(shè)penClaw為代表的AI智能體在醫(yī)療領(lǐng)域確實有廣闊的應(yīng)用前景——從智能導(dǎo)診、病歷整理、報告解讀，到患者隨訪管理和科研數(shù)據(jù)分析，落地場景清晰可見。

但他強調(diào)，AI醫(yī)療，安全是底線。風(fēng)險規(guī)避的關(guān)鍵在于如何定義“自主”邊界。

“讓AI擁有'執(zhí)行權(quán)'，但醫(yī)生必須牢牢守住‘決策權(quán)’與‘確認(rèn)權(quán)’?！绷_林說，“落實到具體操作，一定要提前給AI設(shè)定好什么能做、什么不能做。所有開出的藥、給出的診斷建議，必須經(jīng)過醫(yī)生親自確認(rèn)、電子簽名，才能生效?！?/p>

對于醫(yī)療機構(gòu)，羅林建議應(yīng)做好網(wǎng)絡(luò)隔離，為智能體設(shè)立專屬“數(shù)字隔離帶”，確保核心臨床系統(tǒng)不受沖擊；必須制定風(fēng)險預(yù)案，明確人機權(quán)責(zé)邊界，確保一旦失控，人工能隨時接管；同時要培養(yǎng)既懂醫(yī)療又懂AI的復(fù)合型人才，為技術(shù)落地配好“領(lǐng)航員”。

歸根結(jié)底，醫(yī)學(xué)院校及其附屬醫(yī)院對“龍蝦”的禁用與慎用，并非對AI技術(shù)的排斥，而是對醫(yī)療行業(yè)特殊性的理性認(rèn)識，在一個直接關(guān)乎人命的領(lǐng)域，任何技術(shù)的引入都必須以安全為前提。

醫(yī)學(xué)界兒科領(lǐng)域交流群正式開放！

加入我們吧！

本文來源：醫(yī)學(xué)界

責(zé)任編輯：葉子

*"醫(yī)學(xué)界"力求所發(fā)表內(nèi)容專業(yè)、可靠，但不對內(nèi)容的準(zhǔn)確性做出承諾；請相關(guān)各方在采用或以此作為決策依據(jù)時另行核查。