最新測(cè)試研究顯示，市面上五款主流AI聊天機(jī)器人提供的醫(yī)療健康信息中，50%存在不同程度的問題，包括誤導(dǎo)或錯(cuò)誤建議。Grok問題最多，Gemini表現(xiàn)相對(duì)較好。所有回答均呈現(xiàn)出聊天機(jī)器人的“高度自信”，但引用質(zhì)量差，可讀性評(píng)分均為“困難”/難以理解。關(guān)注詳情。

閱讀文摘

AI聊天機(jī)器人正在成為越來越多人查詢疾病和健康信息的輔助工具，但是，AI聊天機(jī)器人的回答其實(shí)并不靠譜。

最新一項(xiàng)研究對(duì)五款熱門的AI聊天機(jī)器人進(jìn)行了系統(tǒng)性測(cè)試，結(jié)果令人擔(dān)憂：50%的醫(yī)療健康信息回答存在不同程度的問題，其中30%為“中等嚴(yán)重”，20%為“高度嚴(yán)重”。

研究人員測(cè)試了Gemini（谷歌）、DeepSeek（深度求索）、Meta AI、ChatGPT（OpenAI）和Grok（xAI）五款A(yù)I聊天機(jī)器人。研究人員在癌癥、疫苗、干細(xì)胞、營(yíng)養(yǎng)和運(yùn)動(dòng)建議等五個(gè)類別中，分別向每個(gè)AI聊天機(jī)器人提出了10個(gè)開放式和封閉式問題，模擬普通用戶常見的“信息搜尋或咨詢”行為，并特意設(shè)計(jì)了可能引導(dǎo)錯(cuò)誤信息的“壓力測(cè)試”式提問。

結(jié)果顯示，開放式提問更容易產(chǎn)生問題回答，共出現(xiàn)40個(gè)高度嚴(yán)重問題，遠(yuǎn)超預(yù)期，而非問題回答僅51個(gè)，遠(yuǎn)低于預(yù)期。封閉式提問的表現(xiàn)則相反。

在五款A(yù)I聊天機(jī)器人中，Grok的表現(xiàn)最差，生成了29個(gè)高度嚴(yán)重問題，約占其回答問題的58%，遠(yuǎn)超統(tǒng)計(jì)預(yù)期。Gemini表現(xiàn)最佳，高度嚴(yán)重問題最少、非問題回答最多。各機(jī)器人在疫苗和癌癥領(lǐng)域表現(xiàn)相對(duì)較好，在干細(xì)胞、運(yùn)動(dòng)表現(xiàn)和營(yíng)養(yǎng)領(lǐng)域表現(xiàn)最差。

更令人警惕的是，所有回答均以高度自信和確定性的語(yǔ)氣呈現(xiàn)，幾乎沒有任何警示或免責(zé)聲明。在全部250個(gè)問題中，僅有2次拒絕回答，均來自Meta AI，內(nèi)容涉及合成代謝類固醇和替代癌癥療法。

引用質(zhì)量同樣堪憂，平均完整度評(píng)分僅40%。所有機(jī)器人都存在“幻覺”和虛構(gòu)引用的問題，沒有一款能提供完全準(zhǔn)確的參考文獻(xiàn)列表?？勺x性評(píng)分均為“困難”，相當(dāng)于適合大學(xué)畢業(yè)生閱讀的復(fù)雜程度。

研究人員認(rèn)為，聊天機(jī)器人并非在推理或權(quán)衡證據(jù)，而是通過訓(xùn)練數(shù)據(jù)中的統(tǒng)計(jì)模式預(yù)測(cè)詞語(yǔ)序列。它們無法進(jìn)行倫理或價(jià)值判斷，也不能訪問實(shí)時(shí)數(shù)據(jù)。這一行為限制意味著它們可能生成聽起來權(quán)威但實(shí)際有缺陷的回答。

隨著AI聊天機(jī)器人的使用持續(xù)擴(kuò)大，研究者呼吁加強(qiáng)公眾教育、專業(yè)培訓(xùn)和監(jiān)管監(jiān)督，確保生成式AI真正支持而非侵蝕公眾健康。

關(guān)注我們，獲取生物醫(yī)學(xué)前沿最新資訊