導(dǎo)讀

大語言模型對文本數(shù)據(jù)的解析能力極大方便了知識庫系統(tǒng)的構(gòu)建，而自然語言檢索和問答則提升了知識庫的應(yīng)用的便利性。‍

自ChatGPT風(fēng)靡全球以來，國內(nèi)各領(lǐng)域也開始積極探索生成式人工智能大語言模型產(chǎn)品的應(yīng)用�！吨袊�人工智能大模型地圖研究報告》顯示，截至5月底國內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個，醫(yī)療領(lǐng)域的大模型產(chǎn)品也已發(fā)布十余個，應(yīng)用場景聚焦在輔助問診、輔助決策、健康咨詢、醫(yī)學(xué)智慧影像等。

醫(yī)療大模型在輔助決策方面能夠發(fā)揮哪些作用？其與臨床決策支持系統(tǒng)有哪些區(qū)別？CDSreport結(jié)合了幾位專家的觀點(diǎn)進(jìn)行剖析。

01

大模型或改變知識庫建設(shè)和應(yīng)用方式

在剛結(jié)束的2023世界人工智能大會上，中國信通院云大所副所長閔棟在健康高峰論壇列舉了醫(yī)療大模型可能的9個應(yīng)用方向，包括輔助決策、治療方案生成和質(zhì)量控制等。

在輔助決策、輔助診斷方面，閔棟認(rèn)為，在傳統(tǒng)臨床決策支持系統(tǒng)（CDSS）的基礎(chǔ)上，大模型的訓(xùn)練數(shù)據(jù)來源更為廣泛，自我進(jìn)化能力更高效，因而能為CDSS帶來較大幅度的提升。實(shí)際工作中，醫(yī)生經(jīng)常需要調(diào)動大量醫(yī)學(xué)知識、記憶大量的患者信息，難免會出現(xiàn)記憶疲勞、身體疲憊等問題。而醫(yī)療大模型的引入可以幫助醫(yī)生記錄信息，大幅減少醫(yī)務(wù)人員工作量，緩解疲勞。同時，大模型還能通過學(xué)習(xí)電子病歷、醫(yī)學(xué)文獻(xiàn)、檢查檢驗(yàn)結(jié)果等數(shù)據(jù)同醫(yī)生進(jìn)行語言互動，提升診斷的準(zhǔn)確性及效率。

2023年以來，已有十幾家公司發(fā)布了醫(yī)療大模型產(chǎn)品，應(yīng)用場景多聚焦在輔助問診、健康咨詢、醫(yī)學(xué)智慧影像等。其中，大模型在輔助決策發(fā)揮的作用及對CDSS能力的提升已經(jīng)成為共識。

有研究顯示，通用大模型已經(jīng)能夠在診療過程中發(fā)揮作用。例如，在信息抽取上，可以將大段臨床文本進(jìn)行結(jié)構(gòu)化；在數(shù)據(jù)清洗層面，可以在一定范圍內(nèi)提供一致性校驗(yàn)工作。在此基礎(chǔ)上，經(jīng)過特殊訓(xùn)練的醫(yī)療大模型，通過整合多種來源和格式數(shù)據(jù)，可以提升醫(yī)療效率與質(zhì)量。

醫(yī)療大模型是如何提升CDSS能力的？華東理工大學(xué)計算機(jī)技術(shù)研究所所長、自然語言處理與大數(shù)據(jù)挖掘?qū)嶒?yàn)室主任阮彤表示，數(shù)據(jù)庫的建設(shè)和應(yīng)用提升效果最明顯。

傳統(tǒng)的知識庫構(gòu)建通常采用人工手段，從專業(yè)書籍、臨床指南，醫(yī)學(xué)文獻(xiàn)中抽取知識。這種抽取過程不但需要耗費(fèi)較大人力，后續(xù)更新過程也比較緩慢。同時，知識圖譜等結(jié)構(gòu)化的數(shù)據(jù)雖然精確，但語義表達(dá)能力遠(yuǎn)遠(yuǎn)弱于自然語言，包括多元關(guān)系、條件關(guān)系，因果關(guān)聯(lián)等知識模式定義。建設(shè)和使用過程需要較高的專業(yè)認(rèn)知能力和業(yè)務(wù)建模能力，而模式的理解和正確性驗(yàn)證也同樣有雙重門檻。此外，經(jīng)過加工的知識庫，在不同應(yīng)用場景還需要結(jié)合實(shí)際情況進(jìn)行二次加工，進(jìn)一步局限了使用場景。

以診斷為例，不僅要結(jié)合患者主訴，還要根據(jù)檢驗(yàn)檢查結(jié)果評估診斷優(yōu)劣。這個過程取決于對疾病判斷的精準(zhǔn)度、檢驗(yàn)檢查合理性以及信息交互過程方便程度。達(dá)到這些目標(biāo)，信息系統(tǒng)需通過數(shù)據(jù)抓取和分析來判斷各種疾病的可能性，并且在各信息系統(tǒng)之間以及與醫(yī)務(wù)人員交互之間具備較好的處理能力，針對不同場景還需要獨(dú)特的系統(tǒng)設(shè)計和評估方式。

針對這一難點(diǎn)，一些CDSS供應(yīng)商選擇自然語言處理等人工智能技術(shù)來處理海量醫(yī)學(xué)信息，從而實(shí)現(xiàn)結(jié)構(gòu)化數(shù)據(jù)，建立醫(yī)學(xué)知識庫和臨床規(guī)則庫，并納入臨床真實(shí)病歷對知識模型進(jìn)行持續(xù)訓(xùn)練優(yōu)化，形成不斷更新的循證醫(yī)學(xué)知識庫。

阮彤認(rèn)為，大語言模型對文本數(shù)據(jù)的解析能力極大方便了知識庫系統(tǒng)的構(gòu)建，而自然語言檢索和問答則提升了知識庫的應(yīng)用的便利性。大語言模型體現(xiàn)的推理能力，提供了智能醫(yī)學(xué)診斷和治療方案推薦的可能性。例如，可以通過ChatGPT的開源框架langchain的一系列工具，以及Zero-Shot抽取能力，將原始文本數(shù)據(jù)抽取成為合適的形式。而對于臨床決策類的知識庫應(yīng)用，可綜合患者數(shù)據(jù)通過大模型進(jìn)行解析，在知識庫上進(jìn)行推理。

02‍

醫(yī)療大模型不能“胡說”，部署可及性需要考慮

ChatGPT問世后，其語言交互能力令人驚嘆，但“一本正經(jīng)胡說”的情況也時有發(fā)生。在醫(yī)療領(lǐng)域，這類可能會誤導(dǎo)診斷，甚至威脅到患者的生命健康。醫(yī)療行業(yè)的專業(yè)性與嚴(yán)肅性，對大模型的精準(zhǔn)度提出了極端的高要求。

日前，北京市衛(wèi)生健康委發(fā)布《北京市互聯(lián)網(wǎng)診療監(jiān)管實(shí)施辦法（試行）》便提出，嚴(yán)禁使用人工智能等自動生成處方，嚴(yán)禁在處方開具前向患者提供藥品。此舉意在規(guī)范互聯(lián)網(wǎng)診療活動，亦是在降低大模型等人工智能技術(shù)可能帶來的風(fēng)險。

對于大模型在醫(yī)療領(lǐng)域應(yīng)用的風(fēng)險，閔棟總結(jié)了3方面風(fēng)險：算法的局限性可能導(dǎo)致內(nèi)容失真，生成內(nèi)容可能出現(xiàn)錯誤；醫(yī)療數(shù)據(jù)質(zhì)量不足，可能導(dǎo)致訓(xùn)練存在安全和隱私泄露風(fēng)險；算力不足可能導(dǎo)致成本較高。

惠每科技CTO王實(shí)曾表示，對于醫(yī)療行業(yè)的企業(yè)，數(shù)據(jù)是他們獨(dú)有的優(yōu)勢。這些數(shù)據(jù)一方面為半公開數(shù)據(jù)，包括收集了大量的醫(yī)學(xué)文獻(xiàn)的醫(yī)學(xué)知識庫、知識圖譜等；另一方面是非公開數(shù)據(jù)，包括臨床脫敏數(shù)據(jù)、電子病歷、檢測檢驗(yàn)報告和RLHF臨床醫(yī)生反饋數(shù)據(jù)。通過使用這些數(shù)據(jù)訓(xùn)練大模型，能夠形成有別于通用基座大模型的專業(yè)能力。

同時，由于使用場景為醫(yī)療機(jī)構(gòu)，為保證數(shù)據(jù)安全和患者隱私，大模型或需要在本地部署。阮彤指出，醫(yī)療行業(yè)對患者隱私保護(hù)和數(shù)據(jù)安全的要求較高，滿足醫(yī)療機(jī)構(gòu)本地環(huán)境部署要求也是大模型落地的重要考量因素。考慮到醫(yī)院實(shí)際部署環(huán)境，動輒上千億參數(shù)的通用大模型難以在院內(nèi)施展拳腳，這就要求醫(yī)療大模型不能無限“大”，而要盡可能考慮部署可及性。同時，由于醫(yī)療數(shù)據(jù)不可能外接到ChatGPT或其他外部運(yùn)營的大模型上，這就意味著醫(yī)療機(jī)構(gòu)可控的、較為廉價的模型或是最佳選擇。

資料來源：[1]阮彤：ChatGPT等大語言模型對醫(yī)療信息系統(tǒng)的影響與提升——大語言模型在醫(yī)療行業(yè)應(yīng)用系列，中國醫(yī)院協(xié)會信息專業(yè)委員會‍‍[2]醫(yī)療大模型：轉(zhuǎn)瞬即逝的曇花還是跨時代的變革，動脈網(wǎng)[3]大模型在臨床輔助診療場景下的問題與探討，CDSreport

【責(zé)任編輯：王惠】

       原文標(biāo)題 : 十余個醫(yī)療大模型相繼發(fā)布，專家提示需注意三類風(fēng)險