２０２２年末ＣｈａｔＧＰＴ的推出，不僅成為生成式人ＡＩ發(fā)展的重要里程碑，也預示著(zhù)醫療領(lǐng)域可能即將迎來(lái)一場(chǎng)技術(shù)革新。生成式ＡＩ技術(shù)被寄予厚望，能夠提高醫療安全和質(zhì)量、降低成本，并改善患者和臨床醫生的體驗。然而，隨之而來(lái)的是，生成式ＡＩ可能會(huì )給患者安全帶來(lái)新的威脅。

醫療保健改進(jìn)研究所?。ǎ桑龋桑∠聦僦菐臁。桑龋伞。蹋酰悖椋幔睢。蹋澹幔穑逭偌艘粋€(gè)專(zhuān)家組編寫(xiě)了一份報告。該專(zhuān)家組由亞馬遜、谷歌和微軟等大型科技公司以及哈佛醫學(xué)院、Ｌｅａｐｆｒｏｇ?。牵颍铮酰稹『汀。耍幔椋螅澹颉。校澹颍恚幔睿澹睿簦濉〉鹊念I(lǐng)導者組成。研究目標是，共同確定生成式ＡＩ的實(shí)際應用領(lǐng)域，指出潛在的威脅，并就如何最大限度地提高效益和減少傷害提出建議。

ＩＨＩ　總裁兼首席執行官?。耍澹洌幔颉。停幔簦逯赋?，關(guān)于生成式ＡＩ將如何在我們的環(huán)境中部署，還有很多問(wèn)題尚未解決。他也表示，在這項技術(shù)全面應用之前，應當確保大家所關(guān)切的問(wèn)題得到充分考慮。

從生成式ＡＩ在醫療領(lǐng)域的數百種潛在用途中，專(zhuān)家組選擇了“文檔支持”、“臨床決策支持”和“面向患者的聊天機器人”這三個(gè)用例進(jìn)行審查和研究，并且在報告中指出，這三個(gè)用例廣泛代表了未來(lái)幾年人工智能的預期臨床用途。

圍繞這三種用例，專(zhuān)家組討論了臨床中實(shí)施生成式ＡＩ的的潛在好處、風(fēng)險和挑戰，對緩解和監測這些風(fēng)險的策略進(jìn)行了詳細審查，并對生成式ＡＩ對于患者安全的影響展開(kāi)了評估。

一、文檔支持：“效率提升”與“更復雜的風(fēng)險”

文檔工作是臨床醫生日常任務(wù)中不可或缺的一部分，但同時(shí)也是造成職業(yè)倦怠和認知壓力的重要原因。

生成式ＡＩ在文檔支持方面的應用被寄予厚望，包括自動(dòng)編寫(xiě)病史摘要、病歷核對、環(huán)境記錄和起草文檔等等。研究表明，人工智能輔助記錄能夠顯著(zhù)減輕臨床醫生的記錄負擔，解放他們的雙手，降低認知負荷。此外，如果設計和實(shí)施得當，生成式ＡＩ還能發(fā)現和解決ＥＨＲ中不準確的問(wèn)題，并使藥物核對等一些常見(jiàn)的任務(wù)實(shí)現標準化?！∶嫦蚧颊?，生成式ＡＩ工具還可以根據患者個(gè)人的知識水平，用他們喜歡的語(yǔ)言，為患者和護理人員提供可查閱的文檔，簡(jiǎn)化醫學(xué)術(shù)語(yǔ)。

然而，生成式ＡＩ工具的引入也可能帶來(lái)新的工作量，例如，如果有些核對工作需要人工審核，那么將會(huì )給臨床醫生帶來(lái)更多工作量。此外，醫療系統可能將效率提升轉化為更高的生產(chǎn)率期望（例如看更多的病人、閱讀更多的Ｘ光片或病理切片），這反而可能增加臨床醫生的工作負擔。

對生成式ＡＩ輸出的內容進(jìn)行人工監督這一點(diǎn)也可能給患者帶來(lái)重大挑戰。專(zhuān)家組成員認為，ＡＩ輸出的內容可能在很多時(shí)候有一定的準確度，但并不完美，因此最終的簽核將由人類(lèi)操作員執行，這樣的“技術(shù)”與“人工”的二元組合被廣泛采用，反而可能會(huì )由于人類(lèi)在審查中的偏差，導致更復雜的風(fēng)險。

專(zhuān)家組也針對這樣的問(wèn)題提出了一些潛在的解決方案，例如：對ＡＩ系統進(jìn)行編程，增強輸出的可信度；采用各種策略，以確保負責驗證ＡＩ結果的人員能保持警惕，并順利找出ＡＩ結果的漏洞；審核臨床醫生更改ＡＩ生成內容的頻率，給予“提示”；在設計人工智能系統時(shí)，應要求臨床醫生首先進(jìn)行評估等等。

此外，專(zhuān)家組成員還表達了對患者自主權的擔憂(yōu)，特別是普通公眾是否能在真正知情的情況下同意使用ＡＩ，包括他們的數據是否會(huì )被共享或出售。

二、臨床決策支持：提高診斷準確性，但需謹慎

生成式ＡＩ在臨床決策支持方面的應用，包括提供診斷支持和建議、早期檢測患者病情變化、制定潛在治療方案等。

基于生成式ＡＩ的ＣＤＳＳ（臨床決策支持系統）可以作為一種輔助工具，通過(guò)分析報告中的癥狀、　患者病史和檢查結果，幫助臨床醫生評估患者病例，提出潛在的診斷建議和下一步措施。許多其他潛在應用也可促進(jìn)護士、藥劑師、治療師和其他醫療專(zhuān)業(yè)人員的護理工作。此外，ＣＤＳＳ　還有可能應對基本的安全挑戰，如識別未跟進(jìn)的檢查，或幫助進(jìn)行藥品對賬等等，這些潛在的功能都可以改善診斷準確性、節省醫生的時(shí)間并降低成本。

然而，臨床醫生對這些工具的準確性和可信度仍持保留態(tài)度。歷史上，類(lèi)似工具的評估并未顯示出預期的臨床醫生行為改進(jìn)效果，且存在“垃圾進(jìn)垃圾出”的問(wèn)題，即輸入數據的不準確性直接影響輸出結果的可靠性。此外，基于人工智能的ＣＤＳＳ的可信度因“黑箱”問(wèn)題——缺乏透明度而受到質(zhì)疑。

ＡＩ本身的弱點(diǎn)，ＡＩ領(lǐng)域監管的缺乏、以及人們對于醫療記錄本身的不準確的擔憂(yōu)等等，多種因素都會(huì )導致生成式ＡＩ準確性降低?！‰m然基于　生成式ＡＩ　的?。茫模樱印】赡軙?huì )比以前版本的?。茫模樱印‘a(chǎn)生更可靠的結果，但一些困擾?。茫模樱印≡趯?shí)際臨床中使用的核心問(wèn)題不太可能僅僅通過(guò)采用更好的算法來(lái)解決。

三、患者支持聊天機器人：改善就醫體驗，但需確保安全

聊天機器人在其他行業(yè)的廣泛應用，為醫療保健行業(yè)提供了新的思路。生成式ＡＩ聊天機器人可以作為數據收集器支持分診、與患者互動(dòng)回復問(wèn)題和疑慮，以及支持護理導航。

理論上，醫療系統采用的生成式ＡＩ解決方案，可以提供比未經(jīng)驗證的在線(xiàn)資源更準確、更可靠的數據。這些自動(dòng)化工具可以幫忙回答醫療問(wèn)題，支持處方續訂，幫助患者找到服務(wù)，幫助醫生管理電子病歷收件箱中的患者電子郵件等等。

然而，聊天機器人的使用也帶來(lái)了一系列挑戰，包括可能削弱患者與臨床醫生之間的信任關(guān)系；如果不進(jìn)行適當的開(kāi)發(fā)和監控，ＡＩ聊天機器人可能會(huì )進(jìn)行誤導甚至有害的對話(huà)；此外，ＡＩ聊天機器人需要證明有管理復雜醫療病例的能力、要考慮并發(fā)癥以及協(xié)調相互沖突的信息和利益；信息流和分流也是關(guān)鍵問(wèn)題，如果沒(méi)有得到適當校準，聊天機器人的應用可能會(huì )導致患者在及時(shí)獲得救治的問(wèn)題上帶來(lái)?yè)p害。

專(zhuān)家組成員強調，醫療系統必須向患者披露ＡＩ聊天機器人的使用情況，以減少任何混淆，并在患者和使用該技術(shù)的醫療系統之間建立信任。

四、擁抱生成式ＡＩ，保持謹慎和懷疑

生成式ＡＩ在醫療中的應用雖然展現出巨大潛力，但也面臨著(zhù)一系列挑戰。如前文所說(shuō)，首先，醫療服務(wù)的非個(gè)性化、可能產(chǎn)生不準確的預測和建議、人類(lèi)對技術(shù)產(chǎn)出監督不力等問(wèn)題，都需要通過(guò)確保人工智能數據集的廣泛代表性、透明化的利益沖突和采用新穎的計算方法來(lái)解決。其次，＂去臨床化＂問(wèn)題，即新晉臨床醫生可能永遠無(wú)法掌握資深臨床醫生的技能，也是需要積極研究和實(shí)驗的領(lǐng)域。最后，醫療保健系統必須向患者披露人工智能聊天機器人的使用情況，以減少混淆，并建立信任。

在報告中，專(zhuān)家組成員也對生成式ＡＩ在改善患者安全方面的潛力進(jìn)行了肯定。例如，生成式ＡＩ能夠幫助匯總并檢查事故報告、護理事件和根本原因分析數據；利用數據實(shí)時(shí)識別和解決安全問(wèn)題；找出長(cháng)期導致安全問(wèn)題的誘因；改進(jìn)審計跟蹤；協(xié)助重新設計工作流程；培訓安全和質(zhì)量專(zhuān)業(yè)人員；以及將患者體驗和反饋納入安全工作等。

另一方面，專(zhuān)家組也強調，生成式ＡＩ也可能造成傷害，需要以謹慎和懷疑的態(tài)度來(lái)看待這項技術(shù)，并對信任、透明度、準確性以及以人為本的設計和實(shí)施展開(kāi)呼吁。無(wú)論監管層面采取什么樣的措施，在醫療環(huán)節中，這些工具提供給患者，就將會(huì )有成千上萬(wàn)的使用案例和數以萬(wàn)計的算法得到實(shí)施。這意味著(zhù)，生成式ＡＩ是改善還是損害安全，可能更多取決于醫院、醫療系統和患者家中發(fā)生的情況，而不僅僅是關(guān)注監管層面的動(dòng)向。

注：文章來(lái)源于網(wǎng)絡(luò )，如有侵權，請聯(lián)系刪除