全部商品分類(lèi)
人工智能在醫療領(lǐng)域的應用有著(zhù)巨大潛力，可以改善患者治療、減輕醫院和臨床醫生的行政負擔，以及優(yōu)化醫療流程等。然而，在臨床環(huán)境中引入新技術(shù)，特別是人工智能時(shí)，也會(huì )面臨一系列挑戰。麻省理工學(xué)院日前發(fā)布了一項研究，深入探討了在美國醫院系統中實(shí)施生成式人工智能遇到的一系列問(wèn)題，為我們提供了一個(gè)全面而深刻的視角。
兩組概念，三個(gè)區別
過(guò)去的研究強調，當臨床工作人員參與不足時(shí)，技術(shù)的應用會(huì )遇到障礙；當專(zhuān)家被要求與新技術(shù)系統互動(dòng)時(shí)，信任和安全也會(huì )面臨挑戰。另一個(gè)主要挑戰是如何與傳統系統，特別是電子病歷（ＥＨＲ）系統集成。
事實(shí)上，過(guò)去在醫療系統中推廣新技術(shù)的嘗試往往會(huì )導致意想不到的后果，例如增加醫生和臨床團隊的管理負擔。此外，盡管有幾個(gè)成功的案例，但在醫療保健系統中大規模實(shí)地實(shí)施人工智能軟件的數量仍然相對較少。
麻省理工學(xué)院的這項研究，首先明確了一組概念：
傳統的人工智能模型和算法，稱(chēng)為狹義人工智能（Ｎａｒｒｏｗ?。粒伞?，以下簡(jiǎn)稱(chēng)ＮＡＩ）；
最近的生成式人工智能模型和算法（Ｇｅｎｅｒａｔｉｖｅ，以下簡(jiǎn)稱(chēng)ＧＡＩ）。
雖然這兩種應用在技術(shù)上都屬于預測算法，但這兩種工具具有不同的技術(shù)特點(diǎn)，因而適用于不同的用例、不同的用戶(hù)體驗以及對機構的不同影響。
兩者之間至少有三個(gè)主要區別：
首先，ＮＡＩ模型和算法通常是為特定的預測任務(wù)（例如通過(guò)乳房Ｘ光檢測癌癥）而構建的。相比之下，ＧＡＩ工具通?；诖笮驼Z(yǔ)言模型（ＬＬＭ），能夠執行各種各樣的任務(wù)，例如搜索、摘要和文本生成任務(wù)（例如，患者訪(fǎng)問(wèn)記錄摘要）。
其次，ＮＡＩ模型和算法通常是根據目標預測任務(wù)的特定的標注數據集開(kāi)發(fā)的。另一方面，與廣泛的功能相對應，ＧＡＩ工具需要更大更廣的數據集。
第三，與通常非常結構化的ＮＡＩ模型的輸出不同，ＧＡＩ模型的輸出通常是復雜和非結構化的。
該研究從技術(shù)、組織和認知三個(gè)角度研究了醫療系統中ＮＡＩ和ＧＡＩ應用所面臨的挑戰。
一是技術(shù)挑戰：數據異質(zhì)性與保真度問(wèn)題
盡管ＡＩ的性能取得了顯著(zhù)進(jìn)步，但其在醫療系統中的實(shí)際應用仍面臨技術(shù)挑戰。
首先，醫療保健的流程環(huán)境要求新技術(shù)能夠與傳統ＩＴ系統，尤其是電子病歷系統有效整合。然而，由于臨床醫生記錄和存儲數據的方式各不相同，患者記錄中的文本數據可能無(wú)法用于訓練ＮＡＩ和機器學(xué)習（ＭＬ）模型，導致數據異質(zhì)性問(wèn)題。
ＧＡＩ工具雖然有望解決數據異質(zhì)性問(wèn)題，但它們在生成文本回復和摘要時(shí)可能會(huì )利用不相關(guān)的數據，造成所謂的“幻覺(jué)”，即數據保真度問(wèn)題。例如，大型語(yǔ)言模型（ＬＬＭ）在總結病人筆記時(shí)可能會(huì )引入不準確的信息，這對于依賴(lài)精確數據進(jìn)行治療決策的醫療行業(yè)來(lái)說(shuō)是一個(gè)嚴峻的挑戰。
由于這一問(wèn)題，早期，ＧＡＩ在醫院的集中應用僅僅被部署在風(fēng)險相對較低的環(huán)境中，在這些環(huán)境中，準確性和數據真實(shí)性并不太重要。例如，在生成病歷摘要的應用中，醫護人員可以使用完整的病歷，因此即使病歷摘要包含不準確的內容，也起碼會(huì )保留＂基本事實(shí)＂。在回復患者咨詢(xún)的場(chǎng)景中，如果臨床醫生選擇使用?。牵粒蛇M(jìn)行回復，系統會(huì )提示他們在發(fā)送前可以對信息進(jìn)行編輯，這些都是保障措施。
二是管理挑戰：從轉變內部設計到關(guān)注外部環(huán)境
再次強調ＧＡＩ有別于?。危粒傻娜齻€(gè)關(guān)鍵技術(shù)特征：①龐大的數據和計算需求使本地設計和開(kāi)發(fā)變得不切實(shí)際；②靈活性強，使分散的用戶(hù)轉向分散控制，以及從內部的監控和流程改進(jìn)轉向外部。
從開(kāi)發(fā)角度，ＧＡＩ解決方案的開(kāi)發(fā)越來(lái)越依賴(lài)于?。桑浴〔块T(mén)成員的在采購和部署方面的專(zhuān)業(yè)知識，而不是臨床業(yè)務(wù)部門(mén)領(lǐng)導和ＡＩ開(kāi)發(fā)人員在臨床和技術(shù)知識。因此領(lǐng)導者需要處理這些利益相關(guān)群體之間的關(guān)系。
例如，在紐約大學(xué)朗貢分校，ＩＴ部門(mén)的領(lǐng)導最初采用了?。牛穑椋恪『臀④涢_(kāi)發(fā)的收件箱信息解決方案，來(lái)起草對患者的回復。該界面不允許個(gè)人用戶(hù)設計自己的提示。草稿始終存在缺陷，限制了其預期效益，而?。牛穑椋恪〉母倪M(jìn)也相當緩慢。結果醫護人員需要花費大量時(shí)間閱讀和編輯冗長(cháng)的回復，這與他們自己撰寫(xiě)回復所需的時(shí)間不相上下。如果靠ＡＩ開(kāi)發(fā)人員來(lái)改進(jìn)，將使成本大幅上升，因此紐約大學(xué)朗貢分校開(kāi)始為“醫療保健特定任務(wù)”開(kāi)發(fā)自己的ＬＬＭ，并使用其專(zhuān)有的健康記錄和臨床筆記數據集。這個(gè)例子說(shuō)明了醫療系統?。牵粒山鉀Q方案市場(chǎng)整合的普遍問(wèn)題。
從實(shí)施角度，由于ＧＡＩ解決方案與ＮＡＩ相比具有更大的靈活性，終端用戶(hù)只需接受少量培訓，就能熟練使用?。牵粒山鉀Q方案，而不依賴(lài)?。粒砷_(kāi)發(fā)人員集中參與。例如，在紐約大學(xué)朗貢分校，登記部門(mén)的行政主管用戶(hù)甚至可以自己開(kāi)發(fā)面向患者的登記聊天機器人，而ＡＩ開(kāi)發(fā)者僅僅支持了用戶(hù)的基本技能和安全指導，幫助促進(jìn)自下而上的解決方案開(kāi)發(fā)和共享，支持了這種分散式的實(shí)施。
在維護環(huán)節，快速變化的外部軟硬件技術(shù)和法規可能會(huì )影響人工智能模型的性能，因此醫療機構的領(lǐng)導者需要將重點(diǎn)從監控內部運營(yíng)轉向關(guān)注外部環(huán)境，以提高模型性能和服務(wù)質(zhì)量。例如，朗貢分校的領(lǐng)導還與政府事務(wù)團隊合作，提高政府機構不斷制定治理政策的意識。
三是認知挑戰：技能萎縮與誤判
在醫護人員層面，ＮＡＩ和ＧＡＩ的引入凸顯了人機交互風(fēng)險，包括技能萎縮、對ＡＩ信任的誤判以及信息超載。
例如，臨床醫生可能過(guò)度依賴(lài)ＡＩ模型來(lái)管理出院事宜，導致他們的專(zhuān)業(yè)技能萎縮。
此外，如今的?。牵粒晒ぞ咄ǔ＠蒙窠?jīng)網(wǎng)絡(luò )和深度學(xué)習，即使是開(kāi)發(fā)人員也無(wú)法理解，這與過(guò)去可以被人類(lèi)操作員追蹤的基于明確規則的系統不同。ＧＡＩ模型的不透明性放大了信任誤判的風(fēng)險。在低風(fēng)險應用中，這可能不是問(wèn)題。但在診斷應用中，ＧＡＩ的用戶(hù)必須解釋輸出結果的有效性，而ＬＬＭ的黑箱性質(zhì)可能會(huì )帶來(lái)挑戰。
ＧＡＩ工具的靈活性也帶來(lái)了額外的挑戰。對于人類(lèi)操作員來(lái)說(shuō)，很難理解?。牵粒晒ぞ咴谀男┓矫鏁?huì )產(chǎn)生可靠的結果，而在哪些方面則不會(huì )。例如，即使ＬＬＭ在早期響應病人信息的試驗中產(chǎn)生了可靠的結果，但隨著(zhù)時(shí)間的推移，它可能會(huì )被證明是不適應的。人工智能系統通過(guò)對新數據的自我監督不斷更新行為，從人類(lèi)操作員的角度來(lái)看，這大大增加了不可預測性。
一些開(kāi)放性問(wèn)題和新方向
該研究提到，以上三個(gè)方面的不同挑戰，是基于醫院人工智能早期部署和實(shí)驗的最新證據，以及電子病歷等新技術(shù)影響下的長(cháng)期證據。通過(guò)這些證據能夠總結出ＧＡＩ新應用所面臨的潛在挑戰，但要評估這些挑戰在實(shí)踐中將如何體現，以及在何種條件下體現還為時(shí)尚早。這項研究既是為醫療機構領(lǐng)導者提供的潛在障礙地圖，也是一套假設，有待未來(lái)在部署?。牵粒蓱玫尼t院進(jìn)行實(shí)證研究時(shí)加以檢驗。因為每個(gè)挑戰中都體現著(zhù)新的研究方向。
首先，在將?。牵粒梢肱R床流程時(shí)，存在著(zhù)潛在幻覺(jué)，以及缺乏可解釋性相關(guān)的風(fēng)險。那么醫院將采用哪些策略來(lái)管理這些風(fēng)險？他們將如何衡量這些風(fēng)險是否值得承擔，尤其是當醫院可能面臨著(zhù)生產(chǎn)率提高的高概率，以及臨床錯誤的低概率時(shí)。
第二，ＧＡＩ的引入對不同技能水平的工作人員的影響也是一個(gè)值得研究的問(wèn)題。來(lái)自非醫療領(lǐng)域的早期實(shí)驗室和現實(shí)證據表明，當引入?。牵粒晒ぞ邥r(shí)，低技能工人獲益最大，這與以往的軟件技術(shù)形成了鮮明對比，以往的軟件技術(shù)往往偏向于高技能人才。那么在醫療領(lǐng)域，技能最低的工作人員是否會(huì )從?。牵粒傻囊胫蝎@益最多，這仍然是一個(gè)懸而未決的問(wèn)題。即使技能最低的人在?。牵粒傻膸椭聵I(yè)績(jì)提高最多，體驗到生產(chǎn)率的邊際增長(cháng)，但可能不會(huì )從ＧＡＩ中看到工資或職業(yè)發(fā)展優(yōu)勢。
第三，過(guò)去的研究表明，引入高質(zhì)量自動(dòng)化可能會(huì )導致技能萎縮。如果自動(dòng)化程度過(guò)高，而對人類(lèi)操作員的認知要求較低，那么人類(lèi)獨立完成任務(wù)和識別潛在錯誤的能力就會(huì )降低。在醫療保健領(lǐng)域，還沒(méi)有明確的證據表明技能萎縮或績(jì)效挑戰與引入ＧＡＩ有關(guān)。不過(guò)，這是一個(gè)有待驗證的假設，各機構在衡量新的?。牵粒蓱脤ζ鋯T工的影響時(shí)，需要對風(fēng)險進(jìn)行管理。
注：文章來(lái)源于網(wǎng)絡(luò )，如有侵權，請聯(lián)系刪除
