預測致命疾病的算法，竟漏掉三分之二病例！AI診斷靠譜嗎？

人工智能用于疾病的預測和診斷已經不是新鮮事。但最近，美國科學家的一項研究表明，人工智能在疾病診斷和預警方面的效果，或許并不像人們以為的那么樂觀。

這項研究于本周一發表在JAMA Internal Medicine期刊上，研究人員調查了美國電子健康企業Epic Systems的產品在敗血癥診斷中的準確率，證明了算法并不像公司宣傳得那樣有效。

研究人員呼吁監管機構重視對敗血癥預測等醫療算法工具的監管，認為應對用于醫療的算法工具進行獨立評估。

最新研究：敗血癥預測算法只診斷出三分之一病例

Epic Systems是美國最大的電子健康記錄公司，這家公司聲稱可以使用一種算法系統識別敗血癥。敗血癥是一種可能由全身性感染導致器官衰竭的致命疾病，該病較難在早期被發現，但及早治療能大大提升患者的存活機會。

Epic開發了一套敗血癥預測模型，和其他類似的自動警告工具一樣，該模型會掃描患者的檢測結果，來判斷患者是否有患敗血癥的跡象并發出警告。Epic公司此前表示，在區分兩名患有和未患有敗血癥的患者時，其模型至少有 76% 的正確率。在美國，大約四分之一的醫院使用Epic的電子病歷，數百家醫院使用其敗血癥預測模型。

但最新的研究結果表明，Epic模型預測敗血癥患者的準確率不佳。

研究人員選取密歇根醫學中心近3萬名患者的病歷數據為樣本，其中大約有2500名是敗血癥患者，研究人員使用Epic的診斷模型對全部3萬名患者的病歷數據進行診斷，結果發現，有三分之二的患者沒有被該模型確診為敗血癥患者。另外，該模型檢測出7%的患者沒有及時得到抗生素治療，研究人員在論文中寫道“這說明Epic診斷模型與臨床實踐相比，敏感性較低”。

在研究人員看來，該診斷預警模型非但對醫生的幫助不大，還可能給醫生造成負擔。原因是Epic 系統的大部分警報都是誤報。在該研究中，系統對近6000名患者發出了警報。結果表明，當它標記一個病人時，這個人只有 12% 的概率患上敗血癥。

“從這些警報中，你能獲得的價值很少?！痹撜撐淖髡咝粮裾f。他認為，該系統可能會導致醫護人員的“警報疲勞”，醫護人員每天面對不斷彈出的窗口和警報聲，可能會感到不知所措并開始忽略通知。

更加荒謬的是，研究人員發現，Epic公司模型之所以能通過電子病歷中較準確地判斷敗血癥患者，是因為該算法模型會識別醫院開出的敗血癥治療的賬單代碼。也就是說，官方宣稱的準確率其實是一種假象。很多情況下，Epic系統診斷敗血癥是基于醫生已經做出的診斷?！皼]有人會用賬單代碼來檢測誰患有敗血癥?！毙粮裾f。

AI輔助診斷工具普遍，評估和監管欠缺

Epic公司對該研究結果提出了異議，其發言人稱，有其他研究結果表明，該敗血癥預警算法是準確的，并稱該系統“幫助臨床醫生挽救了數千人的生命”。

據媒體報道，AI輔助診斷和醫療的工具越來越多，但對其有效性卻缺少評估。在 COVID-19 疫情早期，Epic 推出了另一個預測工具，旨在幫助醫生決定哪些患者應該進入重癥監護室，哪些患者不需要進入。由于疫情非常緊急，因此很多醫院在沒有對該工具進行獨立評估的情況下就開始使用它。

后來，一項小型研究表明，它可以識別高危和低?；颊?，但這可能幫不到醫生。布朗大學的研究人員警告稱，該系統中可能存在無法預料的問題或偏見。

約翰霍普金斯醫學院副教授Roy Adams表示，希望看到更多研究來推動醫療領域的算法?！拔覀冃枰獙@些系統進行更多獨立評估?！彼f。

他認為，像Epic這樣的系統正變得越來越普遍，但醫院管理人員幾乎沒有關于它們如何操作的數據，即使可以獲得數據，也缺乏明確的標準來評估系統。

辛格也呼吁Epic這樣的醫療健康公司提高其產品的透明度。他指出，監管機構應該對敗血癥預測工具等醫療算法系統有足夠的重視。