醫院廣泛採用AI工具 然測試與監管未跟上恐生風險

【記者蔡佳穎／綜合外電】一份由 UPMC’s Center for Connected Medicine 和 KLAS Research 共同發布的最新報告指出，儘管美國境內多數醫院已廣泛採用第三方人工智慧（AI）工具於臨床與行政工作，然而，這些創新技術的測試與監管機制卻未能同步跟上，潛藏病患照護風險。

該報告揭露，目前不到半數的醫院設有專門環境，用於在 AI 工具實際應用於病患照護前進行獨立測試。更令人憂慮的是，高達 63% 的醫療系統坦承其 AI 策略仍處於發展階段或缺乏系統性規劃。UPMC Enterprises 技術服務工程副總裁肯·霍華德（Ken Howard）直言，若缺乏專門且一致的測試策略，醫療機構恐會耗費大量時間與資源，最終卻發現 AI 解決方案未達預期效益。

AI 工具在醫療領域的應用日益廣泛，從影像辨識、輔助診斷，到預測住院天數或再入院風險等，但產業普遍缺乏一套標準化的評估方法。統計數據顯示，從 2023 年至 2026 年間，臨床醫師對 AI 工具的使用量幾乎翻倍。

有鑑於此，一些醫療機構正積極探索更嚴謹的導入模式。例如，UPMC 已建立一套正式的 AI 治理架構超過兩年，其做法包括利用自家實證數據平台 Ahavi，在第三方 AI 工具正式部署前，以去識別化（de-identified）的病患數據進行驗證。UPMC 首席醫學資訊長 Rob Bart 表示，他們不僅仰賴供應商提供的測試數據，更會針對自家病患群體進行獨立測試，以偵測潛在的偏見（bias）或模型漂移（model drift）問題，並在 AI 上線後定期監控其準確性。

DynaMed 資深醫學總監 Kate Eisenberg 指出，業界對於評估 AI 工具仍缺乏一致性方法，這凸顯了制定全面性測試與監管框架的迫切性。美國醫學會（American Medical Association）等組織也持續呼籲，應確保 AI 應用在醫療領域的安全性與公平性，避免潛在的倫理與照護品質問題。