Harvey Castro醫師解析醫療AI：輔助工作、釐清責任與安全挑戰

【記者賴柏翰／綜合外電】美國急診醫師兼首席人工智慧（AI）長 Harvey Castro (DR GPT™) 長期關注醫療領域的AI應用。他認為，AI應被視為輔助醫療工作流程的工具，而非取代醫師判斷，同時強調在導入AI時，必須釐清責任歸屬，並確保病患數據安全。

Castro 醫師指出，人工智慧在醫療領域的首波應用，應專注於自動化行政工作，這些事務原不應由醫師承擔，能有效減輕醫師的負擔，提升效率。他強調：「臨床人工智慧應取代工作流程，而非取代醫師。」他預期，未來醫師的核心技能將從記憶知識轉變為驗證資訊的能力，而非死記硬背。

然而，AI導入也帶來嚴峻的法律與倫理挑戰。Castro 醫師警告，當醫師簽署由 AI 生成的臨床筆記時，若該筆記導致醫療錯誤，醫師需負起責任。他觀察到，多數 AI 供應商都會將 AI 產出的所有權歸於使用者，並免除自身責任，這使得臨床醫師對 AI 產生的文件負有擔保責任，這些文件同時也作為計費依據及醫療訴訟中的證據。他明確指出：「當AI生成的推論顯著影響醫療照護時，作者身份決定了責任歸屬。」這意味著，即使推論來自無法持有執照或在法庭作證的系統，問責制依然存在。

針對醫院層級的 AI 策略，Castro 醫師觀察到，醫院委員會常犯的一個錯誤是未先定義要解決的問題，就批准引進 AI 工具。他建議，醫院應先明確問題，並確保所有 AI 方案在獲得批准前，都能納入未來使用者——臨床醫師的意見。為確保人工智慧的負責任使用，Castro 醫師提出五項醫院部署 ChatGPT 等 AI 工具前必須遵守的安全協議，包含加密與存取控制、人工審核機制（human in the loop）、在沙盒環境中進行模擬測試、偏見稽核，以及向病患公開揭露 AI 使用情況。他警告，若缺乏這些協議，醫院將面臨「錯誤資訊、隱私洩露和病患信任崩潰」的風險。

此外，他提醒切勿將病患資料或公司數據直接貼入 ChatGPT，因為這可能導致資料外洩，超出組織的控制範圍。他引用三星（Samsung）於 2023 年 4 月發生的洩密事件為例，說明使用者可能無意中將專有研究數據暴露給第三方。他也指出，大型語言模型（LLM）預設不符合 HIPAA（健康保險可攜性與責任法案，旨在保護病患隱私）標準，這是臨床應用的一大障礙，並預言：「精通符合 HIPAA 標準 AI 的臨床醫師，將會取代那些不精通的。」

談及目前醫療領域普遍的「醫師過勞」問題，Castro 醫師認為這是一個系統性問題，而非個人意志力不足所致。他估計約有五成的醫師出現過勞症狀，影響病患照護品質。他相信人工智慧能減少醫護人員的行政負擔，但無法解決人口老化或醫療人員退休導致的人力短缺問題，例如美國醫學院協會預估，到 2033 年，美國將短缺 54,100 至 139,000 名醫師。

Castro 醫師也探討了「代理式 AI」（Agentic AI）的應用，這類系統能自主將複雜任務分解成多個步驟並執行，改變了監督模式。他認為，檢查代理式 AI 的工作方式與檢查一段文字內容有所不同，因為臨床 AI 的真正限制不在於模型本身，而在於其目前無法直接存取病患病歷。他因此提出了「模型情境協議」（Model context protocol），作為讓 AI 代理系統在不需客製化開發的前提下，存取臨床資料的標準。

總結來說，Castro 醫師強調醫師在 AI 時代應「減少對記憶的依賴，增加對判斷的重視」。他鼓勵醫療專業人員將使用 AI 視為學習騎自行車，克服恐懼才能熟練運用工具。