自主式AI將進臨床 德研究：醫護工作恐現「責任鴻溝」

【記者簡詩雅／綜合外電】隨著人工智慧（AI）技術的發展，AI系統已從協助臨床醫師的角色，逐步轉變為能獨立協調並執行複雜工作流程的「自主式AI」（Agentic AI）。近日，《Healthcare》期刊刊登一份質性研究報告，探討醫療專業人員對於這項轉變的看法，研究指出，雖然自主式AI有望減輕行政負擔，卻可能導致醫護人員的「二線工作負擔」增加，並引發「責任鴻溝」等潛在問題。

這項研究由來自 University Medical Center Hamburg-Eppendorf 和約翰-沃爾夫岡-歌德法蘭克福大學的研究人員 Stefanie Mache、Lena Klimaschewski、Monika Bernburg、David A. Groneberg 與 Volker Harth 共同執行。他們在 2025 年 11 月至 2026 年 2 月期間，訪問了 25 位德國醫療專業人員（包括 11 名醫師和 14 名護理師），深入了解他們對自主式AI的預期。

研究發現，受訪者普遍預期自主式AI系統能有效減少文件處理、排程規劃與協調等行政工作，進而騰出更多時間用於病患照護。例如，它能應用於自動預約排程、轉診協調、出院管理、病患追蹤及各醫療服務間的溝通。然而，這並不代表醫護人員的工作量會因此減少，反而可能產生新的工作需求，例如持續監控、錯誤偵測、驗證及介入處理。

研究人員將此稱為「二線工作負擔」（second-order workload），意指醫護人員需負責監督自動化流程是否妥善完成，而非直接執行原始任務。這種轉變可能導致醫護人員同時監控多項活動、辨識錯誤、評估異常狀況並判斷何時需要介入，進而增加精神負擔。此外，受訪者也擔憂「自動化偏誤」（automation bias），也就是過度信任看似可靠的技術，可能降低批判性審查的能力。

更深層的顧慮在於，當自主式AI執行任務但最終的錯誤責任仍歸屬人類專業人員時，可能出現「責任鴻溝」（accountability gap）。許多醫護人員擔心，過度依賴AI可能逐漸削弱他們在臨床決策與日常工作組織上的自主權。為此，研究強調AI系統的透明度、可追溯性與可解釋性是有效人工監督的關鍵。

報告也提及，歐盟的《AI法案》（AI Act）與世界衛生組織（WHO）相關指導方針，均已觸及AI應用的透明度、問責制與人工監督等治理框架。研究呼籲，醫療機構在導入自主系統時，應重新設計工作流程，以監督、例外管理和明確的責任分配為核心。同時，培訓內容也應超越軟體操作，涵蓋理解系統限制、評估自動化行為，並辨識需人工介入的情況。研究者強調，應讓醫療專業人員積極參與系統的選擇、設計、測試與實施過程，確保技術的導入能真正提升醫療品質與工作效率，而非帶來新的挑戰。

參考來源

• WHO Launches TB Research Toolkit to Bring Pregnant Women Int…（Devdiscourse）