醫療生成式AI潛藏風險　美國FDA研議「能力導向」監管

【記者林煜軒／綜合外電】美國食品藥物管理局（FDA），此為美國負責藥品與醫療器材監管的機構，正針對醫療器材中運用生成式人工智慧（GenAI）的監管方式徵求各界意見。他們提出一套「能力導向」的監管新方案，旨在確保這類創新技術的安全性和有效性，同時又能讓病患及時獲得利用。

根據《Medical Buyer》週二報導，FDA在討論文件中將GenAI定義為：「一類能夠模擬輸入資料結構與特徵，以生成衍生合成內容的人工智慧模型，內容可包含影像、影片、音訊、文字及其他數位內容。」該機構注意到，這類技術可能帶來傳統軟體或現有人工智慧醫療器材所沒有的獨特風險，例如AI「胡言亂語」（confabulations，即虛構資訊）、預期用途範圍的不確定性、對第三方基礎模型的可視性有限，以及產品生命週期中可能出現的性能衰退等問題。

FDA轄下的Center for Devices and Radiological Health（CDRH）考量到這些獨特挑戰，正在研議針對GenAI醫療器材的上市前評估，採取一種受人類臨床醫師評估和認證方式啟發的「能力導向」做法。這項方案將著重於評估「最終使用者所面對的裝置」，而非單獨評估其底層的基礎模型或其他孤立的子元件。

Acting FDA Commissioner凱爾·迪亞曼塔斯（Kyle Diamantas）指出：「人工智慧正在改變醫學，美國必須在安全且負責任地開發和使用這項技術方面取得領先。」他強調，FDA致力於推動醫療專業人員的創新，並利用AI來改善照護與病患健康成果。

CDRH也提出了一項雙軸風險評估框架，橫軸代表活動層次（從提供資訊到採取行動），縱軸則代表潛在後果的影響（從輕微到嚴重）。此框架旨在建立一套靈活的監管方法，遵循最小負擔原則，讓病患能及時獲得安全有效的醫療器材。FDA自2024年11月召開公眾諮詢委員會會議以來，一直積極研擬人工智慧醫療器材的監管框架。