醫療質性研究防AI幻覺 新審計框架抓出逾1%虛構引文
學者針對醫療質性研究開發出一套AI審計框架,能在分析訪談逐字稿時驗證AI生成的引文真實性。測試發現AI有1.4%的引述為憑空捏造,該系統能自動攔截並轉交人工審查。
廖心妤
· 3 分鐘閱讀

大型語言模型(LLM)廣泛應用於學術研究,但在梳理訪談逐字稿等質性研究時,AI可能捏造引文的「幻覺」問題始終難以驗證。國際期刊《BMC Medical Research Methodology》刊登最新研究,提出一套專為質性健康研究設計的審計框架,透過七大核心結構,嚴格追蹤並查核AI生成的逐字摘錄。
質性研究通常仰賴研究員深入分析受訪者的文字訪談內容,從中歸納脈絡與觀點。然而,過去學界對AI工具的規範大多著重於模型參數設定,缺乏針對模型如何詮釋逐字稿細節的核實機制。這套新框架要求研究設定明確的分析問題、限制文字上下文範圍,並將內容拆解為獨立的意義單元。
根據外媒報導,該框架的核心原則在於「絕不直接採納機器未經修改的建議」,所有模型產出的引述都必須經過確定性驗證。在實際測試中,研究團隊針對18份探討地區健康不平等議題的訪談、共計206筆摘錄進行評估,受檢驗的835個意義單元中,有95.2%(795處)能精確或在文字正規化後對應回原始逐字稿。
但系統也精準揪出潛在錯誤。測試發現,有12筆由AI生成的引文完全無法在逐字稿中找到對應原文,占整體約1.4%,這些內容隨即遭到剔除,禁止列入論文引用輸出。此外,自動化流程將206筆摘錄中的164筆轉入人工審查佇列,經過校正的26處引文中,有16處能完全支持原先的質性詮釋。
研究作者指出,即使AI能大幅加速文獻整理,所有經由演算法修復或調整的引文,在正式引用前仍必須經過人工手動確認,以確保科研數據的嚴謹度與可信度。完整研究成果已發表於《BMC Medical Research Methodology》期刊。
參考來源
- Audit Framework Verifies AI Quotations in Qualitative Health…(Bioengineer.org)
延伸閱讀

俄大學開發社群監測模型 從網路貼文揪出藥物不良反應
謝切諾夫第一莫斯科國立醫科大學開發出一套演算法模型,能從社群平台的病友留言中抓出藥物不良反應,並自動比對國際醫學詞典,藉此找出潛在的未通報用藥風險。

杜拜推AI食安監控 抓Google評論排查餐廳衛生
杜拜市政局宣布導入 AI 系統,透過自然語言處理自動分析 Google 餐廳評論中的衛生與害蟲抱怨,藉此鎖定高風險店家並即時指派人員稽查,提升公部門食安管理效率。

全球數位化翻轉公衛研究 學者籲捨棄傳統文化標籤改納動態視角
公共衛生期刊最新論文指出,數位科技改變了各國文化互動模式,傳統的衛教調查方法已難以適用,研究人員應改採動態且包容數位差異的研究架構。