AI心理健康工具恐陷「知識不公」 學者籲提升多元性

【記者張皓廷／綜合外電】人工智慧（AI）在心理健康領域的應用日益廣泛，從研究、臨床照護到決策支援等環節都可見其蹤影。然而，一份發表在《BMC Medical Ethics》期刊上的最新概念分析指出，這些AI工具恐面臨一個被低估的結構性威脅——「知識不公」（epistemic injustice）。知識不公指的是某些群體或個體的知識、理解和表達，因系統性偏見而遭到貶低、邊緣化或排除。

該分析指出，當前對AI倫理的討論多半聚焦於隱私、安全、自主性與演算法公平性，但知識不公的問題，特別是在資料、研究基礎設施、模型開發與治理系統中代表性不足的群體，其風險更為嚴峻。報告區分了三種具體形式的知識不公：證詞不公，指某些群體的經驗與證詞因偏見被系統性貶低可信度，並被AI系統複製；詮釋不公，指特定文化的心理困擾理解方式，被AI的計算分類與詮釋框架系統性排除；以及貢獻不公，指受影響的社群與在地研究人員，在研究優先順序、資料集建構、模型開發與治理等環節被排除在外。

研究團隊警告，AI技術可能將歷史上既有的知識不平等，轉化為可大規模複製的社會技術流程，進而編碼、放大、自動化並制度化這些健康領域的差異。報告中引用了兩個案例進行說明，包括一個非洲裔巴西兒童的臨床遭遇，以及一個在奈及利亞卡杜納（Kaduna）地區設計的圍產期憂鬱症篩檢情境，揭示這些不公如何具體體現在AI應用中。

為了對抗這些潛在的弱點，作者群提出「認知主權」（cognitive sovereignty）作為補充性規範架構。認知主權旨在連結個體的認知能動性、詮釋權威，並防範技術中介對心理生活產生決定性影響。研究主張，真正的公平需要實質的知識多元性、社群參與及公平的研究能力建構。研究團隊繪製了十二項治理建議，涵蓋了各種形式的知識不公、操作機制和系統階段，並呼籲進行獨立的知識審計、代表性與有效性審計，以及認知主權的保障措施。

這份分析強調，知識正義是確保機器智慧的有效性、合法性與公平性的關鍵前提。隨著AI在心理健康領域的應用持續擴大，各界應更深入關注其對不同群體知識權利的影響。

參考來源

• AI Mental Health Tools Risk Embedding Epistemic Injustice, C…（Bioengineer.org）