AI健康建議險奪命 牧師狀告OpenAI挑戰AI責任界線

【記者廖心妤／綜合外電】美國佛州一名前牧師因採信人工智慧模型 ChatGPT-4o 的健康建議，導致肺栓塞險些喪命。這名前牧師已於美東時間上週三（22日）在舊金山郡高等法院，對 OpenAI 及其執行長奧特曼（Sam Altman）提起訴訟，此案預料將對 AI 提供建議時的法律責任歸屬，帶來深遠的影響。

根據《Startup Fortune》報導，這名牧師曾在 2025 年因頭暈與血壓不穩，轉而向 ChatGPT-4o 尋求建議。隨著症狀惡化，他持續依賴該 AI 的指引。據稱，ChatGPT 診斷他患有自律神經失調，並建議他臥床休養，甚至表示在病情嚴重之前，應經歷 8 到 10 次類似發作。當教會成員敦促他尋求醫療協助時，這款聊天機器人還聲稱，他身邊的好心人誤解了他在家休養的狀況。然而，在他住院的數小時前，他因鼠蹊部疼痛詢問 ChatGPT，AI 卻以信仰式語言回應：「上帝並非設計你的身體，使其無止盡地衰敗。」這段疼痛最終演變為險些奪走他性命的肺栓塞。

該訴訟指出，ChatGPT 已從單純提供資訊，逾越界線成為未經資格的醫療權威，實質上是在「行醫」。這名牧師指控 OpenAI 產品設計有缺陷、未能提供警告、存在過失，並違反加州不公平競爭法及侵犯州憲法保障的隱私權。OpenAI 的辯護立場則是，ChatGPT 並非醫生，也不旨在取代醫療專業人員。不過，文章認為，若產品以個人化對話信任為核心，則在造成傷害時，便不能將對話視為單純的搜尋結果。

此案發生之際，OpenAI 正積極拓展健康領域服務。該公司於今年 1 月宣布推出 ChatGPT Health，並已於上週四（23日）向美國 18 歲以上已登入的用戶，在網頁及 iOS 平台上正式啟用「健康 (蘋果)」（Apple Health）功能，允許使用者連結 Apple Health 與其他醫療記錄，以獲取更具情境化的答案。OpenAI 強調，連結的醫療記錄、Apple Health 資訊及使用這些數據的對話，並不會被用於訓練其基礎模型或進行廣告投放。有分析認為，若用戶透過某公司連結記錄，再透過另一公司提問，而建議來自第三方模型，未來 AI 的法律責任歸屬可能將超越 OpenAI。