加州立法規範 AI 精神健康應用　強調專業監督與病患同意

【記者廖心妤／綜合外電】加利福尼亞州參議院近日通過一項名為 SB-903 的法案，旨在為人工智慧（AI）在精神健康治療中的應用建立嚴格的監管框架。這項法案由參議員史蒂夫·帕迪拉（Steve Padilla）提出，並已獲加利福尼亞州眾議院以 71 票贊成、4 票反對的壓倒性票數通過。

根據這項法案，AI 工具在精神健康領域的應用將面臨諸多限制。法案要求，任何提供心理治療服務的實體，若使用 AI 工具，必須確保由執業的精神健康專業人員進行監督，且在應用前必須取得病患的知情同意。法案明確指出，AI 工具只能作為行政或輔助支援的角色，嚴禁由 AI 直接進行心理治療服務。

此外，法案對 AI 輸出的治療決策、建議、評估結果、診斷或治療計畫設下高門檻。除非這些輸出已獲得美國食品藥物管理局（FDA）的批准，並且符合美國《健康保險流通與責任法案》（HIPAA，美國規範健康資訊隱私保護的法律）的規範，否則一律需由執業專業人員審核與批准。同時，法案也禁止將由 AI 提供的心理治療服務宣傳為正式治療，或是聲稱聊天機器人是合格的治療師。若 AI 工具用於錄製或轉錄心理治療通訊，也必須事先告知病患並取得其同意。

史蒂夫·帕迪拉參議員強調，儘管 AI 工具在醫療領域提升行政效率的潛力受肯定，但精神健康專家對 AI 演算法可能存在的錯誤，進而危及病患安全表示高度擔憂。帕迪拉參議員呼籲加州州長葛文·紐森（Gavin Newsom）簽署該法案，強調加州應優先聽取執業臨床醫師的意見。他同時批評現任總統川普政府傾向於讓未經許可的聊天機器人服務弱勢病患，從中獲利，而非重視病患安全。

參考來源

• California Seeks to Implement AI Guardrails for Mental Healt…（The HIPAA Journal）