健康新聞

生成式AI偽造衛星影像 學術期刊誠信面臨系統性危機

學者於期刊撰文警告,生成式 AI 能製造逼真的虛假衛星影像、操縱數據與捏造文獻引用,使健康地理與地球觀測研究面臨嚴重的誠信危機。

張

張皓廷

· 3 分鐘閱讀

分享:
圖/AI 生成示意圖
圖/AI 生成示意圖

生成式人工智慧(AI)技術快速普及,如今這股浪潮正對地球觀測與健康研究領域帶來空前挑戰。學者 Shannon Colville 與數位健康領域教授 Maged N. Kamel Boulos 近期於《國際健康地理期刊》發表社論,警告生成式 AI 正在製造虛假的地理影像、分析模型與文獻引用,對地理健康研究的真實性構成系統性風險。

地球觀測系統長期被廣泛運用於氣候監測、流行病追蹤與災難救援,其科學價值鏈完全建立在遙測衛星影像的真實性上。然而,現有的期刊編輯與同儕審查機制,難以單憑肉眼分辨經過精細竄改的合成畫面。今年 7 月,Google 曾在旗下軟體 Google Earth 短暫推出一項生成式 AI 功能,允許使用者合成虛假的衛星場景,隨後因引發爭議而在一天內迅速下架,突顯出偽造衛星影像技術已唾手可得。

這類風險不僅止於圖像。社論指出,自動化的統計造假正在取代傳統的人工數據操縱,生成式 AI 能輕易改動數值資料集,將原本不具統計顯著性的結果包裝成顯著發現。學術造假問題已在大型醫學資料庫中浮現,2026 年對收錄於 PubMed 的生物醫學文獻進行審查發現,每 277 篇已發表的論文中,就約有 1 篇包含捏造的文獻引用。

兩位學者指出,單純要求作者揭露是否使用 AI 的政策已難以奏效,因為「語言潤飾」與「生成實質研究內容」之間的界線已日漸模糊。審查員與期刊編輯對 AI 技術的認知差距,也嚴重影響了論文評審的公平性。

此外,在審查過程中將未公開的機密研究數據上傳至商業 AI 平台,更潛藏嚴重的數據主權外洩風險。今年 9 月,OpenAI 與 Anthropic 等主流 AI 開發商便曾陷入未經授權擷取機密稿件與對話資料的爭議。

面對學術誠信危機,作者強調,光靠視覺檢查已無法保證衛星影像反映的是地表的真實狀況。空間數據證據的可信度,未來將高度依賴驗證其未遭竄改的技術監管鏈、資料來源以及採集時的原始元數據(Metadata)。他們建議各大期刊捨棄雲端託管的商業 AI 篩檢工具,改在內部建置具備開源權重模型的獨立運算流程,並引進自動化文獻檢驗系統,在手稿進入同儕審查前築起數位防線。

參考來源

標籤: # 生成式AI # 學術誠信 # 衛星影像 # Google # 深度偽造
分享:
回首頁

延伸閱讀

熱門文章