文章專區

人工智慧（artificial intelligence, AI）迅速發展，要分辨出真實圖像與由演算法產生的深度偽造（deepfake）圖像，變得愈來愈困難。不過，最近有一群研究人員正嘗試應用天文學領域的技術，以識別出偽造的圖像。英國赫爾大學（University of Hull）數據科學、人工智慧與建模卓越中心主任平布萊特（Kevin Pimbblet）在上（7）月於英國皇家天文學會全國天文學會議（UK Royal Astronomical Society's National Astronomy Meeting）上介紹了這項尚未發表的新研究。

深度偽造技術可以替換掉個人或環境的特徵，使得圖像／影像看起來就像某人說了或做了某些他實際上並未做過的事情。而這種技術可能被武器化並用於傳播錯誤信息，例如在選舉期間出現的各種造假圖像與影音。平布萊特解釋，一張真實的照片應該具有「一致的物理特性」，例如人們在左眼球中看到的反射應該與右眼球中看到的反射非常相似，不過這兩個反射不一定完全相同。由於這些差異非常的微小，為了進一步分析它們，研究團隊採用了過往用來分析天文圖像中光線的技術。

研究團隊首先從Flickr-Faces-HQ數據庫中取得真實的圖像，並使用圖像生成器建立虛假的人臉，最後使用兩種天文測量方法——CAS系統（CAS system）、基尼指數（Gini index），分析圖像中眼睛裡的反射光源。CAS系統能量化物體光分布的集中度、不對稱性和平滑度，幾十年來的天文學家們就是藉此測量方法描述銀河系外恆星的光線特徵；基尼指數則用於測量銀河系圖像中，光分布的不均衡性。透過比較個體眼球中的反射光，團隊能以約70％的準確率預測圖像是否為深度偽造。此外，研究人員也發現基尼指數比CAS系統更擅長預測圖像是否被調整過。

加州大學聖塔克魯茲分校（University of California, Santa Cruz）的天文物理學家羅伯遜（Brant Robertson）對這項研究持正面態度。不過他也對此提出警告，如果我們能計算出一個度量標準、量化深度偽造圖像的真實程度，那麼當然也可以藉由改善這些標準以訓練AI模型生成更好的深度偽造圖像。來自英國南安普頓大學（University of Southampton）的AI研究者黃志武（Zhiwu Huang，音譯）則表示，過往他在研究時並未在深度偽造圖像的眼睛中發現不一致的光線模式。不過他也認為，雖然使用眼球中光線不一致反射的技術可能無法普遍適用於每一張圖像，但這種技術將有利於分析圖像中不同部分的光線、陰影和反射的微妙異常。檢測光在物理上的不一致性，或許可以作為另一種補充的檢測方法，藉此提高深度偽造檢測的整體準確性。

平布萊特在會議中也提到此方法並非萬無一失，因為在實驗過程還是有可能發生偽陰性／偽陽性的結果，但這仍提供了一種潛在的方法及重要的前進方向，未來或許可以加入到當前用於判斷圖像真偽的測試作業中。隨著AI技術的不斷進步，識別偽造圖像的挑戰也將持續進行。未來，研究人員也需要繼續探索更多跨領域的解決方案，以應對持續演變的深度偽造威脅。

新聞來源
Wild, S. (2024). AI ‘deepfake’ faces detected using astronomy methods.Nature,https://www.nature.com/articles/d41586-024-02364-y