在以哈衝突中,有一些特別引人注目、沾滿鮮血的棄嬰照片,事實上是人工智能(AI)製作的深偽(Deepfakes)圖像。戰爭開始以來,這些圖片在網上已被瀏覽了數百萬次。

如果仔細觀察,可發現一些蛛絲馬跡:照片裏的手指奇怪地彎曲,或者人物的眼睛閃爍著不自然的光芒。然而,這些圖片所引發的憤怒卻是真實的。以哈戰爭中的圖片,生動且殘酷地展示了AI作為宣傳工具的潛力,它可創造出栩栩如生的大屠殺圖像,用來欺騙民眾,讓他們相信從未發生過的暴行。

隨著技術不斷進步,且缺乏監管。專家們擔心,未來的衝突、選舉和其它重大事件中,AI可能更頻繁的被濫用。

CREOpoint是一家總部位於三藩市和巴黎的科技公司,該公司創建了一個資料庫,收錄了網上熱傳的加沙地區深偽圖像與影音。「圖片、視訊和音訊:有了生成式AI,這將是前所未有的升級。」Goldenstein說。

有時候,來自其他衝突或災難的照片,會被AI重新利用,製作成新照片。有時候,生成式AI可以無中生有,從頭創建一張圖像。例如,在衝突初期,一個嬰兒在轟炸殘骸中哭泣的圖像在網絡上瘋傳,然而那其實是AI偽造的。

AI生成的圖像,還包括一些影片,顯示所謂的以色列導彈襲擊,或坦克軋過被毀壞的街區,或家人在廢墟中尋找倖存者等。非牟利組織「反數碼仇恨中心」(CCDH)行政總裁Imran Ahmed說,圖片越令人憎惡,用戶就越有可能記住並分享它,從而在不知不覺中進一步傳播虛假資訊。

在俄烏戰爭中,也有一段經過篡改的影片顯示烏克蘭總統澤連斯基(Volodymyr Zelenskyy)命令烏克蘭人投降。這則影片直到上周還在網上流傳,這說明了即使是很容易被揭穿的錯誤資訊,也能長期傳播。

這讓許多AI專家發出警告,明年有幾個國家要舉行大選,包括美國、印度、巴基斯坦、烏克蘭、台灣、印度尼西亞和墨西哥等。AI和社交媒體可能被用來散布謊言。

在最近一次關於深偽技術危險的聽證會上,民主黨聯邦眾議員Gerry Connolly表示,美國政府應投資開發能反制其它AI的AI工具。

David Doermann是一名電腦科學家,現在是布法羅大學(University at Buffalo)的教授,他說,要有效應對AI虛假資訊帶來的政治和社會挑戰,需要更好的技術和更完善的法規、自願性行業標準,以及對數碼素養計劃的廣泛投資,幫助互聯網用戶找出分辨真假的方法。說:「檢測和試圖清除這些東西不再是解決辦法。我們需要一個更大的解決方案。」◇ 

------------------

🏵️《九評》20周年
https://hk.epochtimes.com/category/專題/退黨大潮

🔔下載大紀元App 接收即時新聞通知
🍎iOS:https://bit.ly/epochhkios
🤖Android:https://bit.ly/epochhkand