TikTok充斥以哈戰爭罹難者的深偽影片

在以哈衝突爆發以後，TikTok上充斥著許多罹難者的深偽（Deepfake）影片，一些影片更獲得了高達數百萬的瀏覽，以及數千條評論。

想使用現成的人工智能（AI）編輯工具創造深偽影片，只要利用一張死者的照片，加上幾分鐘的操作，就能製作出一個會說話、會移動的虛擬圖像。

AI研究人員稱這些影片為「數碼復活」（digital resurrections）。

最近，TikTok上出現了數十個以罹難者為主角，用各種語言描繪悲劇受害過程的深偽影片。這些影片的目的，似乎是博取同情和病毒式傳播。然而，其創作者往往是匿名的，不確定其真實的目的。

彭博社指出，發布這些影片的用戶，遵循著類似的模式。每當新聞報道了一個悲慘的死亡事件，在幾天甚至幾小時內，就有用戶發布這個受害者的深偽圖像，並常以當事人的視角，講述他們是如何去世的。

許多「數碼復活」的影片成功通過了TikTok內容審核機器，並在該平台上瘋傳。彭博社稱，直到記者去信詢問後，TikTok才刪除了這些影片。

這些影片的主角包括死去的兒童、普通公民和名人等。然而，在彭博社瀏覽過的帖子裏，沒有一則有證據表明，發布者事先取得了肖像授權。

10月7日，23歲德裔以色列女子Shani Louk在諾瓦音樂節上被哈馬斯綁架，隨後遭到斬首。然而，她的深偽影片在刪除前，被瀏覽了超過700萬次。

彭博社稱，這些影片中仍有幾十個在網絡上，沒有被TikTok的內容審核系統刪除。這些影片，能擴大發布者的關注人數，而TikTok則受益於人們在網絡上對這些影片的參與度。

生成式AI研究員Henry Ajder說，這些影片在快速滾動中，與其它主題較輕鬆的TikTok內容一起出現，讓用戶在沒有任何上下文或解釋的情況下，接觸到這些不真實的影片。

「可怕」或「令人不安」的內容，是不被平台允許的。但這些影片運用了已故兒童圖像，討論著虐待和謀殺的細節，卻通過了平台的審核，這引發了道德與倫理的爭議。

目前，有超過10億人在使用TikTok。許多用戶會在該平台上，尋找或觀看有關新聞時事的影片。以哈戰爭相關的標籤已積累了數十億的瀏覽量。然而，許多人批評TikTok已成為用戶發布未經核實的敘述和錯誤資訊的場所。

新聞事件爆發的當下，相關信息的瀏覽量迅速攀升，任何人都可參與病毒式傳播。這一因素加上廉價AI技術的普及，使得TikTok充斥著深偽圖像。

社交平台的核心設置是，提高有大量參與度帖子的曝光率。因此，當人們對TikTok上的影片和照片點讚、評論、轉發或回覆時，這些內容往往會被推送給更多人。

目前，國會開始討論保護名人和藝術家的立法措施，但目前的討論中，大多還未涉及對公民個人的保護。
#

------------------

🔔下載大紀元App 接收即時新聞通知
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand