AI是把雙刃劍,既給人們帶來很大便利,又大大提升了欺詐和虛假宣傳的水平。中共等邪惡政權正試圖利用AI深偽技術誤導輿情,擾亂國際社會。

AI的能力提升有目共睹,它讓更多的用戶、科技公司等紛紛透過已開放的AI代碼、應用程式介面(API)等去拓展、強化其它AI相關產品,但AI相關的規範和監管卻沒有跟上,使邪惡利用「深偽技術」(Deepfake)做虛假宣傳並擾亂輿情。

所謂深偽技術就是給影片中的人物換臉或改變說話內容等,且高級的深偽技術已達到以假亂真的程度。

不久前,中國的抖音網站上出現了美國前總統特朗普和現任副總統賀錦麗用帶口音的中文演唱中共主旋律歌曲《我愛你,中國》的畫面。

獨立撰稿人諸葛明陽認為,「雖然誰都知道這是惡搞,但因其新奇好玩,會引來大批人刷這類段影片,無形中起到給中國人洗腦的作用。」

另外,中共的社交平台還會在未取得國內外的影視明星、名人、網紅的授權的情況下,利用他們宣傳某些觀念、政治思想或免費的廣告。

例如,一位20歲的烏克蘭女孩奧爾加·洛伊克(Olga Loiek),她被告知自己的身影出現在小紅書、B站等中國社交平台上,但她從未使用過這些平台,只透過在YouTube和Instgram上面分享自己的想法和生活。

更令她吃驚和憤怒的是,這些跟她長得一模一樣的35個「分身」帳號,在中國社交平台上,竟然自稱她是在中國生活多年的「俄羅斯人」。這些「分身」帳號宣傳的內容與中共宣傳內容幾乎雷同,經常稱自己非常想要嫁給中國人、俄羅斯很美好、中俄必須成為有力的盟友等,且這些帳號還擁有不少流量和留言與之互動。

她在去年在YouTube開啟頻道後沒多久,不法份子就利用深偽技術盜取了她的臉,這些技術大多來自2020年成立於中國深圳的一家科技公司「詩云科技」。

該公司後來改名HeyGen且目前總部位於美國洛杉磯。該公司的初創曾受到紅杉資本等中國投資巨頭的青睞和巨額投資。

除了洛伊克例子之外,去年2月,社媒公司格拉菲卡(graphika)發表報告,曝光一家名為「狼新聞」(Wolf News)的網絡媒體與中共的關係。報告說,「狼新聞」利用深偽技術生成2名假的外國主播,讓其24小時播報假新聞,其內容大多是替中共宣傳和貶低歐美社會。

台灣人工智慧實驗室(Taiwan AI Labs)創辦人杜奕瑾對大紀元,「過去,深偽技術產生的影片或直播都存在許多破綻,但現在這種破綻越來越少,甚至達到難以察覺得地步。因此,未來人們要如何去辨別這類影片和直播的真假,將會是一大挑戰。」 

AI加深「垃圾偽裝」

利用AI大量生成虛假帳號和撰寫大量文章,將原本訊息戰、科技戰中的「垃圾偽裝」(Spamouplage)推向了更深更廣的層面,使這些訊息更加難以察覺。

例如,中共網絡水軍在特朗普於7月和9月兩次遭遇暗殺後,透過劫持原本使用者在YouTube、X和Facebook等社交平台上的帳號,或利用AI創立大量虛假帳號,偽裝成支持或反對特朗普的用戶。這些假帳號會先轉發或發表一些文章偽裝成真人帳號,等時機成熟再發表極端的言論,讓支持和反對特朗普的人在一些問題上變得更加劍拔弩張,達到分化美國民眾的目的。

上月中旬,OpenAI發表了一篇報告,講述了伊朗如何利用ChatGPT生成大量的媒體評論、文章和留言,發表在Instagram和X等社交帳平台上。

報告指,他們首先會讓AI撰寫有關美國政治和全球事件的文章,並發表在5個同時扮演進步和保守新聞媒體的網站上,之後再用AI生成英語和西班牙語的簡短評論,並發布在社群媒體上,以真人帳號的身份散播假訊息。

報告說,這次披露的結果與5月底OpenAI揭示中共、俄羅斯、伊朗和一家位於以色列的私人公司做的事情差不多。當時他們發現伊朗的「國際虛擬媒體聯盟」(IUVM)、中國的「垃圾偽軍」(Spamouflage)等組織,利用OpenAI的AI研究公共社交媒體活動,並生成多國語言的虛假訊息散布各大社交平台上,希望藉此達到操縱公眾輿論和影響地緣政治的目的。

格拉菲卡公司還曾在2019年、2021年披露,中共如何透過「垃圾偽裝」,達到分化國際社會和大量散播虛假訊息的目的。

該公司說,中共先是透過AI或水軍創造許多虛假帳號,在社交平台上大量發表「垃圾帖文」遮掩其真實意圖,以此規避社交媒體平台的偵測。只需要等到世界有大事件發生,或出現反對中共的聲音,這些帳號就會開始讚美中共,或出現大量抹黑反共的政府和團體。

杜奕瑾對此表示,「先前我們實驗室也發現社交平台上出現許多AI帳號,經常在台灣和美國總統大選期間,先是偽裝成不同候選人的支持者,且經常用最極端言論去謾罵對方,希望挑起雙方支持者的仇恨,導致他們無法在一個正常的議題上面去討論,甚至讓整個社會的分化和衝突變得更加嚴重。」@

------------------

💎成為會員 📧訂閱電子報
https://hk.epochtimes.com/subscribe

🔔下載大紀元App 接收即時新聞通知
🍎iOS:https://bit.ly/epochhkios
🤖Android:https://bit.ly/epochhkand