台灣人工智慧實驗室發布「2024年台灣總統大選期間網絡訊息操作分析報告」,這是全球首份以AI技術觀察民主選舉資訊操弄的報告。創辦人杜奕瑾表示,台灣大選遭境外勢力操弄認知戰,估計有300萬人受影響。

台灣總統大選落幕,台灣人工智慧實驗室(Taiwan AI Labs)17日舉行的發布會吸引超過100位國內外專家參與,包括多國駐台人員、國際媒體、國際組織在台代表、台灣官方代表、國內外相關領域研究者與學者、台灣非政府組織與台灣媒體。

台灣大選遭境外勢力操弄認知戰 300萬人受影響

「2024年有許多國家舉行選舉,台灣是全世界境外訊息操作影響的指標國家。」杜奕瑾17日在發布會上表示,「台灣是2024年全球第一個舉辦選舉的民主社會,也是第一個用AI技術觀察選戰資訊操弄的地區,希望可以將台灣面臨資訊操弄的經驗與教訓,以及在台灣觀察到的生成式AI的威脅,分享給其它民主國家參考。」

杜奕瑾表示,這是在生成式AI元年全球第一個透過大型語言模型與多項人工智慧模型所完成的選舉操作的觀察報告。儘管這些資訊操作並非每一次都成功,但已在台灣造成一定的影響力;估計相關資訊操作觸及至少300萬台灣民眾。相關的資訊操弄行為在選舉前夕更顯著升溫。

杜奕瑾對大紀元表示,台灣人工智慧實驗室目前看到境外系統帳號對台灣選舉的影響,「這個影響力是非常的大。我們可以把它確定是協同群的,跟不是協同群的分開(操作),然後我們看到確定協同群怎麼樣有效地帶議題,讓確定不是協同群的人跟隨。」

他提到,公關公司操作選舉的情況還是存在,尤其境外公關公司操作台灣選舉現在更強有力了,因為現在開始有生成式AI輔助的方法。

透過AI系統Infodemic 藉由協同帳號分析理解資訊操弄

台灣人工智慧實驗室透過AI系統infodemic,藉由協同帳號分析理解資訊操弄,完成「2024年台灣總統大選期間網絡訊息操作分析報告」。台灣人工智慧實驗室表示,在疫情期間,他們與國際發展可信任負責任的人工智慧醫療。同時面對全球疫情虛假訊息操作,與全球合作夥伴建立相關偵察機制。

杜奕瑾解釋,首先由AI觀察與理解各個帳號的行為發現協同帳號。協同團體帳號的定義是指一群非真正使用者的帳號。這些帳戶可能是過去的「五毛」,即隨著官方需要發布特定內容的帳號;也可能是透過自動程式控制,或是公關公司的操作以非有機、組織性的方式在擴散特定言論。

他表示,台灣人工智慧實驗室這兩年藉由生成式科技大型語言模型,理解網絡數十億則社群媒體活動,挖掘出三萬多群協同團體,並在兩百多萬個議題中了解協同帳號在社交媒體操作的訊息內容,進而理解操作攻擊的對象與模式,以達到揭露背後可能的目的。

台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)
台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)

杜奕瑾說,由於全球對訊息操作的需求增加,開始有國際夥伴對這個服務的需求,台灣人工智慧實驗室進一步把相關的技術能力建立成Infodemic平台。即時且全面地讓非技術的夥伴可以理解國內外資訊操弄情況,作為數位素養發展相關應對策略。

台灣人工智慧實驗室內容行政總裁黃兆徽表示,該基金會近年來持續利用所開發的Infodemic平台,觀察涵蓋Facebook、YouTube、X(Twitter)、TikTok與PTT等台灣主要社群平台協同行為。同時以大型語言模型理解訊息操作攻擊目標、主流媒體報道反應,及時記錄協同團體所參與的訊息戰場以及可能造成的影響力。

黃兆徽說,大約從台灣大選前兩個月開始每周舉行閉門會議,揭露所觀察到的網絡資訊操弄狀況,與國內外學者專家交流討論;並在投票日後將選前一年的觀察心得分享給國際媒體、駐台外交人員、非政府組織和學研單位,共同設法提升大眾的媒體素養,建立認知韌性。

杜奕瑾在會議中指出,由Infodemic平台上可以得知一年來台灣受到協同帳號影響的重要議題有哪一些。如圖所示,每個圓圈表示具有代表性的戰場,圓圈大小為議題影響力,而顏色深淺為協同團體的比例。

台灣大選期間的主要訊息操作戰場全都露 選後協同帳號消失一半

AI系統分析了4,506萬餘則的社群平台互動,發現有73萬1,383個協同帳號進行議題操作,有1萬4,354個操作帳號,4萬8,411場攻防,被分享與討論的新聞共有27萬9,746則,與境外官媒有關的文章共有8,038則報道。(Taiwan AI Labs提供)
AI系統分析了4,506萬餘則的社群平台互動,發現有73萬1,383個協同帳號進行議題操作,有1萬4,354個操作帳號,4萬8,411場攻防,被分享與討論的新聞共有27萬9,746則,與境外官媒有關的文章共有8,038則報道。(Taiwan AI Labs提供)

藉由Infodemic平台,台灣人工智慧實驗室從2023年1月1日到報告發表時間截止觀察到1萬4,354協同帳號參與過4萬8,411個議題戰場,有73萬1,383個協同帳號進行議題操作,相關媒體報道27萬9,746則,與境外官媒有關的文章共8,038。在大選結束後,約有一半的不正常使用者帳號就消失了。

活動中觀察台灣一年多來的重大議題操作

杜奕瑾分析,2023年1–4月,與選舉相關的議題氣氛較低,其中最重要事件是總統蔡英文訪美。積極操作從5月開始啟動,且操作的戰場越來越多。5–6月,針對美國軍援與後續議題開始發酵。美國拜登總統5月表示要支持台灣防衛,當中可觀察到眾多協同帳號在挑撥台美關係及散播美國陰謀論。6月,議題討論圍繞在台灣軍購預算,台美雙方同時都被認知操作影響,想藉此混淆民眾認知。當中媒體報道稱代號「南海工作會議」也是其中一個大戰場。

針對《聯合報》在台灣總統府、行政院及美國澄清後,再度以所謂「南海工作會議紀錄全文」報道指控美國施壓台灣研製生物戰劑,並聲明已盡查證義務。2023年7月13日台灣總統府表示,此事衝擊台灣形象,甚至可能引發國際制裁,再次呼籲《聯合報》更正、致歉,並勇敢向民眾致歉。

杜奕瑾分析,2023年7–8月,大型且具有影響力的戰場相對密集出現,協同團體發現美國軍援影響或許對民眾無感,因此議題轉向探究與人民最有關也最直接影響的居住正義與違建。9–10月:開始操作缺蛋與食安問題,此議題為協同團體操作的成功案例,三周議題操作與密集攻擊,導致前農業部長陳吉仲下台。

2023年11–12月,選前戰場著重討論中國國民黨(藍)與民眾黨(藍)合作的「藍白合」。協同團體藉由攻擊試圖促成「藍白合」,但此次對於協同團體來說是一個失敗的操作,「藍白合」並沒有成功。隨後協同團體便轉換立場攻擊其他候選人,此項操作不像台灣內部公關公司操作行為,且藍白雙方也可能不清楚此事件。因此從中便能發現疑似境外勢力介入的跡象。

到2024年1月選舉前,最大事件是日本地震與台灣國防部發布的國家級警報。選前很明確地專攻某一個議題試圖影響台灣總統選舉,大選結束後約一半的協同帳號消失。直到美國代表團訪台後才又開始運作。

以下為杜奕瑾以圖表分析,2023年1–4月:與選舉相關的議題相對冷清,最大的議題戰場為蔡英文訪美。

台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)
台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)

2023年5-6月,針對美國軍援與後續議題開始發酵。

台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)
台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)

2023年7-8月:針對台灣居住正義、違建的議題不斷出現。

台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)
台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)

2023年9–10月:針對缺蛋與食安問題的操作,導致前農業部長陳吉仲下台。

台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)
台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)

2023年11–12月:針對「藍白合」操作議題。

台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)
台灣人工智慧實驗室(Taiwan AI Labs)以AI人工智慧技術,針對各媒體與社群平台的認知操作狀況進行觀察。(Taiwan AI Labs提供)

------------------

💎成為會員 📧訂閱電子報
https://hk.epochtimes.com/subscribe

🔔下載大紀元App 接收即時新聞通知
🍎iOS:https://bit.ly/epochhkios
🤖Android:https://bit.ly/epochhkand