「那些投票提醒，只發給那些自稱是自由派的人。沒有一個保守派的現場代理（field agents），收到過投票提醒。」愛潑斯坦說。
在他的2020年選舉監測項目中，羅伯特·愛潑斯坦（Robert Epstein）博士發現有明顯數據顯示了谷歌存在「選舉傾向性」（election bias），他表示，他才剛剛開始仔細研究所有收集的數據。
在本期節目中，美國行為研究和技術研究所（American Institute for Behavioral Research and Technology）的高級研究心理學家愛潑斯坦博士解釋了到目前為止他的發現，以及為甚麼他相信公眾有能力阻止大科技公司的「選舉傾向性」，即使在沒有立法行動的情況下。
這是《美國思想領袖》（American Thought Leaders）節目，我是楊傑凱（Jan Jekielek）。
谷歌只針對民主黨選民發送提醒信息：出來投票
楊傑凱：羅伯特·愛潑斯坦博士，歡迎你再次作客《美國思想領袖》節目！
愛潑斯坦：這是我的榮幸，不用說嘍。
楊傑凱：愛潑斯坦博士，你針對谷歌的行為提出了——我想可以說是——一些重大指控，指控谷歌不成比例地只針對民主黨選民發送信息，讓他們出來投票。我希望你能談一談，作為我們談話的開始。當然，這是一個大型監控項目的一部份，你已經參與很多年了。
愛潑斯坦：首先，請讓我說一下，我沒有提出任何指控，但是我有一些我和我的團隊收集的數據。我還應該說——我認為這與這個問題有關——幾天前，華盛頓特區一位非常傑出的律師聯繫了我，他認為我應該躲起來。我沒有提出任何指控，但是我確實握有一些數據。我認為它們可能是非常重要的數據。
楊傑凱：那麼，請跟我說說這些數據吧。
愛潑斯坦：你需要了解一些背景知識。自2016年以來，我們已經建立了（監控）系統，試圖確定大型科技公司在2016年、2018年以及現在的2020年大選之前，向人們傳遞了甚麼信息。為了進行調查，我們招募了人員，我們稱之為「現場代理」（field agents）。之前的2016年，我們招募了95個。
我們為他們（的電子設備上）配備了特殊的軟件，可以讓我們在他們在互聯網上從事與選舉有關的活動時，例如在谷歌、必應（Bing）和雅虎上進行搜索時，有效地密切監視他們，而今年我們所做的事情，則更加雄心勃勃。
2016年，我們能夠保存13,000個被谷歌稱為「瞬息體驗」（ephemeral experiences）的東西。在本計劃中，就是關於在谷歌、必應和雅虎上進行的搜索。「瞬息體驗」——這是一個非常重要的術語——意思是我們在網上的那些體驗，包括影響我們的轉瞬即逝的內容，會隨後消失，永遠地消失，從而就無法被分析了，因為它消失了。這就是問題的關鍵。
從谷歌洩露出的信息中我們知道，「瞬息體驗」被其極為蓄意地、非常有策略地用來改變人們的思維和行為。這一點是毋庸置疑的。
重點是，今年我們招募的可不只95名現場代理，而是733名現場代理，特意在非常關鍵的三個搖擺州招募，它們是亞利桑那州、佛羅里達州和北卡羅萊納州。我們想要去探究的地方，這個行動針對的，是那些我們將最有可能發現一些「傾向性」或者操縱的證據的地方。
我們確實發現了「傾向性」的證據。我們還發現了一些人可能想要的所謂「確鑿證據」（smoking gun）。我們發現，在10月26日那一周，也就是大選臨近的那一周，只有我們自由派的現場代理，在從谷歌的主頁上收到投票提醒。10月29日，星期四，我故意把這個消息公佈於眾。
我向《紐約郵報》（New York Post）的一位記者分享了很多信息。我這麼做是相當有策略的，因為我知道《紐約郵報》的所有郵件，都是共享給谷歌的。幾年前，我在一篇文章中提到了這一點。《紐約時報》（New York Times）、《衛報》以及其它許多主流媒體也是如此。你們（《大紀元時報》）不是，你們的信息不是，但《紐約郵報》絕對是，他們的電子郵件是共享給谷歌的。
所以我知道我提供給這個記者的所有信息，都會被谷歌看到，裏面有我的名字。我料想有一種算法，會立即將它發送上報到真人面前，然後真人就會看到所有這些信息。
重點是，當天晚上發生了兩件事，那是10月29日星期四晚上。第一件事情是，據我所知，我那篇文章即將付印，卻被《紐約郵報》撤了下來。你想想看，那是一個相當保守的新聞機構，然而我實際上被這個新聞機構審查了。
或許，相關的事實是《紐約郵報》32%的流量來自谷歌。也許某個人提醒了《紐約郵報》中的其他人，他們極易被谷歌施加傷害。換句話說，谷歌幾乎有能力在一夜之間讓他們破產。
發生的另一件事是谷歌主頁上的「向目標群體推送信息」（targeted messaging）消失了。就像有人輕按了電燈開關一樣，然後它就消失了。因此，從10月29日午夜開始，就在大選前幾天，我們所有的現場代理，都開始收到谷歌主頁上的投票提醒。這種情況一直持續到11月3日選舉日結束。
這當然是我們目前測試得到的一個有趣的發現。但是後來事態又向另一個方面邁進，因為當時，我接到了很多國會議員和一些與我合作的律師的電話。我向他們解釋了我們的發現。
接下來我得知——那是在11月5日，我記得，選舉剛結束——三個美國參議員致信谷歌的行政總裁，談到了我的一些發現，基本上是指責他曾對國會撒謊，這是一個重罪，因為當（之前進行國會聽證）時他曾說過：「我們永遠不會讓我們的任何內容，傾向於一個或另一個政黨。」
他們正在根據我的資料追查他。這就解釋了為甚麼華盛頓特區的律師，讓我躲起來。
一場勢均力敵選舉，由科技公司決定誰會獲勝？
楊傑凱：愛潑斯坦博士，這些數據有可能會錯嗎？另一個問題是，你們是從10月26日開始監控的嗎？還是你所說的結果，是從10月26日才開始出現的？
愛潑斯坦：10月26日是我們決定全面運行的日子。那時我們有了500多名現場代理。要讓這樣的系統運行起來，需要一段時間。這裏涉及到很多招聘工作，還有很多技術方面的挑戰。我們的監控項目受到了網絡攻擊，比以往任何時候都嚴重。其中之一是DDoS攻擊，即「分佈式阻斷服務」（Distributed Denial of Service）攻擊，非常嚴重，所以我們的部份工作停了下來。
但是基本上講，26日星期一，我們決定全面運作。從那個時間點往後，我們一直集中分析收到的數據。當然，隨著時間的推移，我們會審視我們所獲得的一切資料。但是在那一刻，基本上是選舉前大約一周，我們的關注點是看看到底會發生甚麼。
請記住，最具有戲劇性的操縱，將在選舉臨近的時候發生，因為這時候，如果可能的話，你想做3件事：如果你支持某個候選人，你當然想動員他的基礎盤。換句話說，如果這些選民，還沒有通過郵件投票，你希望他們離開沙發去投票。
其次，你想阻止你反對的候選人的支持者投票，所以你想讓這些人待在家裏。但是最重要的是，這也是我們的監控項目非常重要的地方，你想要影響那些還沒有決定的人。
這最後幾天，絕對是至關重要的，這就是你要傾盡全力的地方，用盡一切辦法，試圖將那些尚未決定的選民，推向一個或另一個方向。這些人最終會在一場勢均力敵的選舉中，決定誰會獲勝。
楊傑凱：你的數據有可能是錯的嗎？（因為根據這些數據，）這是相當明顯的，你基本上是在說，至少在三天內，（谷歌的）提醒投票（信息）都針對著某一個意識形態團體（推送）。
愛潑斯坦：從26號到29號是4天。我不知道如何回答這個問題，當我看到屏幕上出現的數字時，我嚇了一跳，我不能肯定地說，全國各地的人都看到了甚麼。
但是我可以說，我們招募了733名涵蓋不同群體的註冊選民，有共和黨人、民主黨人和無黨派人士。我可以說，在那段時間裏我們的那些自稱自由派的現場代理，都接到了谷歌主頁的投票提醒。我可以說，在那些自稱保守的人中，沒有一個人看到主頁上的提醒。
這是一件很奇怪的事情，因為你在電腦屏幕上看到的數據，一個群體對應的是100%，另一個是0。這種情況並不常見。讓我們這樣說吧，你不需要做統計分析，就可以看到這兩組之間是否有任何差異——這是100%相比0%。
讓我們換個方式思考。假設（反過來，是）谷歌在監視我們——如果我是谷歌，我就會一直監視著我們的——我的意思是，他們（監視方）不會改變我們（被監視方）的數據。這樣做是沒有任何意義的。
我們在做這些項目時，我們也有大量的安全預防措施。我不會細講。關鍵是，儘管我們可能會受到攻擊，我們的系統會在短時間內死機，但是任何人都無法真正改變數據。
那麼，我們看到的就是現場代理所看到的。實際上，我們是在用軟件監視他們，這是經他們允許的，我們在嚴密監視著，我們看到的就是他們在屏幕上看到的東西。我們在那段時間看到的是，那些投票提醒，只發給那些自稱是自由派的人，沒有一個保守派的現場代理，收到過投票提醒。
谷歌利用搜索結果等「瞬息體驗」影響使用者
愛潑斯坦：重申一下，我沒有提出任何指控，我只是報告我們的發現。當然，我們也在谷歌搜索結果和其它事情上發現了「傾向性」。我們已經保存了如此多的數據，我們需要幾個月的時間，來解讀我們獲得的數據。這個項目的主要目的，是保存通常會永遠丟失的內容。這些都是這種「轉瞬即逝的內容」。
谷歌的人都知道這個。在2018年洩露給《華爾街日報》的一封電子郵件中，一名谷歌員工對其他人說，「我們該如何利用『瞬息體驗』改變人們對特朗普旅行禁令的看法？」可見，這種把戲來自谷歌內部。
他們知道，類似搜索結果、主頁提醒、搜索建議和新聞推送等「瞬息體驗」都是瞬現性的，這些東西出現在你的眼前，影響了你，然後消失不見，一去不復返。沒有人能回到過去，看看這些公司在他們（用戶）的個人助理設備（personal assistant devices）上，向人們展示了甚麼，或者對人們說了甚麼。
這就是為甚麼我們做的事情是非常獨特的——2016年我們已經保存了13,000個「瞬息體驗」，這些信息通常會永遠消失。而這一次，順便說一下，我們保存了五十多萬條，各種各樣的——我們保留了主頁、谷歌搜索結果、必應和雅虎搜索結果，以及數千個油管上的（推薦）序列。
我們保留了面書主頁——即面書向用戶發送了甚麼樣的信息。對於這個我們只是簡單地嘗試了一下，還不是很確定。這是因為面書的主頁相當複雜，而谷歌的主頁則非常簡單。
多家矽谷公司都在將選票推向同一方向？
愛潑斯坦：所以，將來某個時刻，我們會找到答案的。我們也會知道面書主頁上，是否有任何針對投放的信息。如果有的話，我們談論的將是一種可能性：或許多家矽谷公司，都在肆無忌憚地將選票推向同一個方向。
幾個月前我計算過，如果所有的矽谷公司，其中最強大的兩家公司就是谷歌和面書，都朝著同一個方向推送信息，那麼可以在這次選舉中輕易地轉移1500萬張選票。這意味著，他們實際上決定了下一任總統是誰。
我本人偏左。我認為他們在推動的事業和候選人們，是我和我的家人喜歡，這很不錯。但是我更重視民主、更重視自由和公正的選舉、更重視我們的國家，將其置於我對一個候選人或一個政黨的個人偏好之上。
事實是，如果我們允許像谷歌這樣的公司，控制我們的選舉結果，那麼我們就沒有民主，沒有自由和公平的選舉，所有這一切都是虛幻的。實際上我們在由那些科技梟雄——那些科技能人們，他們實際上在幕後控制著表演。
對我來說這是不可接受的。即使他們支持我喜歡的候選人和事業，這也是不可接受的。在我看來，這應該是所有美國人都不能接受的，無論你的政黨是甚麼。我的民主黨朋友和家人，如果你們正在聽，如果你們不喜歡我說的話，那你們就太可恥了。
因為你不知道明天這些公司會青睞誰。他們的所作所為並不透明。他們對美國公眾不負責任。與我們選舉出來的官員不同，他們不負責。他們的行動是高度保密的，你不知道他們下一步要做甚麼。你不知道他們在其它國家做甚麼。
例如，我們有證據表明，在古巴，他們不支持左派。在古巴他們支持右派，因為左派掌權，左派不喜歡谷歌這樣的公司，所以他們支持右派。在中國，谷歌已經與中國政府合作，幫助監視和控制中國人民。
就在一年前，谷歌的一個秘密項目「蜻蜓」（Dragonfly）被曝光，令人震驚：項目的基本內容是谷歌回到中國，與中國政府合作，幫助他們控制他們的民眾。所以，重申一下，我對我的民主黨朋友和家人說：我愛你們，但是如果你因為我說的話而生我的氣，那你真可恥。
楊傑凱：這些，整體而言，對我自己和其他觀眾來說，是難以接受的。關於你說的「確鑿的數據」，我想再問你一個簡短的問題。根據指標，在這733名現場代理中，有多少人是保守派？多少人是自由派？我只是想了解一下我們所談論的樣本容量。
通過實時監控科技巨頭 保護人類免受侵害
愛潑斯坦：這些數據現在沒擺在我面前，但是我們有一個非常多樣化的團隊。大致來說，我們有三分之一的自由派，和三分之一的保守派。然後我們有一小群自稱溫和派（moderates）的人，還有一小群自稱是「其他人」（other）的人，我手邊沒有確切的數字。
最終克裏斯（Chris）會把這些寫下來，我們會公佈很多很多細節。在這個世界上，有好的難題（good problems）和壞的難題（bad problems）。我們有個好的難題。我們有這麼多數據，我們在很短的時間內完成的工作，使我們在以前的監視項目中完成的工作相形見絀。
這個項目基本上告訴了我兩件事。它告訴我，是的，對這些公司進行大規模監控，是有可能的，每天24小時對他們做他們對我們做的事情。我們可以全年非常大範圍地監控，幾乎包括所有他們向用戶展示的東西，以及他們通過個人助理設備告訴用戶的東西。我們可以一天24小時都在看，可以去尋找其操縱、傾向性，以及各種各樣的詭計。
這個項目也告訴我，如果我們發現了任何違規行為，然後我們揭露這些違規行為，我們可以讓這些公司做出讓步，我們可以讓他們停止。這方面是沒有法律法規的，這只能是應用技術——用好的技術，來對抗壞的技術。
你知道，法律法規制定進展非常緩慢，而科技的發展速度簡直就是光速。那麼如何能預見未來，不只是考慮谷歌，還要考慮下一個谷歌和再下一個？你如何能保護人類、民主、言論自由，免受谷歌這樣的公司的侵害，不管他們是出於好意，還是出於真正的邪惡？你將如何保護人類？
你可以通過監控系統來實現這些目標，因為監控是一種技術，它可以跟上任何新技術的出現。它可以一天24小時不間斷地與這些技術保持同步，可以保護我們不被人為操縱，保護我們的民主免遭破壞，保護人類的自主性，避免隨著時間的推移遭受破壞。
大眾會歡迎私人公司根據其「公司價值觀」操縱選舉？
愛潑斯坦：2018年谷歌洩露出的令人不安的內容之一是，一段8分鐘的名為「自私的（數據）帳本」（selfish ledger，註：人類在互聯網上產生越來越多的數據——行為、決定、喜好、運動、人際關係……所有這些數據，可以累積成一個數據Ledger）的影片。它本來不應該洩露，談到了谷歌重新設計人類的能力。該影片也包含所謂「公司價值觀」一詞——（意思是他們要）通過重塑人類以體現「公司價值觀」。
實際上，他們承認我們（監視項目）正在發現的東西是真實的、是經過深思熟慮的、是戰略性的。他們認同一種烏托邦式的想法，也許他們知道得更多。世界上的其他人，谷歌之外的人，他們會怎麼想？他們會如何權衡這種可能性，這種計劃，這類行動？世界上的其他人會怎麼權衡呢？
我真的不認為世界各地的人們，會歡迎一家美國的私人公司根據其「公司的價值觀」，運用它的權力，操縱選舉，重塑人類。我覺得這太過份了。
顯然，我們需要透明度。我們有各種各樣的方法，可以用來獲得更高的透明度。許多國家都嘗試過，但是迄今為止都失敗了。但是最重要的是，我們需要被保護，免受這些操控。我知道，因為圍繞著我們目前的監控系統所發生的事情，我知道我們可以建立大型的永久性監控系統，來保護我們自己，不僅僅是在美國，而是在世界各地的國家。
我不僅知道，我們也能做到，我們必須做到。我不再認為這對人類來說，是可有可無的。我認為技術精英現在控制著一切，不管你知道不知道，他們現在已經控制了我們的選舉。我知道有個辦法可以阻止他們。我確實阻止了他們。至少通過一次操作，我似乎真的阻止了他們。
順便說一句，吹哨人、公司洩密、傳票文件、法庭發現，任何不同的方法，都有可能在某天證實：10月29日周四晚上發生的事情，真的像我所猜測的那樣。我們可能在某一時刻得到證實，谷歌意識到被監控，他們開始擔心，他們關閉了一個明顯的操縱，而我曾被告知，這種操縱可能違反了《競選財務法》（campaign finance laws），這是一項重罪，可能會被處以罰款甚至被判入獄。
楊傑凱：也有可能在谷歌內部有一些流氓員工，他們是有黨派傾向性的，他們會參與這樣的事情。我不敢妄加猜測。但是我敢肯定，現在很多觀眾都很好奇。你對這個主頁的特殊現象觀察——主要是在（傾向性地）鼓勵投票方面——有甚麼估計嗎？根據你的經驗或你的估計，有多少張選票會發生改變？
愛潑斯坦：我還沒計算過，但是我可以告訴你幾件事。第一，這個主頁在美國每天被瀏覽5億次。如果這種提醒在一段時間內被系統地使用，它影響的不僅僅是選舉日投票的人，也影響到郵寄選票的人，以及影響註冊投票的人。
想像一下這種有針對的投放信息，持續很長一段時間，它可以直接（發出提醒）讓一些人去投票，然後間接引導越來越多的具有特定政治傾向的人，去登記投票，由此來轉移很多選票。
這些計算我們知道怎麼做，我以後會做。我當然沒有想到會在谷歌的主頁上，找到這種有針對投放的信息。它也可能出現在面書的主頁上。我們已經保存了數千個這樣的（面書）主頁。我們知道他們針對誰，知道他們針對的人群的人口統計學特徵，所以我們也可以研究一下（面書的主頁）。
但是重點是，我沒想到會這樣。我們有了這麼多的數據，我們有這麼多令人難以置信的數據財富，我們會發現各種各樣的東西——我們都沒想到的東西，比如油管（推薦）序列（YouTube sequences，即YouTube通過算法，向用戶推薦影片）。想像一下油管（推薦）序列，對輿論和投票的影響力，因為現在全世界的人在油管上觀看的影片，有70%是由油管的「Up Next」（下一個）算法推薦的。
人們坐在那裏，讓油管——它是谷歌旗下的——給他們提供影片。想像一下，這一系列（推薦）影片有多大的力量，能改變那些脆弱的人、猶豫不決的人、試圖下定決心做決定的人的想法。這是一種讓人們「陷入無底洞」（down the rabbit hole，註：描述當今網絡時代的常見現象——有些人在上網時會不假思索地從一個網頁點擊到另一個網頁，就好像掉進了無底洞一樣不知不覺地就點開了一個與原本所瀏覽的內容毫無關係的頁面）的方法。有些記錄在案的例子顯示，一些人因為在油管上看到的一系列（推薦）影片，而轉向右翼極端主義或伊斯蘭極端主義。
我們做了前人從未做過的事。在一場政治選舉的前幾天，我們在油管上錄下了數千個影片（推薦）序列。同樣，我們也知道了觀看這些序列的有多少人。
只是想告訴你，我們不是在幻想甚麼。2018年谷歌洩露的影片之一，是油管行政總裁蘇珊·沃西基（Susan Wojcicki）與員工談話的兩分鐘影片，或者看起來是這樣。她解釋說，他們不會再讓這些假新聞，影響到我們的油管用戶了。所以他們修改了「Up Next」算法，提升、提高他們認為有效的內容，降級他們認為無效的內容。重申一下，我們說的是在公司內部經過深思熟慮的努力，來設計人們能看到和不能看到的內容。
科技巨頭第二類危險做法：操縱哪些內容不讓公眾看到
愛潑斯坦：而第二類，即（經過操縱讓）人們看不到的內容，這種做法非常、非常危險。有些人會稱其為審查。真正的危險在於，你不知道你不知道甚麼，你不知道被壓制的是甚麼，因為你看不到它。
我們知道，該公司內部一直在努力改變油管「Up Next」算法，很明顯，依據那個名詞，所謂的「谷歌公司價值觀」。我的意思是，外人怎麼能判斷哪些影片人們應該看，哪些不應該看？不同政治取向的人，是如何做出這些決定的？他們做這些決定的具體過程是甚麼？
這是不可接受的。我們不能讓對公眾不負責任的私營公司，來決定全世界30億人能看甚麼和不能看甚麼。順便說一下，到2022年這個數字將超過40億人。不能允許這種情況繼續下去了。
監控科技巨頭所面臨的挑戰
楊傑凱：就私人公司控制信息的基本能力而言，我們絕對是正處於前所未有的時代，絕對是。我們多久能收到你們的調查結果呢？這是第一個問題。第二個問題是，我想有觀眾在看，他們中可能有人想幫你做一些事情，如果你想找人做的話。因為，就像你說的，誰知道在這些數據中能發現甚麼？
愛潑斯坦：遺憾的是，我們真的不能接受志願者。我們也願意——因為每天都有人主動上門，我相信他們都是很棒的人，他們非常真誠，想要幫助我們——但是問題是，如果有人自願加入，我們不知道他們是否與大型科技公司有關聯。
因為谷歌不僅僱了10萬名員工，而且，我們知道，還僱了超過1萬名外部合同工，他們都是普通的老年人，從事各種各樣的工作。如果我是谷歌，而愛潑斯坦博士正在尋找志願者來分析數據，我會非常慷慨，會給他送去一打又一打的「志願者」。
我們沒有辦法區分好的志願者和壞的志願者，所以我們不得不問各種各樣的問題。我們通過關係網招募我們的員工，我們非常非常的謹慎。我們會做背景調查，會讓人簽非常嚴格的保密協議，非常謹慎。
我看過艾倫·德肖維茨（Alan Dershowitz）的一次演講，他說「偏執狂是件壞事，謹慎是件好事，兩者之間有一條微妙的界限。」我們非常、非常謹慎。你問我們甚麼時候會發佈很多很多的結果。我甚至不能給你一個日期，因為，坦白地說，我們的工作量巨大，這是好事，我們能保存的信息之多，讓我們不知所措。
我們必須發明分析這類數據的新方法，就像2013年以來，我們不得不發明新的方法，來研究網絡操縱一樣。我們必須發明出如何建立一個監控系統，能夠嚴密監視真正的電腦用戶。我們在2016年花了10個月的時間。我們從一月份開始，目前還在研究中。
很明顯，我們做得越來越好，我們越來越擅長自己正在做的事情。但是在我看來，所有這些項目和數字，並不能真正解決任何問題。我們做的事情及我們所做的事情的真正價值，在於展示（監控項目的）可能性，你可以把這些項目，看作「概念驗證」（proofs of concept，註：對某些想法的一個較短而不完整的實現，以證明其可行性，示範其原理，其目的是為了驗證一些概念或理論；概念驗證通常被認為是一個有里程碑意義的實作的原型）。
我們正在證明，我們能做到非常、非常仔細地，監視這些公司在向人們展示甚麼，並且能在非常、非常大的範圍內進行監視。如果監視系統可以永久地在全部50個州建立，就可以收集大量的可以被分析的數據。
這是可能的，而且可以用算法實時完成。換句話說，我們可以和谷歌做同樣的事情。重申一下，這是用好的技術來對抗壞的技術。我們可以做大規模的監視，這個系統可以被設置為永久性的，不斷地搜尋違規行為，然後舉報、揭露它們。
當這種情況（科技巨頭操控大選等）發生時，這不是人類的選擇，但是這（監控項目）是必要的，必須要做。想想看，當這種情況發生時，想想這些公司會如何反應。他們不敢企圖操縱選舉，不敢嘗試改造人類。這是保護我們自己的方法，通過建立監視系統，來發現並暴露對我們自由的威脅。
楊傑凱：羅伯特·愛潑斯坦博士，很高興再次和你交談。
愛潑斯坦：和你交談總是很高興！＃
------------------
🏵️《九評》20周年👉🏻 https://hk.epochtimes.com/category/專題/退黨大潮
💎成為會員 📧訂閱電子報
https://hk.epochtimes.com/subscribe
🔔下載大紀元App 接收即時新聞通知
🍎iOS：https://bit.ly/epochhkios
🤖Android：https://bit.ly/epochhkand
