隨著 2024 年全球各地舉行各種重大選舉，以及對數位資訊領域不同方面的擔憂，感覺我們正處於錯誤訊息衝突的過程中，過去的教訓被忽視或忽略，轉而支持無論何種意識形態或理想主義觀點都會為幕後操縱者帶來更多價值。
儘管社群平台說的都是正確的話，並承諾在投票前改善其安全措施，但我們已經看到了重大影響力活動的跡象，這將不可避免地影響投票結果。 不管我們喜歡與否。
第一個主要擔憂是外國干涉以及國家行為體對全球政治的影響。
例如，本週 Meta 報導了超過 900 其應用程式中存在虛假個人資料它利用生成式人工智慧個人資料圖像，並透過應用程式內活動有效地用於監視外國記者和政治活動家。
經調查 同時，科技透明計畫發現，X 已經批准了恐怖組織多位領導人的付費驗證標記，這不僅為他們帶來了額外的可信度，還放大了他們在應用程式中的貼文。 去年年底，Meta 還報告稱，在俄羅斯境外運營的兩項主要影響力行動已被取消，其中涉及超過 1,600 個 Facebook 帳號和 700 個 Facebook 頁面，並試圖影響全球對烏克蘭衝突的看法。
這並非史無前例，也並非出乎意料。 但此類活動的普遍性和持續性凸顯了社交網路在監管錯誤訊息並確保選民在重大民意調查之前隨時了解情況方面所面臨的問題。
事實上，幾乎每個平台都對外國影響力活動的範圍有共同的見解：
- Meta 最近也報導了一項基於中國的影響力行動的檢測和刪除，該行動使用了 Facebook 和 Instagram 冒充美國軍人家屬的個人資料，並放大了美國在台灣、以色列方面的外交政策以及對烏克蘭的支持的批評。 該組織還分享了一份虛假請願書，批評美國對台灣的支持。 據報道，請願書有超過 300 個簽名。
- 2022 年，Google報告稱，它已 中斷了一個名為「Dragonbridge」的中國影響力組織在 YouTube、Blogger 和 AdSense（個人資料、頻道等）上進行的 50,000 多個活動實例。 Dragonbridge 帳戶發佈的內容大多是低品質的非政治內容，同時也融入了親中國的訊息。 這種方法稱為 「垃圾郵件」是指在垃圾郵件中隱藏政治訊息的做法。
- Meta 也發現了類似的情況，包括刪除了由超過 去年 8 月有 8,600 個 Facebook 帳戶、頁面、群組和 Instagram 帳戶曾經是 傳播親華訊息，同時攻擊對中共政策的批評。 Meta 的調查發現，同一個網路也在 Twitter、X、TikTok、Reddit 等平台上經營帳號集群。
- X 不再像它被稱為 Twitter 時那樣對帳戶執法行動具有同樣的深度，但它也報告了檢測和刪除 各種基於俄羅斯和伊朗的業務 旨在影響政治辯論。
- 甚至 Pinterest 報道 它已成為尋求影響外國選舉的俄羅斯支持團體的目標。
正如您所看到的，俄羅斯和中國的行動最為普遍，這兩個地區在 2016 年美國總統大選前被標記為尋求影響美國選民。
然而，就在上週，X 興高采烈地宣傳了塔克·卡爾森和俄羅斯總統弗拉基米爾·普丁之間的採訪，為這些團體多年來花費大量技術努力壓制的想法提供了一個主流平台。
在一些人看來，這就是問題所在，因為這樣的觀點不應該受到壓製或限制。 我們都夠聰明，可以自己判斷什麼是對的，什麼是錯的，我們都是成年人，所以我們應該能夠看到不同的觀點，並根據其優點來判斷它們。
這是 X 所有者 Elon Musk 的觀點，他多次指出，他希望在應用程式中啟用完整和開放的言論，無論是攻擊性的、有害的，甚至是公然的宣傳。
按照 麝香:
“所有新聞在某種程度上都是宣傳。 讓人們自己決定。”
從理論上講，這種方法是有價值的，甚至是一種權利，可以讓人們自由地做出自己的決定。 但與 2016 年美國大選一樣，各種調查發現，這場選舉至少部分受到俄羅斯支持的行動的影響，這可能會導致資訊武器化，以獲取更有能力引導輿論的人的利益，無論使用什麼方法他們自己的道德允許。
例如，這可以延伸到在同一地點和時間組織敵對政治團體的集會，以進一步加劇分裂和焦慮。 因此，與其說資訊本身被分享，不如說是這種挑釁的最終結果，它可能會用不正確或虛假的資訊影響選民，並幹擾民主進程。
這次情況可能會更糟，因為生成式人工智慧工具的盛行可以創造令人信服的音訊和視覺效果，以提出更多的謊言。
這種方法已經被各種政治活動人士所採用：
這個元素的挑戰在於我們不知道會產生什麼影響，因為我們以前從未處理過如此真實且易於訪問的人工智慧假貨。 當然，大多數人都可以區分真實的內容和機器生成的內容之間的區別，而眾包回饋也可以有效地快速消除這種差異。
但只需要一個單一的共鳴圖像就能產生影響，即使它可以被刪除，甚至被揭穿，想法也可以透過這個可能產生影響的視覺效果嵌入，即使有強大的檢測和刪除過程。
而我們其實連這個都沒有。 雖然這些平台都在努力實施新的人工智慧揭露，以打擊深度造假的使用，但我們不知道這樣做的全部效果，所以他們只能為預期的人工智慧攻擊做好這麼多準備。 它甚至可能不是來自官方活動本身，現在有成千上萬的創作者透過 Dall-E 和 Midjourney 進行提示，根據每個應用程式中的最新論點和政治討論來製作主題圖像。
這可能是 Meta 尋求完全遠離政治的一個重要原因，以避免下一波浪潮帶來的審查。
Meta 長期以來一直堅持認為，無論如何，政治討論對其整體參與度的貢獻微乎其微（Meta 去年報告稱，政治內容僅佔動態消息總內容瀏覽量的不到 3%），因此，它現在認為最好完全遠離這個元素。
上週，Meta 概述了其在其應用程式中預設選擇政治內容的計劃，同時指出它已經有效減少了 Facebook 和 IG 上的政治曝光，Threads 現在也將受到同樣的影響方法。 這不會阻止人們在其應用程式中參與政治帖子，但會讓它們更難被看到，特別是因為所有用戶都將選擇不查看政治內容，而且大多數用戶根本不會費心手動將其翻轉回來在。
同時，幾乎作為對立面，X 正在對政治做出更大的推動。 由於馬斯克作為該平台的所有者和最有影響力的用戶，他的個人政治觀點正在引發更多的討論和興趣，並且隨著馬斯克堅定地在共和黨陣營中插上自己的旗幟，他無疑將利用他所擁有的所有資源來放大共和黨的關鍵談話要點，以努力讓他們的候選人上台。
儘管 X 的規模遠不及 Facebook，但（據報導）它仍然擁有超過 5 億的每月活躍用戶，而且其影響力是巨大的，不僅僅是數字而已。
再加上審核人員的減少，以及對眾包事實核查（透過社區筆記）的日益依賴，感覺很像 2016 年正在重演，受外國影響的話題滲透到討論流中，並且搖擺不定的意見。
這是在我們討論 TikTok 的潛在影響之前，它可能是也可能不是中國政權影響力的載體。
無論您是否認為這是一個問題，經過證實的中國影響力運營的規模確實表明，中國擁有的應用程式也可能成為同類活動的關鍵載體。 由於中共也有各種特工直接為 TikTok 的所有者字節跳動工作，因此可以合乎邏輯地假設，很可能會採取某種形式的努力來擴展這些計劃，以便通過該應用程序接觸外國受眾。
這就是為什麼TikTok 仍受到審查，並且仍可能在美國面臨禁令。然而，上週，美國總統喬·拜登在該應用程式中發布了他的第一個視頻，它為潛在的民主黨選民提供的潛在影響力顯然超過了這些更廣泛的擔憂。
事實上，拜登競選團隊在不到一周的時間內已經在 TikTok 上發布 12 次，這表明拜登競選團隊將考慮將該應用程式用作即將到來的總統競選中的另一個訊息傳遞工具。
這也將使更多人使用該應用程式尋求政治訊息，TikTok 的演算法可以向他們展示它選擇的任何內容。
從本質上講，社交媒體資訊鏈中可能存在各種各樣的弱點，並且 70% 的美國人至少從社交應用程式中獲取部分新聞輸入，感覺我們將面臨基於以下內容的重大問題或危機：在某些時候基於社群媒體的錯誤訊息。
理想情況下，我們會提前發現，而不是像 2016 年那樣事後試圖將所有事情拼湊起來。
確實，您會希望我們不會再回到這裡，而且根據 2016 年活動的調查結果，大多數應用程式的檢測明顯有了改進。
但有些人似乎也忘了這一點，或是選擇不予理睬。 這可能會帶來重大風險。
