AI假訊息正在重塑我們的現實？

媒體數位化、網路化，加上個人媒體蓬勃發展，帶來了資訊的爆炸，每個人能夠接觸的訊息遠比過去幾十年更多。

然而，隨著生成式AI技術的崛起，新的挑戰也隨之而來：網路與媒體正在被海量的假訊息所淹沒，真相與謊言的界限日益模糊。這場由AI引發的資訊危機不僅威脅著我們獲取真實資訊的能力，更可能動搖社會的根基。

AI假訊息的崛起：從小眾到主流

人工智慧技術的迅速發展，特別是生成式AI的出現，正以驚人的速度污染我們的資訊環境。根據Google和多個事實查核組織的研究，自2023年春季以來，AI生成的假圖像數量激增，現已接近傳統編輯工具如Photoshop製作的假圖像數量。這一趨勢標誌著假訊息製造已進入一個前所未有的新階段。

AI生成的假訊息不僅限於圖像，還包括影片、音訊和文字。研究顯示，約80%的事實查核案例涉及媒體內容，如圖像和影片，而影片在2022年後更成為主要形式。AI生成的內容正以驚人的速度滲透到假訊息生態系統的每個角落。

生成式AI工具的普及使得任何人都能輕易製作看似真實的假內容，導致假訊息數量呈爆炸式增長。更糟糕的是，這些AI生成的內容品質之高，使得即便是經驗豐富的專業人士也難以辨別真偽。

AI假訊息的特點與影響

AI生成內容的一個令人不安的特點是其高度真實感。隨著技術的進步，AI生成的圖像、影片和音訊與真實內容的界限正在迅速消失。2024年Met Gala時尚活動中，有人刻意生成了Katy Perry的AI圖像來製造新聞，由於太過逼真，連她的母親都一度誤以為她參加了活動。這種程度的真實感意味著我們可能很快就會生活在一個無法區分真假的世界。

更為可怕的是AI假訊息的大規模快速傳播能力。AI工具能在幾秒鐘內生成海量內容，再結合社交媒體的病毒式傳播，假訊息能以前所未有的速度席捲全球。一位資安專家警告說，「AI已經能在30秒內完成圖片、影片和音訊的操縱和製作」，這意味著在任何重大事件發生後，我們的資訊空間可能立即被假訊息淹沒。

這種情況對社會造成的危害是深遠而持久的。在選舉期間，AI生成的假訊息可能嚴重扭曲選民的判斷，危及民主進程。世界經濟論壇的報告警告，假訊息和錯誤訊息可能「在未來兩年內在多個經濟體中嚴重擾亂選舉進程」。除了選舉，AI假訊息還可能引發社會動盪，加劇群體對立，甚至導致暴力衝突。

比如說透過抖音擴散的假訊息引發各地反以色列的暴力抗爭行為。

辨別與遏制AI假訊息的挑戰

辨識AI生成的假訊息近乎不可能。儘管研究人員努力開發辨識策略，但這些方法往往趕不上AI技術的進步速度。研究顯示，即使經過訓練的人在區分AI與真人時，準確率也僅為42%，不如隨機猜測。

更令人擔憂的是，極權國家正在利用這一技術優勢，大規模製造假訊息來污染民主社會。中國等國家不僅開發了先進的AI模型，還將其作為資訊戰的武器。這些國家製造的AI假訊息往往與其政治目標相符，目的在干擾他國選舉、加劇社會分裂，甚至破壞國際關係。由於這些內容經過精心設計，更難以被識別和阻擋。

然而應對AI假訊息的努力總是落後於技術發展。西方技術公司雖聲稱負責，但他們開發的AI工具正成為極權國家利用的工具。社交媒體平台的內容審核機制效果有限，無法應對海量且高度仿真的AI生成內容，特別是那些來自國家級行為者的內容。

政府面臨立法困境，由於法規難以跟上AI發展，過度管制又可能阻礙創新。在言論自由、國家安全和技術進步間取得平衡變得越發艱難。媒體和事實查核組織的資源遠不及AI假訊息的生成速度，更難以對抗國家級的虛假訊息運動。面對如此複雜的威脅，公眾教育能否及時見效令人質疑。

我們似乎陷入進退兩難的困境。技術發展遠超我們應對能力，假訊息泛濫正侵蝕社會信任基礎，我們不僅逐漸失去分辨真相的能力，更可能成為極權國家操縱的對象。

• 首圖來源：shutterstock