近期前立委高嘉瑜的深偽影片在Line與抖音社群媒體上被瘋傳，上週國安局在立院回覆質詢時表示，這些背後操控的社群媒體帳號來源IP位址不斷變動，顯然是有組織有系統地在傳播。
上個月Gartner公布2025十大戰略技術趨勢，虛假訊息安全正成為重要戰略之一，Gartner認為到2028年，50%的組織都將採用專為應對假訊息而設計的產品與服務，以辨別訊息的真實性、防止冒名詐騙及追蹤傷害企業的訊息傳播，而目前已採用的比例還不到5%。
假訊息帶動輿論風向也實際造成企業財務損失
根據OpenAI上個月發表的研究報告指出，自今年以來OpenAI已中斷20多起利用其模型的惡意造假活動，這些活動包括為惡意程式除錯、為網站撰文、產出內容後用假帳號在社群媒體貼文。他們除了簡單地請求產出內容之外，有些還進行複雜的操作，例如先分析然後回覆社群貼文。包括在今年的美國、盧安達、印度以及歐盟等地的選舉中，都發現相關網路上有前述活動，OpenAI隨之中斷其行動。
Gartner報告指出，這些假訊息除了帶動輿論風向影響選舉結果之外，也將讓企業組織與民眾面臨財務損失、法律問題、名譽損失、身分造冒用，駭客也將利用企業員工協作平台及客服中心系統的漏洞，散佈合成的深偽內容，影響企業營運。他們透過惡意程式來竊取憑證以及接管帳號，2023 年企業電子郵件帳號遭竊者，雖然僅佔網路犯罪案件的2.4%，但卻造成了29億美元的損失。
打擊假訊息 技術與管理層面雙管齊下
面對假訊息的輿論戰，數位發展部日前在立法院進行「AI技術在資安及錯假訊 息之影響評估及因應」專案報告，數發部表示將結合自然語言處理、大數據分析、AI/ML來快速識別潛在假訊息，進一步完成假訊息傳播拓墣及源頭追蹤。同時，也將結合多種深偽偵測技術快速達成多模態偵測的目標。
而Gartner也建議企業應就以下層面，採取全方位的防護措施，以抵禦生成式AI與深偽技術所帶來的假訊息攻擊並保護品牌資產與營運安全：
- 主動安全措施
企業應優先保護內部即時通訊工具，如員工協作平台、客服中心及手機通訊。以防止合成媒體（如深偽技術）的介入，包括對話被操控或個人身份被冒用。此外，在採取第三方平台產出的資訊或內容前，應先驗證其真實性。這可以透過工具和技術來評估訊息來源的可信度，確保其在決策或分享前是可靠的。
- 身分與存取管理
持續關注生成式AI威脅態勢，並且強化身分驗證程序，防範利用深偽技術繞過生物特徵認證或身分認證與存取權限管理系統(IAM)的企圖。同時應仔細評估供應商提供的身分驗證功能，尋找具有現代數據驗證功能包括可驗證憑證的供應商，以及連接到資料確認來源，例如身分識別圖譜（identity graph）或政府發證機關。
- 品牌與媒體監控
企業應主動監控攻擊者冒用品牌的情況，包括監控未經授權使用品牌標誌、商標或名稱的情況並迅速處理。同時應主動監控社群媒體和大眾媒體，留意可能針對品牌的影響行動。而透過監控暗網，企業則可進一步掌握犯罪集團討論的攻擊目標與計畫或正在販售的企業外洩資料，如登入憑證和個資。
- 持續評估與合作
選擇具有假訊息安全經驗的供應商，了解其檢測與緩解假訊息攻擊的能力，特別是在深偽技術和生成式人工智慧相關威脅上的應對能力。
- 首圖來源：depositphotos
