核心要點
- 本周，與委內瑞拉局勢及該國被罷免領導人尼古拉斯・馬杜羅相關的誤導性人工智能生成視頻和圖片，在各大平台收穫數百萬次瀏覽量。
- 與此同時，主流社交媒體平台及其人工智能檢測工具正難以跟上人工智能技術的發展速度，在突發新聞事件期間，這一問題尤為突出。
在美國軍方採取行動推翻委內瑞拉領導人尼古拉斯・馬杜羅之後，一批聲稱展現委內瑞拉民衆街頭歡慶場景的人工智能生成視頻在社交媒體上迅速走紅。
這些由人工智能合成的視頻片段描繪了民衆歡呼雀躍的畫面，在抖音、照片牆和 「X」 平台等主流社交平台上累計獲得數百萬次觀看。
「X」 平台上最早且傳播最廣的相關視頻片段之一，由名為 「華爾街猿」 的賬號發布，該賬號在平台上擁有超過 100 萬粉絲。
這條帖子呈現了多名委內瑞拉民衆喜極而泣的場景，畫面中的民衆還對美國及總統唐納德・特朗普推翻馬杜羅的行為表達了感謝。
該視頻隨後被 「X」 平台的 「社區備註」 功能標記。這一功能是平台依託用戶衆包開展的事實覈查機制，允許用戶為其認為具有誤導性的帖子補充背景信息。備註內容顯示：「此視頻由人工智能生成，目前被當作真實事件傳播，意在誤導公衆。」
這條視頻的瀏覽量已超 560 萬次，被至少 3.8 萬個賬號轉發分享，其中包括商界大亨埃隆・馬斯克，不過馬斯克最終刪除了該轉發內容。
美國消費者新聞與商業頻道（CNBC）未能覈實該視頻的來源，但英國廣播公司（BBC）和法新社（AFP）的事實覈查人員表示，已知的該視頻最早版本出現在抖音賬號 「@美國好奇智庫」，該賬號經常發布人工智能生成內容。
事實上，早在這類視頻出現之前，在特朗普政府發布馬杜羅被捕的真實照片前，網絡上就已經流傳着由人工智能生成的馬杜羅被美方羈押的相關圖片。
這位委內瑞拉前總統於 2026 年 1 月 3 日被捕，當時美軍發動了空襲與地面突襲行動。這場軍事行動在新年伊始佔據了全球各大媒體的頭條位置。
除了這些人工智能生成視頻外，法新社的事實覈查團隊還標記了多條與馬杜羅倒台相關的誤導性內容，其中包括將智利民衆的慶祝畫面僞造成委內瑞拉場景的視頻片段。
重大新聞事件期間滋生虛假信息並非新鮮事。此前在巴以衝突和俄烏衝突期間，也曾出現過類似的不實或誤導性內容。
然而，此次與委內瑞拉近期局勢相關的人工智能生成內容，憑藉其廣泛的傳播範圍和高度的逼真度，成為人工智能技術日益淪為虛假信息傳播工具的鮮明例證。
像蘇蕊和米德爾旅程這類人工智能內容生成平台的出現，使得人們能夠更便捷地快速製作超寫實視頻，並在突發新聞引發的信息混亂中冒充真實內容傳播。這類內容的製作者往往意在放大特定政治敘事，或是在全球受衆中製造認知混亂。
去年，一段由人工智能生成的視頻也曾在網絡上瘋傳，視頻中幾名女性控訴政府停擺期間自己失去了補充營養援助計劃（即 「糧票計劃」）的福利補貼。該視頻甚至騙過了福克斯新聞頻道，後者曾將其當作真實事件撰寫報道，相關文章後來才被刪除。
鑑於此類趨勢愈演愈烈，社交媒體公司正面臨越來越大的壓力，外界要求它們加大力度，為具有潛在誤導性的人工智能生成內容添加明確標籤。
去年，印度政府提出一項法案，要求對人工智能生成內容強制標註；西班牙則出台法規，對未標註的人工智能生成內容最高可處以 3500 萬歐元的罰款。
為回應日益增長的擔憂，抖音、元宇宙平台等主流社交媒體均已推出人工智能內容檢測與標註工具，但實際效果參差不齊。
美國消費者新聞與商業頻道（CNBC）發現，抖音平台上部分被當作委內瑞拉歡慶場面傳播的視頻，已經被標註為人工智能生成內容。
而 「X」 平台在內容標註方面，主要依賴 「社區備註」 功能。批評人士指出，這一機制往往反應遲緩，難以阻止人工智能虛假信息在被識別前大面積擴散。
負責監管照片牆和 「思瑞德」 平台的亞當・莫塞裏，在最近的一則帖子中坦承了社交媒體行業面臨的這一挑戰。他表示：「所有主流平台都會在識別人工智能生成內容方面付出努力，但隨着人工智能技術愈發擅長模仿現實，平台的識別能力反而會逐漸下降。」
他還補充道：「如今，越來越多的人和我一樣認為，相比給虛假內容做標記，為真實內容設定數字水印將是更可行的方案。」
責任編輯：郭明煜