核心要點
- 本周，與委內(nèi)瑞拉局勢及該國被罷免領導人尼古拉斯?馬杜羅相關的誤導性人工智能生成視頻和圖片，在各大平臺收獲數(shù)百萬次瀏覽量。
- 與此同時，主流社交媒體平臺及其人工智能檢測工具正難以跟上人工智能技術的發(fā)展速度，在突發(fā)新聞事件期間，這一問題尤為突出。
在美國軍方采取行動推翻委內(nèi)瑞拉領導人尼古拉斯?馬杜羅之后，一批聲稱展現(xiàn)委內(nèi)瑞拉民眾街頭歡慶場景的人工智能生成視頻在社交媒體上迅速走紅。
這些由人工智能合成的視頻片段描繪了民眾歡呼雀躍的畫面，在抖音、照片墻和 “X” 平臺等主流社交平臺上累計獲得數(shù)百萬次觀看。
“X” 平臺上最早且傳播最廣的相關視頻片段之一，由名為 “華爾街猿” 的賬號發(fā)布，該賬號在平臺上擁有超過 100 萬粉絲。
這條帖子呈現(xiàn)了多名委內(nèi)瑞拉民眾喜極而泣的場景，畫面中的民眾還對美國及總統(tǒng)唐納德?特朗普推翻馬杜羅的行為表達了感謝。
該視頻隨后被 “X” 平臺的 “社區(qū)備注” 功能標記。這一功能是平臺依托用戶眾包開展的事實核查機制，允許用戶為其認為具有誤導性的帖子補充背景信息。備注內(nèi)容顯示：“此視頻由人工智能生成，目前被當作真實事件傳播，意在誤導公眾。”
這條視頻的瀏覽量已超 560 萬次，被至少 3.8 萬個賬號轉發(fā)分享，其中包括商界大亨埃隆?馬斯克，不過馬斯克最終刪除了該轉發(fā)內(nèi)容。
美國消費者新聞與商業(yè)頻道（CNBC）未能核實該視頻的來源，但英國廣播公司（BBC）和法新社（AFP）的事實核查人員表示，已知的該視頻最早版本出現(xiàn)在抖音賬號 “@美國好奇智庫”，該賬號經(jīng)常發(fā)布人工智能生成內(nèi)容。
事實上，早在這類視頻出現(xiàn)之前，在特朗普政府發(fā)布馬杜羅被捕的真實照片前，網(wǎng)絡上就已經(jīng)流傳著由人工智能生成的馬杜羅被美方羈押的相關圖片。
這位委內(nèi)瑞拉前總統(tǒng)于 2026 年 1 月 3 日被捕，當時美軍發(fā)動了空襲與地面突襲行動。這場軍事行動在新年伊始占據(jù)了全球各大媒體的頭條位置。
除了這些人工智能生成視頻外，法新社的事實核查團隊還標記了多條與馬杜羅倒臺相關的誤導性內(nèi)容，其中包括將智利民眾的慶祝畫面?zhèn)卧斐晌瘍?nèi)瑞拉場景的視頻片段。
重大新聞事件期間滋生虛假信息并非新鮮事。此前在巴以沖突和俄烏沖突期間，也曾出現(xiàn)過類似的不實或誤導性內(nèi)容。
然而，此次與委內(nèi)瑞拉近期局勢相關的人工智能生成內(nèi)容，憑借其廣泛的傳播范圍和高度的逼真度，成為人工智能技術日益淪為虛假信息傳播工具的鮮明例證。
像蘇蕊和米德爾旅程這類人工智能內(nèi)容生成平臺的出現(xiàn)，使得人們能夠更便捷地快速制作超寫實視頻，并在突發(fā)新聞引發(fā)的信息混亂中冒充真實內(nèi)容傳播。這類內(nèi)容的制作者往往意在放大特定政治敘事，或是在全球受眾中制造認知混亂。
去年，一段由人工智能生成的視頻也曾在網(wǎng)絡上瘋傳，視頻中幾名女性控訴政府停擺期間自己失去了補充營養(yǎng)援助計劃（即 “糧票計劃”）的福利補貼。該視頻甚至騙過了福克斯新聞頻道，后者曾將其當作真實事件撰寫報道，相關文章后來才被刪除。
鑒于此類趨勢愈演愈烈，社交媒體公司正面臨越來越大的壓力，外界要求它們加大力度，為具有潛在誤導性的人工智能生成內(nèi)容添加明確標簽。
去年，印度政府提出一項法案，要求對人工智能生成內(nèi)容強制標注；西班牙則出臺法規(guī)，對未標注的人工智能生成內(nèi)容最高可處以 3500 萬歐元的罰款。
為回應日益增長的擔憂，抖音、元宇宙平臺等主流社交媒體均已推出人工智能內(nèi)容檢測與標注工具，但實際效果參差不齊。
美國消費者新聞與商業(yè)頻道（CNBC）發(fā)現(xiàn)，抖音平臺上部分被當作委內(nèi)瑞拉歡慶場面?zhèn)鞑サ囊曨l，已經(jīng)被標注為人工智能生成內(nèi)容。
而 “X” 平臺在內(nèi)容標注方面，主要依賴 “社區(qū)備注” 功能。批評人士指出，這一機制往往反應遲緩，難以阻止人工智能虛假信息在被識別前大面積擴散。
負責監(jiān)管照片墻和 “思瑞德” 平臺的亞當?莫塞里，在最近的一則帖子中坦承了社交媒體行業(yè)面臨的這一挑戰(zhàn)。他表示：“所有主流平臺都會在識別人工智能生成內(nèi)容方面付出努力，但隨著人工智能技術愈發(fā)擅長模仿現(xiàn)實，平臺的識別能力反而會逐漸下降?！?/p>
他還補充道：“如今，越來越多的人和我一樣認為，相比給虛假內(nèi)容做標記，為真實內(nèi)容設置數(shù)字水印將是更可行的方案?！?/p>