核心要點(diǎn)
- 本周，與委內(nèi)瑞拉局勢(shì)及該國(guó)被罷免領(lǐng)導(dǎo)人尼古拉斯?馬杜羅相關(guān)的誤導(dǎo)性人工智能生成視頻和圖片，在各大平臺(tái)收獲數(shù)百萬次瀏覽量。
- 與此同時(shí)，主流社交媒體平臺(tái)及其人工智能檢測(cè)工具正難以跟上人工智能技術(shù)的發(fā)展速度，在突發(fā)新聞事件期間，這一問題尤為突出。
在美國(guó)軍方采取行動(dòng)推翻委內(nèi)瑞拉領(lǐng)導(dǎo)人尼古拉斯?馬杜羅之后，一批聲稱展現(xiàn)委內(nèi)瑞拉民眾街頭歡慶場(chǎng)景的人工智能生成視頻在社交媒體上迅速走紅。
這些由人工智能合成的視頻片段描繪了民眾歡呼雀躍的畫面，在抖音、照片墻和 “X” 平臺(tái)等主流社交平臺(tái)上累計(jì)獲得數(shù)百萬次觀看。
“X” 平臺(tái)上最早且傳播最廣的相關(guān)視頻片段之一，由名為 “華爾街猿” 的賬號(hào)發(fā)布，該賬號(hào)在平臺(tái)上擁有超過 100 萬粉絲。
這條帖子呈現(xiàn)了多名委內(nèi)瑞拉民眾喜極而泣的場(chǎng)景，畫面中的民眾還對(duì)美國(guó)及總統(tǒng)唐納德?特朗普推翻馬杜羅的行為表達(dá)了感謝。
該視頻隨后被 “X” 平臺(tái)的 “社區(qū)備注” 功能標(biāo)記。這一功能是平臺(tái)依托用戶眾包開展的事實(shí)核查機(jī)制，允許用戶為其認(rèn)為具有誤導(dǎo)性的帖子補(bǔ)充背景信息。備注內(nèi)容顯示：“此視頻由人工智能生成，目前被當(dāng)作真實(shí)事件傳播，意在誤導(dǎo)公眾?！?/p>
這條視頻的瀏覽量已超 560 萬次，被至少 3.8 萬個(gè)賬號(hào)轉(zhuǎn)發(fā)分享，其中包括商界大亨埃隆?馬斯克，不過馬斯克最終刪除了該轉(zhuǎn)發(fā)內(nèi)容。
美國(guó)消費(fèi)者新聞與商業(yè)頻道（CNBC）未能核實(shí)該視頻的來源，但英國(guó)廣播公司（BBC）和法新社（AFP）的事實(shí)核查人員表示，已知的該視頻最早版本出現(xiàn)在抖音賬號(hào) “@美國(guó)好奇智庫”，該賬號(hào)經(jīng)常發(fā)布人工智能生成內(nèi)容。
事實(shí)上，早在這類視頻出現(xiàn)之前，在特朗普政府發(fā)布馬杜羅被捕的真實(shí)照片前，網(wǎng)絡(luò)上就已經(jīng)流傳著由人工智能生成的馬杜羅被美方羈押的相關(guān)圖片。
這位委內(nèi)瑞拉前總統(tǒng)于 2026 年 1 月 3 日被捕，當(dāng)時(shí)美軍發(fā)動(dòng)了空襲與地面突襲行動(dòng)。這場(chǎng)軍事行動(dòng)在新年伊始占據(jù)了全球各大媒體的頭條位置。
除了這些人工智能生成視頻外，法新社的事實(shí)核查團(tuán)隊(duì)還標(biāo)記了多條與馬杜羅倒臺(tái)相關(guān)的誤導(dǎo)性內(nèi)容，其中包括將智利民眾的慶祝畫面?zhèn)卧斐晌瘍?nèi)瑞拉場(chǎng)景的視頻片段。
重大新聞事件期間滋生虛假信息并非新鮮事。此前在巴以沖突和俄烏沖突期間，也曾出現(xiàn)過類似的不實(shí)或誤導(dǎo)性內(nèi)容。
然而，此次與委內(nèi)瑞拉近期局勢(shì)相關(guān)的人工智能生成內(nèi)容，憑借其廣泛的傳播范圍和高度的逼真度，成為人工智能技術(shù)日益淪為虛假信息傳播工具的鮮明例證。
像蘇蕊和米德爾旅程這類人工智能內(nèi)容生成平臺(tái)的出現(xiàn)，使得人們能夠更便捷地快速制作超寫實(shí)視頻，并在突發(fā)新聞引發(fā)的信息混亂中冒充真實(shí)內(nèi)容傳播。這類內(nèi)容的制作者往往意在放大特定政治敘事，或是在全球受眾中制造認(rèn)知混亂。
去年，一段由人工智能生成的視頻也曾在網(wǎng)絡(luò)上瘋傳，視頻中幾名女性控訴政府停擺期間自己失去了補(bǔ)充營(yíng)養(yǎng)援助計(jì)劃（即 “糧票計(jì)劃”）的福利補(bǔ)貼。該視頻甚至騙過了福克斯新聞?lì)l道，后者曾將其當(dāng)作真實(shí)事件撰寫報(bào)道，相關(guān)文章后來才被刪除。
鑒于此類趨勢(shì)愈演愈烈，社交媒體公司正面臨越來越大的壓力，外界要求它們加大力度，為具有潛在誤導(dǎo)性的人工智能生成內(nèi)容添加明確標(biāo)簽。
去年，印度政府提出一項(xiàng)法案，要求對(duì)人工智能生成內(nèi)容強(qiáng)制標(biāo)注；西班牙則出臺(tái)法規(guī)，對(duì)未標(biāo)注的人工智能生成內(nèi)容最高可處以 3500 萬歐元的罰款。
為回應(yīng)日益增長(zhǎng)的擔(dān)憂，抖音、元宇宙平臺(tái)等主流社交媒體均已推出人工智能內(nèi)容檢測(cè)與標(biāo)注工具，但實(shí)際效果參差不齊。
美國(guó)消費(fèi)者新聞與商業(yè)頻道（CNBC）發(fā)現(xiàn)，抖音平臺(tái)上部分被當(dāng)作委內(nèi)瑞拉歡慶場(chǎng)面?zhèn)鞑サ囊曨l，已經(jīng)被標(biāo)注為人工智能生成內(nèi)容。
而 “X” 平臺(tái)在內(nèi)容標(biāo)注方面，主要依賴 “社區(qū)備注” 功能。批評(píng)人士指出，這一機(jī)制往往反應(yīng)遲緩，難以阻止人工智能虛假信息在被識(shí)別前大面積擴(kuò)散。
負(fù)責(zé)監(jiān)管照片墻和 “思瑞德” 平臺(tái)的亞當(dāng)?莫塞里，在最近的一則帖子中坦承了社交媒體行業(yè)面臨的這一挑戰(zhàn)。他表示：“所有主流平臺(tái)都會(huì)在識(shí)別人工智能生成內(nèi)容方面付出努力，但隨著人工智能技術(shù)愈發(fā)擅長(zhǎng)模仿現(xiàn)實(shí)，平臺(tái)的識(shí)別能力反而會(huì)逐漸下降。”
他還補(bǔ)充道：“如今，越來越多的人和我一樣認(rèn)為，相比給虛假內(nèi)容做標(biāo)記，為真實(shí)內(nèi)容設(shè)置數(shù)字水印將是更可行的方案?！?/p>