中新網(wǎng)3月12日電(記者 吳家駒)近期，Seedance 2.0等AI視頻生成模型，憑借其強大的視頻生成能力引起廣泛關(guān)注，而互聯(lián)網(wǎng)上隨之出現(xiàn)的一些偽造視頻，也讓公眾心生擔(dān)憂。

　　當(dāng)AI視頻越來越“以假亂真”，如何構(gòu)筑“防火墻”？

　　近日，中國信息通信研究院人工智能研究所工程師郭蘇敏在接受中新網(wǎng)專訪表示，產(chǎn)業(yè)需要走體系化治理路線，加強生成內(nèi)容的源頭治理，推動分類分級的風(fēng)險管控，打造“技管結(jié)合”的治理架構(gòu)，并推動AI生成模型安全測試。

　　“生成式人工智能的多模態(tài)能力持續(xù)優(yōu)化，大幅降低了創(chuàng)作門檻。”郭蘇敏表示。

　　郭蘇敏認(rèn)為，從產(chǎn)業(yè)和技術(shù)視角來看，Seedance 2.0是AI視頻生成領(lǐng)域的重大突破，也是AI視頻生成的里程碑時刻，其采用雙分支擴散變換器架構(gòu)，實現(xiàn)了多工種的整合，大幅降低視頻生產(chǎn)周期，實現(xiàn)視頻創(chuàng)作范式變革。

　　影視行業(yè)將是深受影響的行業(yè)之一。郭蘇敏表示，短期來看，Seedance 2.0將驅(qū)動影視行業(yè)深度變革，加速釋放技術(shù)的價值紅利。長遠來看，生成式人工智能技術(shù)或推動AI生成視頻向長視頻敘事演進，與智能體、數(shù)字人等技術(shù)實現(xiàn)深度整合，推動影視業(yè)形成創(chuàng)意引領(lǐng)、技術(shù)賦能的新生態(tài)。

　　同時，郭蘇敏強調(diào)，隨著AI生成的視頻越來越逼真，人工智能數(shù)據(jù)安全、算法偏見、模型幻覺、情感依賴、數(shù)據(jù)污染等問題也在不斷放大。例如，AI生成的視頻可能被利用于生成虛假信息實施金融詐騙，造成人格侵權(quán)、虛假信息泛濫、詐騙與財產(chǎn)損失、版權(quán)侵犯等多重風(fēng)險，對個人、社會造成負(fù)面影響。

　　面對AI生成真人視頻的亂象，部分AI生成視頻模型曾嘗試推出限制措施。今年2月9日，Seedance 2.0宣布暫停真人素材參考功能。然而，一些AI生成的真人視頻仍在網(wǎng)上廣泛傳播，多位明星曾控訴AI視頻給自己帶來的負(fù)面影響。

　　面對新技術(shù)帶來的治理挑戰(zhàn)，郭蘇敏認(rèn)為，產(chǎn)業(yè)需要走體系化治理路線，配套檢測與溯源機制，將安全合規(guī)理念貫穿研發(fā)、部署、應(yīng)用的全流程，實現(xiàn)穿透式治理。

　　一是加強生成內(nèi)容的源頭治理，訓(xùn)練數(shù)據(jù)是視頻生成的原料，更逼真的視頻生成往往需要更高質(zhì)量的數(shù)據(jù)，也易造成版權(quán)侵權(quán)等挑戰(zhàn)，需加強對訓(xùn)練數(shù)據(jù)的合規(guī)審查與清洗。模型研發(fā)必須內(nèi)置風(fēng)險控制能力，包括內(nèi)容合規(guī)校驗、身份核驗、敏感場景攔截。同時，落實《人工智能生成合成內(nèi)容標(biāo)識辦法》《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標(biāo)識方法》要求，推動數(shù)字水印、隱水印、內(nèi)容溯源成為生成模型的標(biāo)配能力，從源頭實現(xiàn)可追溯。

　　二是推動分類分級的風(fēng)險管控。根據(jù)模型生成能力實行分層級的權(quán)限管控，例如，具有高逼真生成能力的模型不宜向無資質(zhì)主體開放接口，應(yīng)加強權(quán)限管控與審計監(jiān)督。

　　中國信通院圍繞風(fēng)險管理打造“人工智能治理公共產(chǎn)品”，發(fā)布《人工智能 安全治理 系統(tǒng)風(fēng)險管理能力要求》行業(yè)標(biāo)準(zhǔn)，根據(jù)數(shù)據(jù)、模型算法、網(wǎng)絡(luò)、應(yīng)用進行風(fēng)險分類，圍繞應(yīng)用對個人、組織、社會、國家的影響進行風(fēng)險分級并判定隱患等級，提出風(fēng)險應(yīng)對、動態(tài)跟蹤與持續(xù)改進的實施方法，將治理體系扎實嵌入運營流程，旨在為企業(yè)提供敏捷治理方案。

　　三是打造“技管結(jié)合”的治理架構(gòu)。更逼真的視頻生成能力要求更加嚴(yán)格的內(nèi)容審核機制，也要求對用戶行為進行更規(guī)范的引導(dǎo)。

　　中國信通院《人工智能安全治理研究報告(2025年)》在吸收產(chǎn)業(yè)實踐的基礎(chǔ)上，提出“兩橫三縱”的人工智能安全治理產(chǎn)業(yè)實踐框架，深度融合“管理層”的制度牽引作用與“技術(shù)層”的能力支撐作用，構(gòu)建“開發(fā)側(cè)”“部署側(cè)”與“應(yīng)用側(cè)”安全關(guān)，實現(xiàn)從模型研發(fā)、系統(tǒng)部署到場景應(yīng)用的全鏈條防護。

　　四是推動AI生成模型安全測試，構(gòu)建針對AI視頻生成的安全評測集，推動多模態(tài)領(lǐng)域的人工智能安全基準(zhǔn)測試(AI Safety Benchmark)，加強對生成音頻、視頻的評估測試，形成良性治理循環(huán)。(完)