來自新疆的全國政協(xié)委員擬為治理“AI生成不實信息”提出建言。
2025年全國兩會即將召開，全國政協(xié)委員、新疆新的社會階層人士聯(lián)誼會副會長海尼扎提·托呼提擬向大會提交“關(guān)于加強AI生成不實信息治理”等提案，建議社交媒體平臺等互聯(lián)網(wǎng)平臺加強內(nèi)容審核機制，建立專門的AI生成內(nèi)容審核團隊，對平臺內(nèi)容執(zhí)行嚴格監(jiān)管。
隨著人工智能技術(shù)的迅猛發(fā)展，AI生成不實信息的問題愈發(fā)嚴重，成為信息傳播領(lǐng)域面臨的一大新挑戰(zhàn)?！斑@些不實信息通常具有迷惑性強、刺激度高、傳播力廣等特點，不僅侵蝕了信息的真實性，還擾亂了社會秩序與公眾認知?！鼻笆鎏岚概e例說，在甘肅首例AI虛假信息案中，洪某弟利用ChatGPT軟件編造虛假新聞牟利；四川網(wǎng)警公布的多起如“山體滑坡導致8人遇難”、“喜德縣發(fā)生地震”等AI造謠典型案例，均造成了不良社會影響。此外，近期西藏自治區(qū)發(fā)生地震災(zāi)害后，網(wǎng)絡(luò)上出現(xiàn)了多起不當利用AI技術(shù)生成災(zāi)害場景的情況，抖音平臺嚴肅處置了23652條涉及地震的不實信息。還有青海某網(wǎng)民為博取眼球，將“小男孩被埋圖”與日喀則地震相關(guān)的信息進行關(guān)聯(lián)拼湊、移花接木，混淆視聽、誤導公眾，導致謠言信息的傳播擴散。
“這些事件引起了公眾對AI技術(shù)濫用和網(wǎng)絡(luò)虛假信息治理問題的高度關(guān)注。輿論認為，網(wǎng)絡(luò)虛假信息的泛濫嚴重侵犯了公眾的知情權(quán)和選擇權(quán)，破壞了市場競爭的公正性?！碧岚刚J為，由AI生成的虛假信息還可能侵犯知識產(chǎn)權(quán)、動搖版權(quán)規(guī)則，涉嫌侵犯個人隱私、泄露身份信息，甚至存在濫用的風險。這些情況凸顯了加強網(wǎng)絡(luò)信息監(jiān)管、提升公眾媒介素養(yǎng)的緊迫性和重要性。
前述提案為此建議：第一，加強法律法規(guī)建設(shè)，完善法律體系，強化現(xiàn)有法律執(zhí)行，明確責任歸屬。第二，強化技術(shù)監(jiān)管措施，建立檢測和識別技術(shù)體系，嚴格要求內(nèi)容標識。第三，提升平臺責任意識，采用技術(shù)手段加強平臺內(nèi)容的審核機制。
具體而言，提案建議進一步細化《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護法》等現(xiàn)有法律法規(guī)在AI領(lǐng)域的具體適用條款，確保這些法律能夠有效覆蓋AI生成不實信息的各個環(huán)節(jié)，明確AI生成內(nèi)容的標識、審核、責任劃分等具體要求，為AI內(nèi)容生成企業(yè)提供清晰的操作指引。并且應(yīng)考慮到不同類型AI應(yīng)用所面臨的不同行業(yè)特點，以便制定差異化政策。同時，加大對AI生成不實信息行為的懲處力度，提高違法成本。對于故意利用AI技術(shù)生成和傳播不實信息的行為，應(yīng)依法予以嚴厲處罰，包括但不限于罰款、吊銷營業(yè)執(zhí)照等，從而促使企業(yè)自覺遵守相關(guān)規(guī)定。
在技術(shù)監(jiān)管上，提案建議通過運用尖端技術(shù)手段，對AI生成的內(nèi)容進行實時監(jiān)測和篩查，可以開發(fā)和應(yīng)用AI生成內(nèi)容檢測算法，從而提升對虛假信息的辨識能力，及時發(fā)現(xiàn)并處理不實信息。同時，嚴格要求網(wǎng)絡(luò)信息服務(wù)提供者遵循相關(guān)強制性國家標準進行內(nèi)容標識，確保用戶能夠明確識別內(nèi)容是否由AI生成。
此外，還應(yīng)該督促社交媒體平臺、新聞網(wǎng)站等互聯(lián)網(wǎng)平臺加強內(nèi)容審核機制，建立專門的AI生成內(nèi)容審核團隊，對平臺內(nèi)容執(zhí)行嚴格監(jiān)管，及時刪除和處理不實信息。
“這不僅涉及對現(xiàn)有內(nèi)容的審查，還包括對新上傳內(nèi)容的實時監(jiān)控，確保平臺內(nèi)容的質(zhì)量和真實性?！鼻笆鎏岚副硎?，鼓勵平臺采用內(nèi)容過濾、關(guān)鍵詞屏蔽等技術(shù)手段，自動識別并攔截AI生成的不實信息，加強對用戶發(fā)布內(nèi)容的審核力度，有效降低不實信息的傳播范圍，并對未能履行監(jiān)管職責的平臺，依法進行處罰，以此作為警示，促使平臺自覺履行監(jiān)管責任，維護網(wǎng)絡(luò)環(huán)境的健康和秩序。