AI聊天機器人“格羅克”被濫用生成非法圖像，引發(fā)多國采取法律行動——

　　生成式人工智能監(jiān)管迫在眉睫

　　近期，一場由人工智能應用引發(fā)的跨國監(jiān)管風波驟然升級。美國企業(yè)家埃隆·馬斯克旗下社交媒體平臺X內(nèi)置的人工智能聊天機器人“格羅克”(Grok)，因被濫用于生成色情內(nèi)容、偽造真實人物的性暴露內(nèi)容，引發(fā)多國政府采取法律行動。

　　馬來西亞通信和多媒體委員會1月13日表示，“格羅克”所生成的內(nèi)容違反馬來西亞網(wǎng)絡安全相關法律規(guī)定，將對X平臺采取法律行動。

　　英國通信管理局此前一天也發(fā)表聲明說，已根據(jù)英國《在線安全法》對社交媒體平臺X展開正式調(diào)查。英國科學、創(chuàng)新和技術大臣莉茲·肯德爾日前宣布，英國《數(shù)據(jù)法案》相關條款將于本周生效，未經(jīng)同意制作或?qū)で笾谱魉矫軋D像，并在X等社交媒體平臺上發(fā)布此類內(nèi)容均構(gòu)成刑事犯罪。

　　而在更早以前，歐盟委員會已表示將嚴肅調(diào)查針對“格羅克”的相關投訴，并責令X平臺保留所有“格羅克”相關內(nèi)部數(shù)據(jù)直至2026年底，為潛在法律行動留存證據(jù)。印度尼西亞已宣布暫時封禁“格羅克”，法國也對“格羅克”涉嫌生成非法色情內(nèi)容啟動調(diào)查。

　　“格羅克”由馬斯克旗下人工智能企業(yè)xAI公司開發(fā)，并內(nèi)置于社交媒體平臺X。2025年8月，xAI公司為“格羅克”推出圖像生成功能Grok Imagine，允許用戶通過文本提示創(chuàng)建圖片和視頻，這一功能的開放也為生成式人工智能技術濫用埋下隱患。與此同時，馬斯克團隊將“格羅克”標榜為“更前衛(wèi)”的產(chǎn)品，相應弱化其安全防護機制，進一步加劇了風險敞口。

　　2025年底，X平臺擴展了“格羅克”的圖像編輯能力，用戶可以上傳照片或在帖子中引用已有圖片，并利用“格羅克”對其修改。隨后，大量用戶未經(jīng)當事人同意，利用該功能生成涉及女性和未成年人的偽造性暴露內(nèi)容，并通過X平臺傳播。這一趨勢的迅速蔓延，讓生成式人工智能技術造假問題全面發(fā)酵。據(jù)統(tǒng)計，僅2026年1月第一周，“格羅克”便在未經(jīng)授權(quán)的情況下生成了約16萬張性暴露圖片，受害者涵蓋數(shù)百名成年女性和未成年人。

　　“格羅克”的大規(guī)模應用失控，迅速引發(fā)公眾輿論和多國政府強烈譴責。馬來西亞通信和多媒體委員會兩次向X平臺及xAI公司發(fā)出整改通知，要求建立有效技術防護和內(nèi)容審核機制。印度尼西亞方面亦要求X平臺就“格羅克”所引發(fā)的負面影響作出說明。然而馬斯克及其團隊僅表示將刪除非法內(nèi)容，永久封禁相關賬戶，并在必要時與地方政府和執(zhí)法部門合作，而未對如何化解“格羅克”設計和運行層面的固有風險作出充分回應。

　　截至上周末，“格羅克”在X平臺上的圖像生成和編輯功能已被更改為僅向平臺付費用戶開放。英國政府對此批評稱，此舉無異于將創(chuàng)建非法圖像的功能轉(zhuǎn)變?yōu)橐豁椄呒壏?，對受害者造成二次傷害?/p>

　　在這一事件中，人工智能技術被用于生成深度偽造內(nèi)容，并帶來了巨大的社會撕裂與法律挑戰(zhàn)。有分析人士認為，該事件再次表明，全球范圍內(nèi)對人工智能技術實施有效監(jiān)管已十分緊迫。

　　中國現(xiàn)代國際關系研究院科技與網(wǎng)絡安全研究所所長李艷在接受記者采訪時表示，“格羅克”風波正促使各國更清晰地意識到生成式人工智能的風險，及其可能帶來的危害性后果。她認為，隨著人工智能技術進步，加速形成人工智能監(jiān)管共識、不斷調(diào)整和完善法律體系與監(jiān)管機制，將成為國際社會的共同趨勢。

　　世界經(jīng)濟論壇日前發(fā)布的《2026年全球網(wǎng)絡安全展望》報告顯示，生成式人工智能技術導致的數(shù)據(jù)泄露與不斷演化的網(wǎng)絡攻擊能力，已成為業(yè)界在2026年最關切的兩大威脅。報告警示，這一巨大風險正將人工智能技術提供方的責任推向焦點。

　　“當前生成式人工智能模型本身的幻覺問題還難以徹底解決，外加一些惡意使用，此類問題無法絕對避免。”李艷強調(diào)，人工智能模型和應用提供方有責任和義務設置“安全圍欄”，比如在內(nèi)容生成環(huán)節(jié)部署提示詞過濾與攔截等技術手段，將侵害風險控制到最低，并繃緊合規(guī)之弦，確保服務適配當?shù)胤煞ㄒ?guī)、政策要求與文化習俗；而產(chǎn)品應用方在向公眾提供服務時，也要做好實時安全監(jiān)測，建立有效的事后應急機制，合力將技術應用中的不可控因素降至最低限度。(工人日報 記者 莫蕎菲)