因埃隆?馬斯克旗下人工智能聊天機器人 Grok 在社交平臺 X 上生成包含未成年人在內(nèi)的色情化圖像，歐盟目前正對該工具展開 “嚴肅審查”。

　　歐盟委員會發(fā)言人托馬斯?勒尼耶在周一的新聞發(fā)布會上表示：“我們已注意到，X 平臺或其旗下 Grok 聊天機器人推出了‘火辣模式’，該模式所生成的內(nèi)容包含露骨色情信息，部分產(chǎn)出還帶有兒童形象特征。” 他所指的 “火辣模式” 是 Grok 于去年推出的功能，可生成帶有性暗示的內(nèi)容。勒尼耶強調：“這絕非什么‘火辣內(nèi)容’，而是徹頭徹尾的違法行為?！?/p>

　　X 平臺用戶近期頻繁使用 Grok 的功能，對上傳的照片進行 “數(shù)字脫衣” 處理 —— 這類照片的主體大多為女性，處理后人物僅身著內(nèi)衣或比基尼。此類圖像在這一熱門社交平臺上的泛濫，引發(fā)全球監(jiān)管機構與網(wǎng)絡安全倡導者的警惕，印度、英國、法國等多國官員均對相關帖文予以譴責。

　　負責運營 X 平臺與 Grok 的 XAI 公司，尚未就此事回應置評請求。馬斯克于周日在 X 平臺發(fā)文稱，平臺會對非法內(nèi)容采取清理措施，永久封禁相關賬號，并在必要時配合官方開展調查。他在帖文中表示：“任何利用 Grok 生成非法內(nèi)容的用戶，都將面臨與直接上傳非法內(nèi)容同等的后果?！?/p>

　　盡管多數(shù)主流人工智能模型均明令禁止生成色情圖像與視頻，但 XAI 公司卻將 Grok 定位為 “更寬松開放” 的工具。該系統(tǒng)允許生成成年人局部裸露及帶有性暗示的圖像，但明令禁止制作以真實人物為原型的露骨色情內(nèi)容，以及涉及未成年人的性相關內(nèi)容。在美國、英國等部分國家，未經(jīng)本人同意便發(fā)布人工智能生成的私密 “深度偽造” 圖像，本身即屬違法行為。能否明確界定并嚴格執(zhí)行上述禁令，成為檢驗圖像生成類人工智能工具安全防護機制是否完善的關鍵標準。

　　XAI 公司顯然未能為 Grok 搭建起有效的防護屏障，這一點已招致全球監(jiān)管機構的一致譴責。

　　荷蘭議員杰倫?萊納斯在周二的一份聲明中指出：“如果人工智能平臺執(zhí)意允許生成色情內(nèi)容，就必須提前建立起健全、有效且可獨立核驗的防護措施?！?萊納斯正是去年推動歐洲議會通過法案、將人工智能生成虐童圖像列為刑事犯罪的核心人物。

　　萊納斯進一步補充道，像 Grok 這樣在事發(fā)后才刪除相關帖文的做法 “根本算不上解決方案”，因為 “受害者所遭受的傷害已然造成，且無法挽回”。

　　他強調：“若人工智能平臺選擇開放色情內(nèi)容生成功能，就必須提前建立健全、有效且可獨立核驗的防護機制。在兒童色情內(nèi)容生成后再進行清理，絕非解決之道 —— 傷害既已造成，便無法逆轉。人工智能平臺理應為保護兒童網(wǎng)絡安全承擔更大責任，但顯而易見的是，商業(yè)利益的權重似乎正持續(xù)壓倒兒童網(wǎng)絡保護工作?！?/p>

　　英國媒體監(jiān)管機構英國通訊管理局于周一表示，已獲悉外界針對 Grok 功能的 “嚴重關切”，并已 “緊急聯(lián)絡 X 平臺與 XAI 公司，要求其說明為履行保護英國用戶的法律義務所采取的具體措施”。

　　法國政府于上周五指控稱，Grok 在 X 平臺上未經(jīng)當事人同意生成 “明顯違法” 的色情內(nèi)容，認為此事或已違反歐盟《數(shù)字服務法案》。該法案要求大型平臺必須采取措施，降低非法內(nèi)容傳播的風險。

　　印度電子和信息技術部已責令相關方對 Grok 的安全功能展開全面審查；馬來西亞官方則表示，在收到關于 Grok 生成 “不雅內(nèi)容” 的投訴后，正對此事展開調查。

　　馬斯克旗下的 X 平臺此前便已因涉嫌違反歐盟《數(shù)字服務法案》遭調查，并于去年 12 月因合規(guī)不力被處以 1.2 億歐元（約合 1.4 億美元）的罰款 —— 這也是這項頗具爭議的內(nèi)容治理法案開出的首張罰單。歐盟對 X 等美國科技企業(yè)的重點監(jiān)管舉措，遭到美國特朗普政府的強烈批評，美方稱歐洲監(jiān)管機構的做法實質是在 “審查言論自由”。