因埃隆?馬斯克旗下人工智能聊天機(jī)器人 Grok 在社交平臺(tái) X 上生成包含未成年人在內(nèi)的色情化圖像，歐盟目前正對(duì)該工具展開(kāi) “嚴(yán)肅審查”。
歐盟委員會(huì)發(fā)言人托馬斯?勒尼耶在周一的新聞發(fā)布會(huì)上表示：“我們已注意到，X 平臺(tái)或其旗下 Grok 聊天機(jī)器人推出了‘火辣模式’，該模式所生成的內(nèi)容包含露骨色情信息，部分產(chǎn)出還帶有兒童形象特征。” 他所指的 “火辣模式” 是 Grok 于去年推出的功能，可生成帶有性暗示的內(nèi)容。勒尼耶強(qiáng)調(diào)：“這絕非什么‘火辣內(nèi)容’，而是徹頭徹尾的違法行為?！?/p>
X 平臺(tái)用戶(hù)近期頻繁使用 Grok 的功能，對(duì)上傳的照片進(jìn)行 “數(shù)字脫衣” 處理 —— 這類(lèi)照片的主體大多為女性，處理后人物僅身著內(nèi)衣或比基尼。此類(lèi)圖像在這一熱門(mén)社交平臺(tái)上的泛濫，引發(fā)全球監(jiān)管機(jī)構(gòu)與網(wǎng)絡(luò)安全倡導(dǎo)者的警惕，印度、英國(guó)、法國(guó)等多國(guó)官員均對(duì)相關(guān)帖文予以譴責(zé)。
負(fù)責(zé)運(yùn)營(yíng) X 平臺(tái)與 Grok 的 XAI 公司，尚未就此事回應(yīng)置評(píng)請(qǐng)求。馬斯克于周日在 X 平臺(tái)發(fā)文稱(chēng)，平臺(tái)會(huì)對(duì)非法內(nèi)容采取清理措施，永久封禁相關(guān)賬號(hào)，并在必要時(shí)配合官方開(kāi)展調(diào)查。他在帖文中表示：“任何利用 Grok 生成非法內(nèi)容的用戶(hù)，都將面臨與直接上傳非法內(nèi)容同等的后果?！?/p>
盡管多數(shù)主流人工智能模型均明令禁止生成色情圖像與視頻，但 XAI 公司卻將 Grok 定位為 “更寬松開(kāi)放” 的工具。該系統(tǒng)允許生成成年人局部裸露及帶有性暗示的圖像，但明令禁止制作以真實(shí)人物為原型的露骨色情內(nèi)容，以及涉及未成年人的性相關(guān)內(nèi)容。在美國(guó)、英國(guó)等部分國(guó)家，未經(jīng)本人同意便發(fā)布人工智能生成的私密 “深度偽造” 圖像，本身即屬違法行為。能否明確界定并嚴(yán)格執(zhí)行上述禁令，成為檢驗(yàn)圖像生成類(lèi)人工智能工具安全防護(hù)機(jī)制是否完善的關(guān)鍵標(biāo)準(zhǔn)。
XAI 公司顯然未能為 Grok 搭建起有效的防護(hù)屏障，這一點(diǎn)已招致全球監(jiān)管機(jī)構(gòu)的一致譴責(zé)。
荷蘭議員杰倫?萊納斯在周二的一份聲明中指出：“如果人工智能平臺(tái)執(zhí)意允許生成色情內(nèi)容，就必須提前建立起健全、有效且可獨(dú)立核驗(yàn)的防護(hù)措施?！?萊納斯正是去年推動(dòng)歐洲議會(huì)通過(guò)法案、將人工智能生成虐童圖像列為刑事犯罪的核心人物。
萊納斯進(jìn)一步補(bǔ)充道，像 Grok 這樣在事發(fā)后才刪除相關(guān)帖文的做法 “根本算不上解決方案”，因?yàn)?“受害者所遭受的傷害已然造成，且無(wú)法挽回”。
他強(qiáng)調(diào)：“若人工智能平臺(tái)選擇開(kāi)放色情內(nèi)容生成功能，就必須提前建立健全、有效且可獨(dú)立核驗(yàn)的防護(hù)機(jī)制。在兒童色情內(nèi)容生成后再進(jìn)行清理，絕非解決之道 —— 傷害既已造成，便無(wú)法逆轉(zhuǎn)。人工智能平臺(tái)理應(yīng)為保護(hù)兒童網(wǎng)絡(luò)安全承擔(dān)更大責(zé)任，但顯而易見(jiàn)的是，商業(yè)利益的權(quán)重似乎正持續(xù)壓倒兒童網(wǎng)絡(luò)保護(hù)工作。”
英國(guó)媒體監(jiān)管機(jī)構(gòu)英國(guó)通訊管理局于周一表示，已獲悉外界針對(duì) Grok 功能的 “嚴(yán)重關(guān)切”，并已 “緊急聯(lián)絡(luò) X 平臺(tái)與 XAI 公司，要求其說(shuō)明為履行保護(hù)英國(guó)用戶(hù)的法律義務(wù)所采取的具體措施”。
法國(guó)政府于上周五指控稱(chēng)，Grok 在 X 平臺(tái)上未經(jīng)當(dāng)事人同意生成 “明顯違法” 的色情內(nèi)容，認(rèn)為此事或已違反歐盟《數(shù)字服務(wù)法案》。該法案要求大型平臺(tái)必須采取措施，降低非法內(nèi)容傳播的風(fēng)險(xiǎn)。
印度電子和信息技術(shù)部已責(zé)令相關(guān)方對(duì) Grok 的安全功能展開(kāi)全面審查；馬來(lái)西亞官方則表示，在收到關(guān)于 Grok 生成 “不雅內(nèi)容” 的投訴后，正對(duì)此事展開(kāi)調(diào)查。
馬斯克旗下的 X 平臺(tái)此前便已因涉嫌違反歐盟《數(shù)字服務(wù)法案》遭調(diào)查，并于去年 12 月因合規(guī)不力被處以 1.2 億歐元（約合 1.4 億美元）的罰款 —— 這也是這項(xiàng)頗具爭(zhēng)議的內(nèi)容治理法案開(kāi)出的首張罰單。歐盟對(duì) X 等美國(guó)科技企業(yè)的重點(diǎn)監(jiān)管舉措，遭到美國(guó)特朗普政府的強(qiáng)烈批評(píng)，美方稱(chēng)歐洲監(jiān)管機(jī)構(gòu)的做法實(shí)質(zhì)是在 “審查言論自由”。