埃隆?馬斯克旗下的人工智能工具Grok已被印度尼西亞和馬來西亞封禁，這兩個(gè)國家也是全球首批封禁該工具的國家。此前，Grok的“數(shù)字脫衣”功能在互聯(lián)網(wǎng)上傳播了大量經(jīng)篡改的、帶有性暗示及低俗色情性質(zhì)的女性和未成年人圖像。
隨著用戶使用這款人工智能工具生成露骨色情深度偽造內(nèi)容的行為形成病毒式傳播趨勢(shì)，國際社會(huì)要求馬斯克管控Grok的壓力正不斷加大。
Grok是馬斯克旗下社交媒體平臺(tái)X（前身為推特）推出的一款工具。
印度尼西亞數(shù)字事務(wù)部長穆蒂婭?哈菲德于周六發(fā)表聲明稱，此次封禁旨在“保護(hù)女性、兒童及廣大公眾免受人工智能技術(shù)生成的虛假色情內(nèi)容所帶來的危害”。
馬來西亞則于周日宣布了針對(duì)Grok的臨時(shí)封禁令，理由是“Grok被反復(fù)濫用于生成低俗色情、露骨猥瑣、格調(diào)低下、令人強(qiáng)烈反感且未經(jīng)當(dāng)事人同意的篡改圖像，其中不乏涉及女性和未成年人的內(nèi)容”。
印度尼西亞和馬來西亞均為穆斯林人口占多數(shù)的國家，兩國都出臺(tái)了嚴(yán)格的反色情法律。
英國、歐盟以及印度的相關(guān)官員也已對(duì)Grok的內(nèi)容管控機(jī)制表達(dá)了擔(dān)憂。
馬斯克及其旗下的xAI此前曾表示，他們正通過永久封禁違規(guī)賬號(hào)，以及“與地方政府和執(zhí)法部門展開合作”的方式來解決這一問題。但Grok針對(duì)用戶請(qǐng)求生成的內(nèi)容中，仍充斥著大量對(duì)女性進(jìn)行性化刻畫的圖像。
與其他主流人工智能模型相比，Grok被許多用戶視為一個(gè)異類——它不僅允許生成露骨色情內(nèi)容，在某些情況下還會(huì)主動(dòng)推廣這類內(nèi)容及虛擬陪伴形象。
這場“數(shù)字脫衣”風(fēng)潮始于去年年末，當(dāng)時(shí)大量用戶發(fā)現(xiàn)，他們可以在平臺(tái)X上標(biāo)記Grok，利用該工具對(duì)圖像進(jìn)行篡改處理。
用戶通過向這款聊天機(jī)器人下達(dá)指令，生成人物身著比基尼、擺出性暗示姿勢(shì)的圖像，這給全球數(shù)十萬女性帶來了心理困擾。
歐洲非營利算法調(diào)查機(jī)構(gòu)“人工智能鑒真組織”的研究人員，對(duì)去年12月25日至今年1月1日期間Grok生成的2萬余張隨機(jī)圖像，以及5萬條用戶指令展開了分析。
研究人員發(fā)現(xiàn)，這些用戶指令中“頻繁出現(xiàn)‘她的’‘穿上/脫掉’‘比基尼’以及‘衣物’等詞匯”。
在生成的人物類圖像中，超半數(shù)圖像的人物“身著內(nèi)衣、比基尼等暴露服飾”。
馬斯克反對(duì)內(nèi)容審查
長期以來，馬斯克在公開場合一直主張抵制“過度迎合政治正確”的人工智能模型，以及他口中所謂的“內(nèi)容審查”行為。
但據(jù)一位了解xAI內(nèi)部情況的消息人士向美國有線電視新聞網(wǎng)（CNN）透露，這位億萬富翁在公司內(nèi)部也對(duì)Grok的內(nèi)容管控規(guī)則持反對(duì)態(tài)度。
xAI的安全團(tuán)隊(duì)規(guī)模本就小于行業(yè)競爭對(duì)手，而在此次爭議爆發(fā)前的數(shù)周內(nèi)，該團(tuán)隊(duì)又有多名員工離職。
馬斯克曾表示，任何利用Grok生成非法內(nèi)容的用戶都將承擔(dān)相應(yīng)后果。但對(duì)于這款工具上存在的色情內(nèi)容爭議，他在很大程度上置之不理，聲稱各國政府“只是想壓制言論自由”，并以發(fā)表表情符號(hào)的方式回應(yīng)外界的批評(píng)。
上周，Grok已將部分圖像生成功能僅限平臺(tái)X的付費(fèi)訂閱用戶使用，但這項(xiàng)限制僅針對(duì)用戶與Grok互動(dòng)的其中一種方式。
非訂閱用戶仍可在平臺(tái)X上請(qǐng)求Grok編輯圖像，而圖像及視頻生成功能，也依舊可通過Grok的獨(dú)立網(wǎng)站和應(yīng)用程序免費(fèi)使用。
英國技術(shù)大臣莉茲?肯德爾于周五發(fā)表講話，呼吁各方迅速采取行動(dòng)，打擊深度偽造圖像的傳播。
她表示：“對(duì)女性和兒童的圖像進(jìn)行性化篡改，是卑劣且令人憎惡的行為?！?/p>
她還補(bǔ)充道：“我希望英國通信管理局能行使議會(huì)賦予的全部法定權(quán)力，采取有力措施?！庇ㄐ殴芾砭质怯莫?dú)立通信監(jiān)管機(jī)構(gòu)。