馬斯克已知的第13個(gè)孩子的母親、美國(guó)網(wǎng)紅作家艾希莉·圣克萊爾周四起訴了馬斯克的人工智能公司 xAI，指控該公司疏忽大意，允許其人工智能工具 Grok 的用戶創(chuàng)建她擺出性暗示姿勢(shì)的深度偽造圖片，并在她投訴后未能充分限制此類行為，給她造成了精神痛苦。

　　此前數(shù)周，Grok因能夠生成未經(jīng)同意的深度偽造圖片而遭到越來越多的抨擊。該功能允許用戶移除上傳到該服務(wù)的照片中人物的衣服，并經(jīng)常將他們的衣服替換成比基尼或內(nèi)衣。圣克萊爾的訴訟最初在紐約州法院提起，但應(yīng)xAI的請(qǐng)求被移送至紐約南區(qū)聯(lián)邦法院。

　　該訴訟稱，圣克萊爾曾通知 xAI，有用戶制作了她的非法深度偽造照片，包括“她小時(shí)候被脫光衣服，只穿著比基尼”以及“她成年后擺出性暗示姿勢(shì)”的圖片，并要求阻止Grok制作未經(jīng)同意的圖像。

　　訴訟稱，盡管Grok確認(rèn)“未經(jīng)明確同意，她的圖像不會(huì)在未來的任何版本或回復(fù)中使用或更改”，但 xAI 仍然允許用戶創(chuàng)建更多露骨的 AI 生成的她的圖像，反而通過取消她的 X 賬號(hào)的廣告權(quán)限來進(jìn)行報(bào)復(fù)。

　　周四，xAI 在德克薩斯州聯(lián)邦法院起訴了圣克萊爾，指控其違反了 xAI 的服務(wù)條款，并索賠超過 75000 美元。xAI 在訴訟中表示，針對(duì)該公司的任何索賠都必須在德克薩斯州北區(qū)聯(lián)邦法院或德克薩斯州塔爾頓縣的州法院提起。

　　上周，X公司限制了“Grok 回復(fù)機(jī)器人”的功能，似乎使其無法生成那些未經(jīng)同意就將可識(shí)別人物置于暴露泳裝或內(nèi)衣之下的圖片。截至報(bào)道時(shí)，這些功能在獨(dú)立的Grok應(yīng)用程序、Grok 網(wǎng)站以及 X 平臺(tái)的專用“Grok”標(biāo)簽頁(yè)中仍然有效。

　　Grok數(shù)周來一直在大量生成帶有性暗示的 AI 生成圖像，據(jù)研究人員稱，上周其生成圖像的速度達(dá)到了每小時(shí)數(shù)千張。其中許多圖像已公開發(fā)布在 X 平臺(tái)上。

　　這些未經(jīng)同意而傳播的色情圖片的出現(xiàn)和擴(kuò)散引發(fā)了全球范圍內(nèi)的反應(yīng)，包括多起政府調(diào)查以及要求智能手機(jī)應(yīng)用市場(chǎng)禁止或限制 X 應(yīng)用程序的呼聲。然而，監(jiān)管機(jī)構(gòu)和其他科技公司并未對(duì)這款應(yīng)用程序采取限制措施。

　　當(dāng)?shù)貢r(shí)間周三，加州檢察長(zhǎng)對(duì)Grok展開了調(diào)查。與此同時(shí)，加州州長(zhǎng)加文·紐森在X上發(fā)帖稱：“xAI 決定創(chuàng)建并提供一個(gè)滋生侵犯者傳播未經(jīng)同意的色情深度偽造內(nèi)容（包括對(duì)兒童進(jìn)行數(shù)字裸露展示）的平臺(tái)，這種行為極其惡劣?！?/p>

　　圣克萊爾的訴訟稱，Grok的這一功能（允許用戶制作未經(jīng)同意的深度偽造圖片）存在設(shè)計(jì)缺陷，該公司本應(yīng)預(yù)見到該功能會(huì)被用于發(fā)布帶有違法內(nèi)容的視頻來騷擾他人。

　　該訴訟稱，在這些深度偽造圖片中出現(xiàn)的人物，包括圣克萊爾在內(nèi)，都遭受了極大的痛苦。

　　訴訟中稱：“被告的行為極其惡劣、令人發(fā)指，嚴(yán)重逾越了基本的道德底線，在一個(gè)文明社會(huì)中是完全無法容忍的。”