埃隆?馬斯克旗下的 xAI 公司目前正面臨美國方面的調(diào)查，調(diào)查工作由加州州檢察長羅布?邦塔牽頭。此前，該公司開發(fā)的人工智能聊天機器人兼圖像生成工具 Grok，被曝可讓用戶大批量生成并發(fā)布基于真人照片的未經(jīng)本人同意的露骨圖像。

　　據(jù)互聯(lián)網(wǎng)觀察基金會的調(diào)查顯示，在部分案例中，Grok 甚至能讓用戶生成虛擬脫衣效果的未成年人圖像。

　　邦塔在周三發(fā)布的一份聲明中指出：“xAI 公司似乎在為大規(guī)模生成未經(jīng)同意的私密深度偽造圖像提供便利，這些圖像正被用于在互聯(lián)網(wǎng)上騷擾女性和女孩，社交平臺 X 也成為了傳播渠道之一。”

　　這位檢察長表示，其辦公室正就 “利用 Grok 制作的未經(jīng)同意的性露骨內(nèi)容的泛濫問題” 對 xAI 展開調(diào)查。

　　在美國啟動此次調(diào)查之前，印度、馬來西亞、印度尼西亞、愛爾蘭、英國、法國、澳大利亞等多個國家的政府機構(gòu)已迅速采取行動，歐盟委員會也已對此事立案調(diào)查。

　　此前報道稱，馬來西亞和印度尼西亞已宣布暫停使用 xAI 旗下的 Grok 工具，直至相關(guān)問題得到解決。

　　在美國國內(nèi)，三名民主黨籍參議員已聯(lián)名呼吁蘋果和谷歌兩家公司，要求其在應(yīng)用商店下架社交平臺 X 及 Grok 的應(yīng)用程序，直至 xAI 能夠采取有效措施，防止用戶輕易生成未經(jīng)同意的露骨圖像以及涉及兒童性虐待的深度偽造圖像。

　　“紫外線” 組織、美國全國婦女組織、“家長聯(lián)合行動” 等多家維護婦女及兒童權(quán)益的倡導(dǎo)組織，也已呼吁應(yīng)用商店下架 xAI 的相關(guān)應(yīng)用。

　　蘋果和谷歌兩家公司均未對置評請求作出回應(yīng)。

　　周二，美國參議院投票通過了《反深度偽造濫用法案》。根據(jù)該法案，被偽造為露骨深度偽造圖像且未經(jīng)本人同意的受害者，有權(quán)在民事法庭起訴制作或傳播此類內(nèi)容的公司。

　　該法案曾于 2024 年在參議院獲得通過，但尚未提交至眾議院審議表決。

　　周三，馬斯克在社交平臺 X 上發(fā)文稱，盡管已有多個政府機構(gòu)就未成年人裸體深度偽造圖像問題對 xAI 進行質(zhì)詢，但他 “并不知曉任何由 Grok 生成的相關(guān)圖像”。

　　馬斯克轉(zhuǎn)而將通過 Grok 和社交平臺 X 產(chǎn)生、傳播的潛在非法內(nèi)容歸咎于 “用戶的相關(guān)請求”，并表示可能是 Grok 系統(tǒng)存在 “程序漏洞”。

　　此前，針對外界對 Grok 生成內(nèi)容的擔憂情緒不斷升級，xAI 曾宣布將部分圖像生成和編輯功能僅限付費訂閱用戶使用。

　　馬斯克此前也曾在社交平臺 X 上表示，利用 Grok 制作非法內(nèi)容的用戶，將面臨與直接在社交平臺 X 上傳此類內(nèi)容同等的后果。

　　xAI 近期完成了一輪規(guī)模達 200 億美元的成長型融資，投資方包括英偉達、思科投資，以及長期支持馬斯克旗下企業(yè)的英勇股權(quán)合伙公司、基石集團、富達投資、卡塔爾投資局、阿布扎比 MGX 集團和巴倫資本集團。

　　目前，xAI 的多個數(shù)據(jù)中心正在田納西州孟菲斯市及其周邊地區(qū)建設(shè)；這家由馬斯克創(chuàng)立的人工智能及社交媒體企業(yè)，在內(nèi)華達州注冊成立，總部位于加利福尼亞州帕洛阿爾托市，與馬斯克旗下電動汽車制造商特斯拉的工程辦公地點相鄰。

　　此外，特斯拉也已將 Grok 整合為旗下車輛信息娛樂系統(tǒng)的一項功能。