英國(guó)通信管理局（Ofcom）在當(dāng)?shù)貢r(shí)間周一發(fā)布的一份聲明中表示，該機(jī)構(gòu)的正式調(diào)查將確認(rèn) X 平臺(tái)（xAI 公司的子公司）是否違反《在線安全法》。該法案要求社交媒體平臺(tái)保障用戶(hù)安全。這家英國(guó)監(jiān)管機(jī)構(gòu)有權(quán)對(duì)違法平臺(tái)處以罰款或責(zé)令其停止服務(wù)。下一步，英國(guó)通信管理局將分析從 X 公司收集到的證據(jù)，并作出初步裁決。
據(jù)了解，與其他主流人工智能工具相比，Grok 的安全防護(hù)機(jī)制更為薄弱，用戶(hù)可通過(guò)該工具編輯圖片，將目標(biāo)人物修改為身著內(nèi)衣或暴露泳裝的形象。此次監(jiān)管機(jī)構(gòu)出手整治的導(dǎo)火索是，Grok 用戶(hù)在 X 平臺(tái)上生成了大量未經(jīng)當(dāng)事人同意的兒童及女性性暗示圖像，此舉遭到全球多國(guó)議員的強(qiáng)烈譴責(zé)。
在英國(guó)，持有或傳播任何兒童色情圖像均屬違法；未經(jīng)同意傳播他人私密影像 —— 包括人工智能生成的相關(guān)內(nèi)容，同樣觸犯法律。
英國(guó)商務(wù)大臣彼得?凱爾周一向《泰晤士報(bào)》電臺(tái)表示，政府“當(dāng)然”會(huì)考慮封禁 X 平臺(tái)，但相關(guān)法律要求大臣們尊重監(jiān)管機(jī)構(gòu)的獨(dú)立執(zhí)法權(quán)。
用戶(hù)可在 X 平臺(tái)直接與 Grok 互動(dòng)：在帖子中標(biāo)記 Grok 的賬號(hào)，即可觸發(fā)這款聊天機(jī)器人的回復(fù)功能。Grok 生成的文本和圖像會(huì)直接以帖子形式發(fā)布在該社交平臺(tái)上。在大量用戶(hù)要求 Grok 提供“脫衣”圖像生成服務(wù)后，xAI 公司開(kāi)始將這款圖像生成工具僅限 X 平臺(tái)付費(fèi)用戶(hù)使用，但獨(dú)立的 Grok 應(yīng)用程序仍向用戶(hù)免費(fèi)開(kāi)放該功能。
馬斯克本月還發(fā)文警告稱(chēng)，任何利用 Grok 生成非法內(nèi)容的用戶(hù)，都將“面臨與上傳非法內(nèi)容相同的后果”。xAI 公司則表示，會(huì)刪除包含兒童色情內(nèi)容在內(nèi)的違法帖子，并封禁相關(guān)賬號(hào)。
多國(guó)政府及監(jiān)管機(jī)構(gòu)已就 Grok 生成色情內(nèi)容的問(wèn)題對(duì)其提出批評(píng)，或直接封禁該服務(wù)。上周末，印度尼西亞和馬來(lái)西亞已暫時(shí)封禁 Grok。
英國(guó)首相基爾?斯塔默辦公室表示，xAI 公司將 Grok 的圖像生成功能僅限 X 平臺(tái)付費(fèi)用戶(hù)使用的舉措“遠(yuǎn)遠(yuǎn)不夠”。斯塔默的發(fā)言人杰蘭特?埃利斯上周五在新聞發(fā)布會(huì)上對(duì)記者表示：“這種限制措施不過(guò)是將一款可生成非法圖像的人工智能功能，搖身變成了付費(fèi)增值服務(wù)，絕非解決問(wèn)題的辦法。這是對(duì)遭受厭女癥侵害和性暴力受害者的公然冒犯。而此事恰恰證明，只要 X 平臺(tái)愿意，它完全有能力迅速采取行動(dòng)。”
受英國(guó)政府委托、負(fù)責(zé)識(shí)別兒童色情內(nèi)容的機(jī)構(gòu)互聯(lián)網(wǎng)觀察基金會(huì)表示，該機(jī)構(gòu)在暗網(wǎng)中發(fā)現(xiàn)了據(jù)稱(chēng)由 Grok 生成的“違法”兒童圖像。
歐盟委員會(huì)已責(zé)令 X 平臺(tái)留存所有與 Grok 相關(guān)的內(nèi)部文件，保管期限至今年年底。此前，歐盟曾公開(kāi)譴責(zé)該平臺(tái)上出現(xiàn)的部分兒童色情圖像，稱(chēng)其已構(gòu)成違法。
法國(guó)政府指控 Grok 在 X 平臺(tái)上未經(jīng)當(dāng)事人同意生成“明顯違法”的色情內(nèi)容，并指出此事可能違反《歐盟數(shù)字服務(wù)法》。該法規(guī)要求大型平臺(tái)采取措施，降低非法內(nèi)容傳播的風(fēng)險(xiǎn)。
