【環球時報特約記者 劉皓然】因平臺監管嚴重缺失，馬斯克xAI公司旗下的智能聊天機器人“格羅克”（Grok）近期被廣泛濫用於網絡色情圖片生成，甚至涉及兒童色情領域，遭到多個國家的強烈批評與抵制，部分國家已經啓動調查。
1月初，31歲的音樂人朱莉·由裏香在社交媒體上發佈一張身着紅色連衣裙的照片。之後她接到平臺的通知，稱有用戶正在通過Grok對該照片進行“數字變裝處理”。起初她並不在意，自認爲平臺不可能通過這樣的請求。而令人沒想到的是，她身着比基尼、幾近全裸的敏感照片很快在社交平臺X上廣泛傳播，對此她驚呼“我還是太天真了”。
由裏香的經歷只是成千上萬被AI侵權的案例之一。據英國《衛報》10日報道，Grok的用戶羣體平均每小時要生成6700多張“脫衣”圖像。AI及社交媒體問題專家恩瓦楚庫表示，利用Grok進行“變裝”的操作早在去年就已見端倪。到了去年年底，利用該AI進行“變裝”的申請大幅提升。xAI甚至在Grok視頻生成功能中加入了“火辣模式”，有媒體諷刺這本質上就是爲了“搞擦邊”而特別定製的功能。
路透社稱，Grok受衆面寬泛，且相關功能嚴重缺乏監管。英國三一學院的一項社交媒體研究顯示，在社交平臺X上由Grok生成的圖像有3/4的部分均出自“真實素材”，即真實存在的女性或未成年人，且Grok對他們所進行的“變裝”操作未經當事人同意。
截至本月10日，Grok的問題已經受到了英國、印度、澳大利亞和整個歐盟方面的高度關注，多國政府進行譴責並展開調查。同日，印度尼西亞宣佈禁用Grok，認爲它已“嚴重侵犯人權尊嚴以及公民網絡安全”。英國首相斯塔默痛斥Grok相關內容“令人不齒”“令人作嘔”，科學、創新與技術大臣肯德爾表示未來數日英政府將基於通信管理局的評估決定是否將其封殺。澳大利亞總理阿爾巴尼斯表示贊同斯塔默的意見，認爲涉事平臺缺乏社會責任感。歐盟委員會發言人雷尼耶指出，這類內容無關“火辣”，就是赤裸裸的“違法”，它們在歐盟不應具備生存空間。
面對世界多國的憤怒，Grok日前僅做出小幅調整：將圖像生成與編輯功能設置爲“僅限付費用戶使用”，並鼓勵平臺用戶積極訂閱、解鎖相關功能。
