（台泰時報 1 月 13 日電）印尼與馬來西亞政府近日宣布，已下令封鎖人工智慧聊天機器人「Grok」在境內的使用。該工具隸屬社群平台 X，由伊隆．馬斯克（Elon Musk）旗下公司開發，兩國主管機關指出，Grok 被大量濫用於製作女性與未成年人的不當合成影像，為防止傷害擴大，決定採取管制措施，成為全球率先封鎖此類 AI 服務的國家。

印尼數位事務部長梅烏提亞．哈菲德（Meutya Hafid）表示，相關決策是基於保護婦女、兒童與社會大眾免於 AI 生成色情影像風險。她指出，近期網路上出現所謂「數位去除衣物」功能的濫用案例，使用者將真實人物照片交由系統加工，生成具性暗示甚至裸露的影像，對當事人造成嚴重心理傷害。

馬來西亞政府則於 2026 年 1 月 11 日宣布暫時封鎖 Grok，理由是當局發現該工具反覆被用於未經同意的影像變造，內容涉及女性與未成年人。官方強調，馬來西亞對猥褻內容管制嚴格，任何違反公共道德與法律的數位服務，均可能面臨限制。

國際媒體指出，相關爭議並非僅限於東南亞。英國、歐盟與印度的監管機構，亦已對 Grok 的內容審核與防濫用機制表達關切。歐洲非營利組織 AI Forensics 分析超過 2 萬張隨機生成影像與 5 萬筆使用請求後發現，與衣物更換或裸露相關的指令出現頻率偏高，超過半數影像呈現高度性化特徵。

對此，XAI 表示，已永久停用違規帳號，並與各國執法單位合作。然而，外界質疑相關防護仍不足，Grok 生成的內容仍頻繁將女性物化。英國科技大臣莉茲．肯德爾（Liz Kendall）近日呼籲，應加速因應深偽影像問題，並要求監管機構運用現行法規，確保數位平台善盡責任。

圖片來源：Bangkok Biz News