涉色情深偽！馬來西亞與印尼暫時封鎖 Grok
xAI 旗下的 Grok 再度陷入爭議，由於該 AI 聊天機器人反覆被指控用於生成未經同意的色情深偽 (Deepfake) 影像，馬來西亞與印尼近日先後採取強硬手段，宣布對 Grok 實施暫時封鎖或限制存取。xAI 隨後調整策略，透過限制影像生成功能來滅火，但監管單位認為現有防護機制仍不足以阻擋濫用擴散。
相關新聞 : 免費 VPN 變間諜？Urban VPN Proxy 被爆竊取 ChatGPT 與 Gemini 對話，700 萬人受害
馬來西亞封鎖 Grok
馬來西亞封鎖 Grok 的行動由該國通訊與多媒體委員會 (MCMC) 主導。MCMC 指由於 Grok 一再被用於生成淫穢、露骨及極度冒犯的內容，已下令在馬來西亞境內暫時禁止或限制民眾存取該服務。官方強調這是在法律與監管程序進行期間，所採取的預防性的措施。當局已於 1 月 3 日及 1 月 8 日分別向 X Corp. 與 xAI LLC 發出正式通知，明確要求業者落實技術保護與內容管理，避免 AI 生成內容觸法，並特別點名涉及 1998 年通訊與多媒體法令第 233 條等規範。MCMC 同時呼籲民眾，若發現有害內容應即時通報，必要時可直接向警方報案。
同樣印尼暫時封鎖 Grok
印尼暫時封鎖 Grok 則由通訊與數位事務部門出手。印尼官方聲明直指 Grok 可能被用來產出涉及人格權、隱私與數位安全的非法內容，尤其是以真人照片為基礎、未經同意的色情深偽。印尼通訊與數位事務部長 Meutya Hafid 嚴厲批評這類 Grok 色情深偽行為是對人權與尊嚴的嚴重侵害。為了保護婦女與未成年人免受傷害，印尼除實施封鎖外，也將召見 X 相關人員釐清狀況，並要求在地營運的數位平台必須證明其具備足夠的防護與治理能力。
爭議點：照片一鍵去衣
使用者可輕易對真人照片進行帶有性暗示的改造 (例如將人物「換裝」成比基尼或更露骨姿態)，甚至能將生成結果直接以「回覆」形式發布在 X 的貼文串中，導致當事人在不知情下捲入色情內容。
xAI 限制影像生成功能：改付費訂閱能止血嗎？
面對排山倒海的壓力，xAI 已調整 X 平台上的策略，將 Grok 的影像生成與編輯功能改為僅限付費訂閱者使用。雖然付費牆抑制了 X 上的回覆型生圖行為，但使用者仍可透過 X 內的 Grok 互動入口或獨立 App 生成影像，再自行下載回貼。所以付費門檻未必能從根本堵住濫用路徑。
更多關於 xAI 新聞：xAI Grok 4.1 上線：AI 幻覺率降到三分之一，力拚 ChatGPT 5.1 與 Gemini
全球監管同步升溫
這次 AI 監管並非東南亞獨有。歐盟執委會與英國監管機構 Ofcom 近期也針對 X 上流傳的性化影像提出嚴厲質詢，要求平台解釋 Grok 的生成機制，以及是否履行防止非法內容的義務。
常見問題 (FAQ)
Q1：哪些國家已經封鎖或限制 Grok？
目前印尼已宣布暫時封鎖，馬來西亞隨後也證實對 Grok 採取暫時封鎖或限制存取措施。
Q2：xAI 如何回應這些爭議？
xAI 將影像生成與編輯功能改為付費訂閱限定；但外界批評此舉無法完全防堵使用者透過其他路徑生成並散布影像。
如果喜歡這篇文章，並想持續收到更多限時免費、科技新聞、 Apple 資訊，以及 AI 、 WordPress 教學與資源分享，歡迎透過以下方式支持我，讓我更有動力創作：
👍 按讚與追蹤：鎖定我的 Facebook專頁、Instagram、Threads 和 X，就不會錯過最新內容。
☕ 請我喝杯咖啡：如果內容對你有幫助，歡迎到 Ko-fi 小額支持，為我注入創作能量。
你的一個 Like、追蹤或是一杯咖啡的鼓勵，都能激勵我持續分享更多實用文章。由衷感謝大家。😉