核心要點
- 阿姆斯特丹一家法院周四頒佈禁令，禁止埃隆・馬斯克的聊天機器人 Grok 生成 AI 合成的人體裸照圖像及兒童性虐待材料。
- 擁有 Grok 的 xAI 公司若不遵守該命令，每日將面臨約 11.5 萬美元的罰款。
- 該公司此前已在巴爾的摩遭到起訴，同時正接受歐盟委員會與英國網絡安全監管機構調查，法律壓力持續加劇。
荷蘭一家法院已禁止埃隆・馬斯克旗下 xAI 公司及其聊天機器人 Grok 生成未經同意的成人與兒童 AI 合成圖像，這讓該公司面臨的法律壓力進一步加大。
根據法院聲明的谷歌翻譯文本，阿姆斯特丹地方法院周四發布法令，禁止 xAI 生成及傳播 「在未獲得明確許可的情況下，將他人部分或全部裸露的色情圖像」。
這是歐洲針對 Grok 作出的首例此類判決，禁令範圍同時涵蓋兒童性虐待材料，並禁止原推特、現 X 平台在歐洲地區提供 Grok 功能。根據禁令要求，xAI 若拒不執行判決，每日將被處以 10 萬歐元（約 11.5 萬美元）罰款，最高罰款可達 1000 萬歐元。
此案由荷蘭非營利組織 Offlimits 提起訴訟，該組織致力於打擊網絡性虐待行為，尤其針對兒童與青少年。法院同時責令 xAI 在 14 日內向 Offlimits 支付 220 萬歐元的訴訟費用。
Offlimits 執行董事羅伯特・霍文在聲明中表示：「法官昨日劃出了清晰界限：技術並非網絡侵犯人權的通行證。同樣值得高興的是，歐洲昨日也投票通過了禁止 AI 脫衣工具的法案。這是雙重喜訊，意義重大。在每個歐洲國家，人們都應享有同等的網絡權利。」
CNBC 已就該判決聯繫 xAI 置評，但截至目前尚未收到回覆。
反數字仇恨中心（CCDH）數據顯示，2026 年 12 月 29 日至 2026 年 1 月 9 日期間，Grok 共生成約 300 萬張色情化圖像，其中超過 2.3 萬張圖像疑似涉及兒童。
今年 1 月，xAI 已採取限制措施，禁止 Grok 在 X 平台上生成真人的色情化圖像，該限制適用於所有用戶，包括付費訂閱者。但 Offlimits 發現，相關限制很容易被繞過，法官也裁定其保護措施不足以充分保障用戶安全。
xAI 已遭到多起訴訟：本周二，美國巴爾的摩市成為首個起訴該公司的美國主要城市，指控其違反城市消費者保護法，虛假宣傳 Grok 與 X 平台對用戶安全無害。
訴狀提及了一個 「給她穿上比基尼」 的網絡風潮，用戶利用 Grok 為他人圖像進行 AI 脫衣處理。xAI 首席執行官馬斯克本人也曾參與其中，分享了一張由 Grok 生成的自己身穿繫帶比基尼的圖片。
此外，田納西州三名青少年上周也起訴了 xAI，原因是 Grok 生成了他們處於色情姿勢與場景中的內容。
與此同時，歐盟委員會已於今年 1 月對 xAI 展開調查，指控其傳播未經同意的兒童及他人色情圖像，該案依據《數字服務法案》（DSA）進行審查。
英國通信管理局（Ofcom）與信息專員辦公室也已分別對 X 平台及未經同意色情圖像傳播問題展開獨立調查。
儘管歐洲全境尚未出台統一判決，但東南亞的馬來西亞與印度尼西亞已於今年 1 月屏蔽 Grok 訪問，原因是該 AI 工具持續生成未經同意的色情內容，而 「X 公司多次未能解決相關風險」。
責任編輯：郭明煜