核心要点
- 阿姆斯特丹一家法院周四颁布禁令，禁止埃隆・马斯克的聊天机器人 Grok 生成 AI 合成的人体裸照图像及儿童性虐待材料。
- 拥有 Grok 的 xAI 公司若不遵守该命令，每日将面临约 11.5 万美元的罚款。
- 该公司此前已在巴尔的摩遭到起诉，同时正接受欧盟委员会与英国网络安全监管机构调查，法律压力持续加剧。
荷兰一家法院已禁止埃隆・马斯克旗下 xAI 公司及其聊天机器人 Grok 生成未经同意的成人与儿童 AI 合成图像，这让该公司面临的法律压力进一步加大。
根据法院声明的谷歌翻译文本，阿姆斯特丹地方法院周四发布法令，禁止 xAI 生成及传播 “在未获得明确许可的情况下，将他人部分或全部裸露的色情图像”。
这是欧洲针对 Grok 作出的首例此类判决，禁令范围同时涵盖儿童性虐待材料，并禁止原推特、现 X 平台在欧洲地区提供 Grok 功能。根据禁令要求，xAI 若拒不执行判决，每日将被处以 10 万欧元（约 11.5 万美元）罚款，最高罚款可达 1000 万欧元。
此案由荷兰非营利组织 Offlimits 提起诉讼，该组织致力于打击网络性虐待行为，尤其针对儿童与青少年。法院同时责令 xAI 在 14 日内向 Offlimits 支付 220 万欧元的诉讼费用。
Offlimits 执行董事罗伯特・霍文在声明中表示：“法官昨日划出了清晰界限：技术并非网络侵犯人权的通行证。同样值得高兴的是，欧洲昨日也投票通过了禁止 AI 脱衣工具的法案。这是双重喜讯，意义重大。在每个欧洲国家，人们都应享有同等的网络权利。”
CNBC 已就该判决联系 xAI 置评，但截至目前尚未收到回复。
反数字仇恨中心（CCDH）数据显示，2026 年 12 月 29 日至 2026 年 1 月 9 日期间，Grok 共生成约 300 万张色情化图像，其中超过 2.3 万张图像疑似涉及儿童。
今年 1 月，xAI 已采取限制措施，禁止 Grok 在 X 平台上生成真人的色情化图像，该限制适用于所有用户，包括付费订阅者。但 Offlimits 发现，相关限制很容易被绕过，法官也裁定其保护措施不足以充分保障用户安全。
xAI 已遭到多起诉讼：本周二，美国巴尔的摩市成为首个起诉该公司的美国主要城市，指控其违反城市消费者保护法，虚假宣传 Grok 与 X 平台对用户安全无害。
诉状提及了一个 “给她穿上比基尼” 的网络风潮，用户利用 Grok 为他人图像进行 AI 脱衣处理。xAI 首席执行官马斯克本人也曾参与其中，分享了一张由 Grok 生成的自己身穿系带比基尼的图片。
此外，田纳西州三名青少年上周也起诉了 xAI，原因是 Grok 生成了他们处于色情姿势与场景中的内容。
与此同时，欧盟委员会已于今年 1 月对 xAI 展开调查，指控其传播未经同意的儿童及他人色情图像，该案依据《数字服务法案》（DSA）进行审查。
英国通信管理局（Ofcom）与信息专员办公室也已分别对 X 平台及未经同意色情图像传播问题展开独立调查。
尽管欧洲全境尚未出台统一判决，但东南亚的马来西亚与印度尼西亚已于今年 1 月屏蔽 Grok 访问，原因是该 AI 工具持续生成未经同意的色情内容，而 “X 公司多次未能解决相关风险”。
责任编辑：郭明煜