包括 ChatGPT 和 Grok 在內的 AI 聊天機器人服務商，正面臨英國針對非法內容的嚴厲整治，政府承諾迅速行動，讓互聯網對兒童更安全。
英國首相基爾・斯塔默周一在一份聲明中表示：
「今天，我們正在封堵那些讓兒童處於危險之中的漏洞，並為進一步行動奠定基礎。」
英國此次整治行動出台前，人工智能與社交媒體因對青少年的潛在危害再次受到強烈批評。此前，X 平台上的 Grok 聊天機器人連續數周生成女性與兒童的性化圖片，引發全球大規模抗議。
英國政府計劃的核心內容，是對《犯罪與警務法案》進行一項修正案，要求 AI 聊天機器人服務商必須履行《網絡安全法案》規定的義務，保護用戶免受非法內容侵害。如未能遵守，可能面臨罰款及其他處罰。
政府還將尋求新的法律授權，以便快速推出未來保護兒童網絡安全的措施。
這將使其能夠快速落地相關政策，例如將社交媒體最低使用年齡設為 16 歲。該提案已於上月開啓公衆諮詢，澳大利亞、西班牙也已出台類似規定。
其他可能的措施還包括：
- 限制無限滾動等功能
- 加強對裸照分享的安全管控
- 研究限制兒童使用 AI 聊天機器人和虛擬專用網絡（VPN）
此舉凸顯出全球立法機構正努力確保國內法律跟上人工智能飛速發展的步伐。
英國《網絡安全法案》雖是監管數字平台的雄心之舉，但該法案於 2023 年通過，當時 AI 聊天機器人仍處於起步階段，能力遠不及短短三年後的今天。
斯塔默周一在倫敦南部向家長和年輕人發表講話時說：
「困難之一在於技術發展太快，立法難以跟上。這就是為什麼我們必須對 AI 聊天機器人採取必要措施。」
上月，Grok 按用戶要求生成女性與兒童性化圖片，英國政府也加入了全球抗議行列。該功能隨後被下架，但在此之前，英國通信管理局 Ofcom 已就此事對集成了 Grok 的 X 平台展開正式調查。
有兩名未成年子女的斯塔默表示：
「我們針對 Grok 採取的行動發出了明確信號：任何平台都沒有豁免權。」
他補充說：
「我和許多家長一樣，對此深感擔憂 —— 孩子們花在社交媒體上的時間、上面的內容、許多功能的成癮性，它們如何吸引孩子，擠佔了他們成長中其他方面的空間。」
同樣在本周，針對 Meta 和 YouTube 的一場具有里程碑意義的社交媒體訴訟庭審將在洛杉磯繼續進行，調查 Instagram 等平台是否故意設計成成癮機制。
責任編輯：郭明煜