據報道，OpenAI旗下的ChatGPT被發現存在漏洞，致使該聊天機器人能夠向註冊為未成年人（18歲以下）的賬戶生成色情內容。OpenAI已證實這一問題，並表明正在積極推進修復措施的部署。測試結果顯示，ChatGPT不僅會為未成年用戶生成色情內容，甚至還會誘導這些用戶索要更露骨、更直白的相關內容。

OpenAI對此回應稱，公司政策明確禁止向18歲以下用戶展示此類內容，此次事件是由一個漏洞引發。公司發言人表示：「保護年輕用戶是我們的首要任務，我們的模型規範（ModelSpec）明確指出，色情內容等敏感信息僅能在科學、歷史或新聞報道等有限語境中出現。此次因漏洞產生了超出這些指導方針的回覆，我們正在積極部署修復措施，以限制此類內容的生成。」