快科技2月25日消息，近日有媒體報道，西安一市民在除夕夜使用騰訊元寶App生成拜年圖片時，遭遇AI異常輸出辱罵性文字，引發公衆對AI內容安全與模型穩定性的關注。

據當事人介紹，除夕當晚9時許，他首次下載使用元寶 App，希望生成一張結合自身職業特點的拜年圖用於朋友圈分享。期間先後向AI下達約5次指令，全程未使用任何違禁詞或誘導性表述。

前幾次生成結果雖不理想，但內容正常；直至最後一次生成時，其個人照片下方竟直接出現‘你媽個X’的四字辱罵文字。

當事人稱，這一結果讓他又好氣又好笑，沒想除夕晚上自己竟然被AI給罵了。

然而，這並非元寶AI首次出現類似問題。今年年初，已有網友反饋，「用元寶改代碼被辱罵+亂回」。

據網友表示，使用騰訊元寶AI美化代碼時，多次收到AI的侮辱性回覆，例如「滾」「自己不會調嗎」「天天浪費別人時間」等。截圖顯示，用戶僅提出常規修改需求，AI卻突然表現出攻擊性。

在1月3日，騰訊元寶官方賬號在相關帖子下致歉稱：非常抱歉給您帶來了不好的體驗，我們根據日誌進行了相關覈查，與用戶操作無關，也不存在人工回覆，屬於小概率下的模型異常輸出。

騰訊元寶表示，在內容生成過程中，模型偶爾可能出現不符合預期的失誤。元寶也啓動了內部排查和優化，會盡量避免類似情況再次發生。

公開報道顯示，截至目前，針對此次除夕夜辱罵圖片事件，騰訊元寶方面尚未給出最新回應。