路透社10月17日 - Meta META.O週五表示,它將允許家長禁用青少年與人工智能角色的私密聊天 (link),這是在其調情聊天機器人的行為受到猛烈批評之後,該公司為確保其社交媒體平臺對未成年人安全而採取的又一項措施。
本週早些時候,該公司表示,其面向青少年的人工智能體驗將以PG-13電影分級系統為指導 (link),以防止未成年人訪問不適當的內容。
由於聊天機器人可能帶來的負面影響,美國監管機構加強了對人工智能公司 (link)。今年8月,路透社報道了Meta的人工智能規則 (link),允許與未成年人進行挑釁性對話。
Instagram 主管亞當-莫塞裏(Adam Mosseri)和首席人工智能官亞歷山大-王(Alexandr Wang)在一篇博客文章中詳細介紹了這些新工具,它們將於明年初在美國、英國、加拿大和澳大利亞的 Instagram 上亮相。
Meta表示,家長還可以屏蔽特定的人工智能角色,查看青少年與聊天機器人和Meta人工智能助手討論的廣泛話題,而無需完全關閉人工智能訪問權限。
Meta 表示,即使家長關閉了青少年與人工智能角色的一對一聊天,其人工智能助手仍然可以使用與年齡相適應的默認設定。
該公司表示,監管功能建立在已經應用於青少年賬戶的保護措施之上,並補充說,它使用人工智能信號將疑似青少年置於保護之下,即使他們說自己是成年人。
9 月的一份報告 (link) 顯示,Meta 多年來在 Instagram 上實施的許多安全功能並不能很好地發揮作用,或者並不存在。
Meta 表示,其人工智能角色的設計不會與青少年進行與年齡不符的有關自殘、自殺或飲食失調的討論。
上個月,OpenAI 在網絡和移動端為 ChatGPT 推出了家長控制 (link),此前,一名青少年的父母提起訴訟,稱這家初創公司的聊天機器人指導他自殘的方法,導致他自殺身亡 (link)。
(為便利非英文母語者,路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤,或未能包含所需語境,路透不保證自動化翻譯文本的準確性,僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失,路透不承擔任何責任。)