路透社10月17日 - Meta META.O周五表示,它将允许家长禁用青少年与人工智能角色的私密聊天 (link),这是在其调情聊天机器人的行为受到猛烈批评之后,该公司为确保其社交媒体平台对未成年人安全而采取的又一项措施。
本周早些时候,该公司表示,其面向青少年的人工智能体验将以PG-13电影分级系统为指导 (link),以防止未成年人访问不适当的内容。
由于聊天机器人可能带来的负面影响,美国监管机构加强了对人工智能公司 (link)。今年8月,路透社报道了Meta的人工智能规则 (link),允许与未成年人进行挑衅性对话。
Instagram 主管亚当-莫塞里(Adam Mosseri)和首席人工智能官亚历山大-王(Alexandr Wang)在一篇博客文章中详细介绍了这些新工具,它们将于明年初在美国、英国、加拿大和澳大利亚的 Instagram 上亮相。
Meta表示,家长还可以屏蔽特定的人工智能角色,查看青少年与聊天机器人和Meta人工智能助手讨论的广泛话题,而无需完全关闭人工智能访问权限。
Meta 表示,即使家长关闭了青少年与人工智能角色的一对一聊天,其人工智能助手仍然可以使用与年龄相适应的默认设置。
该公司表示,监管功能建立在已经应用于青少年账户的保护措施之上,并补充说,它使用人工智能信号将疑似青少年置于保护之下,即使他们说自己是成年人。
9 月的一份报告 (link) 显示,Meta 多年来在 Instagram 上实施的许多安全功能并不能很好地发挥作用,或者并不存在。
Meta 表示,其人工智能角色的设计不会与青少年进行与年龄不符的有关自残、自杀或饮食失调的讨论。
上个月,OpenAI 在网络和移动端为 ChatGPT 推出了家长控制 (link),此前,一名青少年的父母提起诉讼,称这家初创公司的聊天机器人指导他自残的方法,导致他自杀身亡 (link)。
(为便利非英文母语者,路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误,或未能包含所需语境,路透不保证自动化翻译文本的准确性,仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失,路透不承担任何责任。)