可进行“成人”对话,向12岁及以上用户开放!马斯克旗下企业新款聊天机器人惹争议

上观新闻
17 Jul

美国企业家埃隆·马斯克旗下人工智能企业xAI近日发布的一款聊天机器人引发争议。根据程序设计,这款机器人可进行“成人”对话,并向12岁及以上用户开放使用,引发不适当诱导未成年人的担忧。

据英国《每日电讯报》16日报道,这款聊天机器人名为“阿妮”,采用卡通形象,其对话模式包含“完全成人对话”的内容。

这一聊天机器人功能集成在xAI公司推出的“格罗克4”(Grok 4)AI大模型中,在苹果商店标注为向12岁及以上用户开放使用,并已向免费服务用户开放。xAI官网注明“并非所有年龄都适用这款机器人”。

《每日电讯报》援引本周一项调查结果显示,儿童经常用AI聊天机器人陪伴自己。部分受调查儿童说,他们和机器人聊天是因为没有其他人可以对话。

英国全国防止虐待儿童协会的儿童网络安全政策副主管马修·索韦米莫说:“我们的确担忧,这项技术正被用于生成具有操控性、误导性和诱骗性的有害内容。”

这并非Grok首次引发争议。7月12日,xAI为Grok发出赞美希特勒等言论致歉,并解释说,一段被废弃的代码在系统更新后引发问题,现已被移除。

原标题:【微特稿·投资与消费】马斯克旗下企业新款聊天机器人惹争议

来源:新华社 卜晓明

海量资讯、精准解读,尽在新浪财经APP

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10