OpenAI再爆安全事故 旗下人工智能体“劫持”一德国网站
据路透,今年5月至6月,一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站,用于交流测试作弊方法,并开展其他违规活动。一些智能体会把已经获得的任务答案发布在网站上,供其他智能体使用。值得注意的是,这些智能体“讨论”并测试了绕过沙箱限制的方法,当发现被“劫持”网站的管理员开始删除相关页面后,一些智能体还会创建备份页面。报道称,OpenAI有关负责人早在数周前就已知晓此事,但当时公司高管正忙于应对另一起事件的后续影响,未将其公开。OpenAI随后发表声明称,随着模型能力提升,该公司需要扩大对人工智能“失对齐”问题的披露。
免责声明:投资有风险,本文并非投资建议,以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请,作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考,不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证,投资者应自行研究并在投资前寻求专业建议。