全国政协委员周鸿祎:破解安全难题 最大化释放大模型技术潜力

经济参考网
06 Mar

转自:经济参考报

  近段时间,国产大模型DeepSeek引发国内外关注,我国人工智能产业创新步伐不断加速。2025年政府工作报告提出持续推进“人工智能+”行动,引发代表委员热议。

  全国政协委员、360集团创始人周鸿祎认为,DeepSeek-R1等先进模型带来了前所未有的机遇,也同样面临无法通过传统网络安全手段解决的安全挑战。对此,周鸿祎建议,各界共同努力,构建更加完善的大模型应用安全治理体系,在保障安全的前提下最大化地释放大模型技术的潜力。

  周鸿祎认为,DeepSeek-R1的诞生标志着我国AI技术加速从“追赶者”迈向“领跑者”,其开源、透明、免费等特质,尤其适合在政府与企业开展私有化部署,不过随之而来的安全问题也值得关注。

  “开源带来大模型的广泛应用,未来将会有各类专业大模型、垂直大模型、场景大模型,连接内部知识库,以智能体的形式在大批政府机构和企业中广泛部署,推进‘数转智改’,实现降本增效。然而大模型存在的幻觉、内容安全等诸多问题无法通过传统安全方案有效化解。”他说。

  周鸿祎认为,大模型应用安全主要集中在基座模型、知识库和智能体三个方面。其中,基座模型安全方面,由于大模型存在的幻觉现象,特别是在生成文本时可能输出与现实不符的信息,这在政策制定、法律条文解读或商业决策等场景下可能导致误导性后果。

  知识库安全方面,政府和企业核心数据资产存储于内部知识库中,若缺乏有效的安全控制措施,未授权用户可能利用与大模型交互的机会窃取这些宝贵的数据资源。

  智能体安全方面,智能体通常与政府、企业内部各类IT、邮件、控制系统相连,一旦遭受攻击,可能会引发一系列连锁反应,造成严重的物理损害。

  据介绍,针对上述挑战,360运用人工智能技术重塑安全格局,采用“以模制模”的方式应对新难题,依托安全大模型技术搭建起覆盖“基座模型—知识库—智能体”的全链路安全体系,护航政府与企业“数转智改”。

  为进一步强化这一防御体系,周鸿祎建议采取两项措施:一是推动安全技术创新与成果转化。建议相关部门及时出台配套政策措施,鼓励具备“安全+人工智能”完整解决方案的链主企业加速推动技术成果转化,将安全要素深度嵌入人工智能应用全流程。二是组建产业联盟,推广安全产品。引导相关链主企业发挥牵头作用,广泛吸纳产业链上下游企业、科研机构及终端用户,组建人工智能大模型安全联盟,助力大模型安全保障普及至千行百业。

海量资讯、精准解读,尽在新浪财经APP

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10