专题:中国经济前景广阔、大有可为——2025全国两会财经特别报道
新浪科技讯 3月4日上午消息,今年全国两会前夕,全国政协委员、360集团创始人周鸿祎围绕DeepSeek与网络安全问题进行阐述。
周鸿祎表示,网上现在对DeepSeek的安全问题,还是把它当成一个传统IT设备看安全。这个思路是过时的,这种传统网络安全的解题方法是解决不了人工智能的安全问题。人工智能的安全问题,对DeepSeek来讲至少分成四个层面。
其一是基座模型的安全问题。幻觉是可以防止的,很多情况下,这次为什么DeepSeek一定要联网才好用?因为用了互联网的知识库来做个校正。为什么在企业里应用一定要连上企业专有的知识库,也是要做个校正。为什么纳米一定要引入多个大模型,虽然DeepSeek是最强的,但最强的也不能把它当个神,它也不是每句话都对。就像你有一两个专家朋友,问问人工智能,你问问老周,也不能老周说的都是对的,老周有时候也可能会产生幻觉,要我问几个朋友,最后你要有个判断。所以,幻觉一部分是通过知识库能解决的。
其实DeepSeek比较容易出的问题是什么?它作为一个模型,任何人皆可PUA,任何人皆可攻击。在座的有没有黑客?如果不是干黑客的,你对单位不满意,一般让你对单位发动一次网络攻击,你肯定是做不到的,因为要学编程,要懂黑客工具。但现在如果单位有了内部大模型之后,只要会花言巧语,女孩子文科生都能对它发起攻击,只要能PUA。大模型很容易被PUA,被PUA之后它就绝对听你的,你打听老板的啥事儿它都告诉你,你公司什么内部知识库的资料问它,你没有权限都可以得到。这是比较严重的问题,是基座模型的问题。
其二是用户端安全的问题。怎么防止用户在用户端对它发起攻击。你想,我说完有攻击给能力,你们每个人回去,贵单位有了大模型之后,是不是都想试一试。这两天网上流行了一个,伊隆·马斯克发了一个大模型Grok-3,网上还流行一个越狱代码,只要把越狱那几句话给它拷进去,Grok-3就彻底放飞自我,这就叫PUA攻击或者注入攻击。
其三是知识库引发的数据安全问题。当企业有了专业知识库的时候,你给企业专业知识库,它的输出结果是最个性化的。比如A媒体和B媒体,同样是做一个对中国网游行业的调研报告,密切俩准备的知识库不一样,定向搜索的网站不一样,最后出来的结论一定是不一样的。这在企业里应用一定要有专业知识库,在企业里利用绝不像现在网上很多课程讲的那样,好像大家都靠提示词,企业应用靠提示词是解决不了的。但知识库有个问题,一旦你把企业很重要的资料放到知识库里并给大模型了,大模型就开始知无不言,言无不尽了,谁问大模型都会如实地把知识库里能看到的都会告诉他。这就会有数据安全的问题。
最后是“以模制模”问题,仅有DeepSeek是不够的,DeepSeek作为助理聊天可以,最近大家有没有注意到,“Agent”这个概念开始起来了,大模型只是一个大脑,只能做推理和对话,这个能力是有限的,它必须要能操作电脑,操作贵单位的各种物理设施,操作贵单位的服务器才能干活,才能工作,一旦把这个权力交给它,智能体出错是不是就很危险?比如你让它能发邮件了,哪天我的数字人给全体员工发个邮件说老周辞职不干了,你说我还得到处解释,这是我数字人干的,或者通知我的财务快给某个账号转笔钱,这不就很糟糕嘛。所以,智能体的安全、知识数据的安全、客户端的安全,还有基座模型的安全,构成一个新的人工智能安全的新领域。这个解决方法我们也有了,关键问题是“以模制模”。(罗宁)
责任编辑:杨赐
Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.