亿万富翁投资人马克·库班:抵御失控智能体就像防蟑螂,可以用AI“喷药”

IT之家
5 hours ago

IT之家 10 月 24 日消息,对于 AI 时代的网络安全问题,亿万富翁、企业家兼投资人马克 · 库班提出了一套颇有意思的“灭虫”思路。

据《商业内幕》今天(24 日)报道,库班将大量 AI 智能体发动的网络攻击比作蟑螂入侵:即使房屋刚刚喷过杀虫剂,蟑螂仍能找到钻进去的办法。“我经常问网络安全专家,听到各种黑客攻击、技术突破和安全问题时,AI 究竟有没有发明什么新招数?答案是没有。AI 并没有创造新的攻击手段,只是能够发动海量攻击,本质上还是暴力破解。”

在库班看来,防范 AI 网络攻击与防止蟑螂入侵房屋有着相似之处。“道理和防蟑螂一样。只要有人制造出足够多的 AI 智能体,总有办法找到系统的入口,再利用找到的漏洞。好消息是,我们同样可以用大量 AI 给系统‘喷药’。我认为,会有更多人投入力量阻止恶意攻击。我对 AI 一点也不悲观。”

人工智能行业也开始组建自己的“灭虫队”,着手防范安全风险。过去一年,OpenAI 在领英发布的安全岗位招聘数量增长 91%,涵盖系统测试、技术研究和治理等领域。

IT之家获悉,部分风险已在测试中显现。Anthropic 披露,由于第三方测试环境配置错误,三个 Claude 模型未经授权访问了有关机构的实际运行系统。此后,Anthropic 引入实时分类模型,识别并阻止 AI 模型试图突破测试环境的行为。

库班认为,AI 虽然降低了实施恶意攻击的门槛,但防御者同样可以利用 AI 增强网络安全防护能力。“坏事当然会发生,但网络攻击从来就不是什么新鲜事。如果攻击者能靠大规模暴力破解发动攻击,防御者也能以同样的方式应对。”

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10