猎豹移动童宁:不用焦虑算力问题 很多场景不需要强算力

新浪科技
Jan 16, 2025

专题:2024科技风云榜

  新浪科技讯 1月16日下午消息,“2024科技风云榜”年度盛典在京举行,今年活动主题为“新质科技 · 智向未来”。讯飞创投合伙人朱永、科锐国际CTO刘之、创新工场执行董事暨前沿科技基金总经理任博冰和猎豹移动副总裁童宁围绕“大模型,还能火多久?”主题进行圆桌对话。

  对话中,童宁表示,“大模型阶段很像孩子上学,上完高中了,高中毕业了,刚出来什么也不会,或者会的东西不多。但是可以自我学习,有学习能力了。这时候有的公司会选择算了,让他念医科吧,于是就有行业大模型,有的偏医科,有的偏金融,有的偏科学研究,就像一个人开始念大学然后念研究生。”

  在童宁看来,理解数据与模型之间的关系是大家一直忽略的事。大模型本身是数学里的一个分支,主要还是概率论和运筹学,核心算法都是从几十年前的算法演进过来的,它非常强调所谓的数据对最后结果的影响。

  “我们给很多大客户落地,最后赢不是赢在模型上,都是赢在我们知道怎么去驾驭模型和提示词和数据之间的关系,特别是私有数据之间的关系。”童宁说道。

  童宁建议,不用对算力本身太过于焦虑,因为很多场景不需要那么强的算力。“可能训练模型需要,但是模型应用中是不需要那么强的算力的,而且在实践中,客户在不同的场景里需要的模型尺寸是不一样的,有的工作极简单,需要一个特别小尺寸模型,这样大量并发的时候,它的处理速度才快。但是一个复杂的模型,比如说要为领导去写一个分析报告这种要持续20、30分钟的推理,这种任务需要一个比较强劲的千亿模型来做,本质就是看业务需求。”

海量资讯、精准解读,尽在新浪财经APP

责任编辑:韦子蓉

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10