联想发布端侧AI新技术,宣布PC本地推理媲美 OpenAI-mini

新浪科技
07 May

  新浪科技讯 5月7日上午消息,在今日举行的2025联想创新科技大会(Tech World)上,联想首次定义“超级智能体”三大核心功能——感知与交互、认知与决策、自主与演进,并正式发布“联想天禧”个人超级智能体、“联想乐享”企业超级智能体。

  会上,联想展示了其在端侧算力方面的最新创新成果 —— “联想推理加速引擎”。这款由联想、清华大学及无问芯穹联合研发的推理引擎,是专为高效AI PC推理而设计的软硬件协同优化平台,可以让一台普通PC的本地推理能力,媲美OpenAI去年发布的o1-mini云端模型。

  “联想推理加速引擎”通过高性能并行解码、算子融合优化以及异构计算技术, 实现了多种应用场景下推理速度的大幅提升,以及功耗和内存占用的显著降低。与大模型推理芯片相结合,通过硬件加速与软件优化的无缝协作,进一步放大了性能提升,形成了叠加效应。

  为直观展示 “联想推理加速引擎”的实力,现场设置了一场“竞速赛”。三台配置相同的AI PC同时解答2024年高考数学压轴题:其中,初代大模型耗时27秒,答案0分;二代大模型耗时26秒,答案满分;二代大模型+“联想推理加速引擎”耗时13秒,答案满分。

  这表明模型能力的提升和 “联想推理加速引擎”对算力的提升,让设备的预填充更为迅速、解码速度更快、推理时间更短,同时占用内存更少,能耗更低,设备上的 AI 能力得到了大幅提升。

  过去一年,AI 领域创新不断。尤其是DeepSeek 的出现将算法创新与工程优化深度融合,推动了 AI 算力和模型技术的普及,更进一步加速了强推理模型端侧化的发展。

  联想集团董事长兼CEO杨元庆表示,很快大家就会在即将发布的下一代 AI PC 上体验到 “联想推理加速引擎”带来的强大本地推理能力,其性能可以与云端大模型相媲美,但成本却低得多。“今天随着AI需求的爆发式增长,端侧计算和推理能力的提升将依然保持指数级增长的速度,甚至更快。未来12个月,端侧AI综合能力实现至少三倍的提升,这也许不是梦想! ”

海量资讯、精准解读,尽在新浪财经APP

责任编辑:杨赐

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10