商汤大装置代继:Token经济大潮下,AI基础设施怎么演进?

智东西
Apr 14

作者 | ZeR0

编辑 | 漠影

智东西4月14日报道,4月8日,“人工智能赋能新型工业化深度行”活动在郑州举行,正式拉开2026年工业和信息化部“人工智能+”行动序幕。本次活动由国家先进计算产业创新中心主办,国家工业信息安全发展研究中心与光合组织联合承办,聚焦打通从算力底层到工业场景的“最后一公里”,推动人工智能与制造业深度融合。

商汤大装置事业群解决方案总经理代继在会上发表《AI基础设施及产业服务实践》主题演讲,系统阐述了Token经济驱动下AI基础设施的演进逻辑与产业落地路径。他谈道,大模型产业正从“开源与闭源之争”转向“技术生态之争”,随着新一代智能体交互模式的火爆,模型已突破普遍应用的技术门槛,而头部模型用户付费意愿的上升标志着Token消费共识正在形成

与此同时,AI基础设施正迎来历史性建设窗口。代继援引行业研究报告谈道,2025年AI工作负载以模型训练为主导,但到2027年,模型推理将成为主要算力需求。这意味着AI的价值创造正从一次性的模型开发转向持续性的规模化应用。预计到2030年,全球数据中心总容量将突破200GW,5年内规模翻番,复合年增长率达14%。

Token的规模化生产与消费,AI基础设施需要在算力供给、调度效率与系统稳定性等方向实现全面升级。围绕这一趋势,商汤大装置构建了系统化技术支撑体系。

1、多云纳管,保障大规模跨域异构集群稳定运行

面对推理需求爆发与算力结构复杂化的趋势,商汤大装置打造了具备“异构统一纳管与弹性调度能力”的AI基础设施体系。

基于SenseCore AI云平台,商汤大装置实现了多云环境下的统一管理与异构算力调度,平台兼容Kubernetes原生生态,将自建集群、第三方云资源以及多种国产CPU/GPU算力整合为统一资源池。这种“算力池化”能力,使企业能够在不同区域、不同架构之间灵活调用资源,支撑大规模分布式推理任务。

在异构环境下,商汤针对不同芯片架构进行了深度优化,使训练与推理任务均可获得最优的性价比表现。在Token持续消耗的场景下,企业能以更低成本获得稳定、可预期的算力供给,从而提升整体投入产出比。

2、全栈智能可观测,从“可用”到“可控”的关键支撑

如果说算力调度解决的是“资源如何用”,那么可观测性解决的则是“系统是否可控”。

在大规模海量高并发场景下,系统需要同时处理海量请求与复杂任务链路,传统监控体系难以支撑。

对此,商汤构建了覆盖基础设施到应用层的全栈智能可观测体系:单秒可处理80万数据点,性能提升超过20倍;日志检索效率提升60%,显著缩短问题定位时间等。

同时,通过跨地域数据挂载技术,实现“一份数据,多地使用”,在保证接近本地性能的前提下,打破数据孤岛。这不仅降低了数据流转成本,也为跨区域业务部署提供了基础支撑。

在Token经济驱动下,AI调用频率越高,对系统稳定性与可观测性的要求越高,“可感知、可分析、可优化”的智能监控才能真正支撑规模化应用。

3、国产算力规模化商用,推动成本与供给优化

在算力成本与供应链双重挑战下,国产算力成为重要支撑路径,不仅能够降低基础设施成本,也有效提升了算力资源选择的灵活性。

目前,商汤大装置已完成20余款国产AI芯片适配,并率先实现万卡规模国产芯片的异构混训,算力利用率达到80%,训练效率接近同构集群的95%,有效突破单一芯片限制,实现了国产算力规模化商用。

与此同时,商汤联合产业伙伴推出“算力Mall”,将算力资源、平台工具与模型服务进行标准化封装,企业可以像选购商品一样进行组合与调用。这种服务模式,本质上也在重构AI供给方式,使Token成本更加可控。

在产业侧,AI应用正从“局部优化”走向“系统性重构”。代继以某央国企实践为例,展示了AI在传统行业的完整落地路径。

截至目前,商汤大装置已帮助该企业构建起覆盖基础模型(语言、多模态、视觉)、管理平台(大模型开发平台+应用平台+知识库平台)以及上层智能应用的完整技术栈,能力渗透至生产、物流、业务管理、办公等全链条。

(1)生产与质量提升:在传统生产线引入3D动作捕捉多模态模型与数字孪生技术,实现工艺质量的可量化提升;

(2)安全生产管理:结合多模态大模型与视觉小模型,构建起覆盖人员管理、轨迹分析与事件感知的智能安防体系,通过对超过3万路视频的统一管理,全面支撑安保管理及安全生产管理需求。

(3)智能办公:已实现知识问答、内容审核、智能问数、合同审核等众多场景。

代继总结说,商汤以“多模态大模型+视觉小模型+大语言模型”协同的方式,率先在传统行业实现了从车间到园区、从管理到办公的全链条AI重构。随着模型能力的持续提升,越来越多传统行业有望补齐信息化时代未完成的能力短板,实现真正意义上的“智能跃迁”。

从Token经济的兴起,到算力结构的重构,再到产业实践的深化,AI正加速从技术能力转化为现实生产力。在他看来,未来竞争将不再局限于模型本身,而是围绕“基础设施+生态+应用”的系统能力展开。

商汤大装置正通过“平台+生态”的协同优势,构建高效、稳定、灵活的AI基础设施体系,为大模型在千行百业的规模化落地提供坚实支撑。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10