如今的大模型产业正进入一个关键时刻:泡沫破裂,还是落地改变世界。
Gartner数据显示,2024 年仅有 41% 的生成式 AI 试点项目能够成功进入生产阶段,更直观来说,59%的生成式AI落地,都死在了路上。这是一个尴尬的数据。
亚马逊云科技全球副总裁、亚马逊云科技大中华区总裁储瑞松也有提到,从技术能力与现实来看,过去一年,生成式AI真的爆发了。
但技术爆发的量变,到引起产业的质变,有一道关于落地的鸿沟。如果继续维持现状,那么大概率产业的演化,会如同过往Gartner曲线的走势,短暂的泡沫之后,进入又一次漫长衰退。前进一步,则大模型可以造福一半企业,成为新的社会基础设施。
为了避免AI的故事一次又一次重蹈覆辙,早在2023年亚马逊云科技就成立了一个秘密组织,生成式AI创新中心,让350 位战略顾问、应用科学家、数据科学家、开发人员和专家帮助客户制定生成式 AI 战略,并协助他们构建生成式 AI 解决方案,以实现业务成果。
而这个秘密组织,如今已经来自不同行业的客户提出的超过 1500 个项目需求,推动82%+客户从 PoC 到量产。
也就是说,在亚马逊云科技上,生成式AI已经率先翻过了技术的Gartner死亡谷,进入产业发展的稳步增长期。
那么亚马逊云科技凭什么翻过Gartner死亡谷?秘密组织生成式AI创新中心的经验是什么?
所有答案都藏在正在进行中的2025 亚马逊云科技中国峰会上。
Gartner死亡谷里藏着什么?
在储瑞松看来:历史上蒸汽机放大和解放了人的肌肉,落地纺织、交通、采矿和冶炼,带来了工业革命;如今,机器智能放大和解放人的大脑智力,带来下一场革命。
而且,与历史上的前几轮AI泡沫不同,2023年崛起的生成式AI浪潮中,技术的成熟度,早已跨过了从实验室到工业生产的门槛。峰会现场储瑞松展示,无论测试多个学科领域的MMLU、测试科学领域的GPQA、测试真实世界软件工程相关问题的SWE-bench还是推出的HLE — Humanity’s Last Exam(人类的最终考试),模型的能力早已隐约展现出了巨大的潜力。
既然技术不是问题,那么为什么市面上59%的项目,都倒在了爆发的前夜。
两年多的实践经验,优秀的生成式 AI成功原因百花齐放,但是黄掉的项目,却大多教训雷同。总结来说有四点
教训一:场景选错,不是所有问题都值得用AI解决
许多企业在AI项目启动时,犯的第一个错误就是“为AI而AI”。高频词是“增强效率”“提升智能化”“优化工作流程”,但缺乏对场景价值的量化认知。
一个很典型的例子是:很多公司希望通过大模型提升客服效率,于是部署了GPT接口替代基础问答模块,但因缺少专有数据增强与业务上下文处理,模型表现甚至不如原有基于规则的FAQ系统。结果就是大模型胡说八道,人类跟在身后补锅道歉。不仅没有如愿达到成本降低,反而带来了不少的不必要麻烦。
教训二:模型错配,大模型唯参数、唯最优论
亚马逊云科技全球技术总经理 Shaown Nandi观察到,基础模型的进展以周为单位,永远会有层出不穷的更强大、更具成本效益和更快速的模型发布。但不会存在一个模型能适用于所有用例的情况。更多企业需要的其实是定制模型的能力,以及有选择的权利,因此在Amazon Bedrock中,亚马逊云科技托管了全球各大主流大模型企业的基础模型,从数千亿甚至万亿参数的巨型模型到只有几百万参数的小型模型均有覆盖。
亚马逊云科技全球技术总经理 Shaown Nandi
但现实中,往往很多团队都会盲目拥抱市面上最大、最贵、指标最亮眼的模型,忽略了实际业务对时延、成本和精度的多维需求,导致项目盲目上马之后,最后又潦草下台。
教训三:ROI不可控,没人知道项目值不值,导致不敢上马
事实上,多数生成式AI项目失败的最终归宿,往往不是技术挂了,而是领导觉得看不到价值。在技术团队视角里,模型能跑通、响应速度OK、可以调优就意味着项目完成;但在业务部门眼中,没有明确指标提升、没有看得见的成本优化,项目就等于实验室玩具。
过程中,基础模型、使用场景的数量和负载特征、模型的定制和调优策略能做到什么水平,需要让决策层有概念,执行层有目标;最终带来了什么效果,不仅要肉眼可见,也需要数据可量化,成本能算清。
教训四:没有完善的成果检测闭环,项目静默暴毙
基于前三个问题的背景,最后导致的结果就是很多生成式AI项目上马之后,做出来没人用,也找不到原因,没办法升级迭代,导致陷入静默暴毙状态。尤其是项目后期维护需要成本,怎么说服老板继续投入,很多团队连个评估框架都没有。
一句话总结来说,如今的生成式AI已经度过了认知普及阶段,但大部分项目黄在了前期不会选,中期不会用,后期没闭环上。
爬出死亡谷,亚马逊云科技的两重准备与四大秘籍
关于如何爬出死亡谷,见证了亚马逊云科技帮助国内上千项目落地后,储瑞松将问题拆解成了自上而下与自下而上两个角度。
“在我与很多客户的沟通中能观察到,越来越多的企业都想拥抱AI 、Agentic AI,但却不知道从何开始。我认为,企业需要做好双重准备。”
自上而下,是管理。高层拥抱生成式AI和Agentic AI时需要有明确的认知和顶层设计,要在机制和人才上做准备,要认清之前企业信息化、数字化的工作和时代的关系。
自下而上,是技术。技术又可以被分为三点,其一是统一的AI就绪的基础设施,过去一度甚嚣尘上的多云策略,其有限的连接性会导致企业出现业务孤岛、数据孤岛,导致最终体验大打折扣。其二是聚合的、经过治理的数据,如今模型调用已经没有门槛,企业独有的差异化的来源只有数据,数据只有通过聚合与高效管理,才能产生价值。其三则是高效的策略和快速高效地执行。
而多数项目之所以最终静默暴毙,除了已经客观存在的管理、企业基础设施以及数据之外,最大的问题就出在策略与执行上。
围绕策略与执行,亚马逊云科技还把过往项目执行中的四大“爬坑”经验做了总结:
首先是针对场景,亚马逊云科技给出七大评估维度与十一大场景总结,七大评估维度包括团队、时间节点、可行性、预算、风险、ROI、数据是否支持;场景则包括翻译、运营、写作、角色扮演、教辅、办公、客服、开发、审核、知识助手、运维。也就是说,团队只有满足了七大维度评估标准,项目上马才会更安全,围绕十一大成熟场景做落地,成功的概率也会更高。此外,围绕场景,亚马逊云科技还给出了成熟案例参考,加速团队的创新。
确定了项目可以上马后,接下来常见的问题是选型阶段的技术错配。亚马逊云科技的实践经验,技术选型需要从模型层、数据层和技术方案层三个维度进行系统性考虑。
在数据层,企业需要考虑:如何做分析、如何做管理、如何做切分和优化;技术层,企业应该善于使用MCP、多Agent工具调用框架等方案,提升开发效率。最重要的是模型层,通常来说,企业在速度/时延、成本、精度这三大因素中,往往只需要三选其二即能满足需求。
一个正面案例是,FreeWheel在广告识别场景中对比评估了Nova Lite、GPT-4 mini与Claude 3 Haiku等多个模型。结果显示,在延迟、输出稳定性与推理成本的综合对比下,精度反而不是唯一决定因素。最终他们选择了精度中上、推理速度极快、成本可控的方案,以实现批量部署与高频调用的目标。
选型过程定好方案后,项目正式开始落地,此时的关注重点应该是ROI。为避免ROI不可控,亚马逊云科技给出了六大阶段、三个层面不同解决思路。围绕六大阶段,关于如何做用例、评估、POC、生产、规模化、治理,亚马逊云科技都进行了细化。三层则是模型层、提示词层、基础设施层,亚马逊云科技也给出了专门的优化策略。
上马之后,团队需要继续关注的是是否完成成果检测闭环,亚马逊云科技同样给出了质量评估、性能评估、应用效果等不同维度的数据,帮助企业衡量系统在实际场景中的效果、成本与用户接受度。
总结来说,让项目前期有预期,中期有选择,后期有优化,每一步都有凭有据有效果,是多数成功生成式AI项目落地的共同经验。而过程中,亚马逊云科技就是那个保驾护航和帮助提供选择和指标的加速器。
为什么是亚马逊云科技
为什么多数企业都选择亚马逊云科技成为其生成式AI转型路上的加速器?
不同企业的答案,各有千秋。
比如在咨询公司德勤看来。 他们使用Amazon Q Developer来评估架构决策、检查和记录代码、生成代码、创建单元测试,并持续审查和执行安全实践,不止让开发的速度提高了40%,测试时间减少了70%,代码质量有了很大提升,更是解放了开发人员不用再做那些枯燥的工作,让工作变得更加有价值。
再比如,在WPS看来,WPS AI(海外版)通过Amazon Bedrock,进行语义检查与文档润色,模型的快速响应大幅提升了修改速度,减少用户等待时间,还实现了PPT一键生成、一句话扩写PPT大纲、文档转PPT大纲、自动模板匹配等特色功能,解决了其出海过程中的研发、成本、用户体验多个困扰。
但总结来说,亚马逊云科技带给企业的,不只是一朵云,更是基于这一朵云的更低成本、更高水平安全合规、更多经验、与更多AI能力的提供。
众所周知,云服务的本质是一个讲究规模效应的产业。而对生成式AI落地来说,更是如此,实验室创新需要天马行空,量产需要大量经验积累,大力出奇迹。而亚马逊云科技作为全球第一大云,已经覆盖全球245个国家和地区,与下一大云服务提供商相比,拥有三倍以上的数据中心数量。此外,亚马逊云还以99.99%的超高可用性,成为中国唯一达到“四个九”标准的云服务提供商。
不只是规模大,亚马逊云科技的另一大特点在于能力更全。现实中,多数企业都有转型意识,却没有转型能力,甚至更夸张来说,只有数据,没有能力。而亚马逊云科技过去18个月推出的机器学习和生成式AI功能数量较全球主要云服务提供商的总和多出近两倍。同时,提供覆盖企业生成式AI创新所需的基础设施、构建工具以及开箱即用型应用程序的全栈能力。
仅仅算力侧,亚马逊云科技除了能为客户提供来自Nvidia的最新GPU计算实例,还能提供亚马逊云科技自研的高性价比、低能耗自研AI芯片Trainium。
数据侧,亚马逊云科技提供的全面大数据能力,包括数据湖、数据仓库、数据流、实时分析,能够帮助客户打破数据孤岛,统一治理异构数据,实现基于数据的业务洞察。
而在最重要的AI层面,亚马逊除了是全球Gen AI转型的先行者,同时亚马逊云科技还能提供领先的模型和工具,包括Amazon Bedrock平台,Amazon Q,Amazon Transform,Strands Agents SDK等简单易用、功能完善强大的开发工具。此外,亚马逊云科技还宣布2025年投入约1000亿美元用于其人工智能项目的研发。其中大部分将用于AI相关项目,涵盖AWS的数据中心、网络设备、AI硬件以及生成式AI服务能力建设。
事实上,亚马逊云科技能够常年保持龙头地位,除了更早的投入与更专注之外,另一大公开秘籍其实是善于分享。
对内是生成式AI创新中心帮助伙伴成功;对外则是在中国峰会中分享经验,帮助更多企业顺利转型。让企业生成式AI落地从59%的死亡率,变成82%的成功率,让更多企业基于亚马逊云科技,加速创新的发生,用整体的进步来做大蛋糕。
特别策划
Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.