对话亚马逊云科技全球技术总经理:Agentic AI迎来超级巨浪,云用户模型选择趋于多元化

市场资讯
08 Jul

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

智东西

作者 ZeR0

编辑 漠影

智东西7月8日报道,6月19日,在亚马逊云科技中国峰会上,亚马逊云科技全球技术总经理Shaown Nandi发表主题演讲,分享了亚马逊云科技在云以及AI领域的最新技术洞察和进展。会后,Shaown Nandi接受智东西等媒体的采访,他告诉智东西,亚马逊云科技Amazon Bedrock平台为构建AI agent提供了更多模型选择和灵活切换能力。借助Amazon Guardrails,用户可在更换模型或模型版本时,无需重构安全防护策略,简化工作流程。此外,用户还可以通过模型蒸馏、提示词路由等机制优化成本。

每个模型通常都有自己独立的API接口,而Amazon Bedrock提供的是统一API入口,支持所有模型。这意味着即使未来更换模型,只要用户最初用的是Amazon Bedrock的API,就无需改变调用方式,而且可以在平台上选择接入任意可用的模型。

在AI基础设施投入和短期盈利的平衡方面,Shaown Nandi称亚马逊秉持长期主义,致力于帮助客户实现长远目标,几周前还大幅降低了GPU价格以降低客户成本。芯片厂商的芯片改进、模型本身的优化,以及亚马逊云科技的模型蒸馏、自动提示语路由等技术,还有对GPU能耗的改进,都能推动推理成本的下降。

“AI技术的发展恰如巨型海浪的形成:看似平静的涟漪在特定条件下也可演变为高达30米的巨浪,生成式AI和Agentic AI同样已从小规模的突破,发展成当今的超级浪潮。而这一转变主要由不断创新的模型、海量可用数据及强大计算能力的融合所驱动。随着企业从谨慎探索转向广泛应用,以及亚马逊云科技等领先科技公司在模型能力、准确性、经济性与安全性等方面持续创新,这股AI超级巨浪正在重塑全球各个行业。”Shaown Nandi在演讲中谈道。

会后与媒体沟通期间,Shaown Nandi进一步分享说,Agentic AI和生成式AI已给很多公司带来了切实可见的成果。而亚马逊云科技的服务能帮助他们更好地利用自身数据、运力和计算能力打造应用,解决业务难题。

被问到过去一两年亚马逊云科技从AI agent发展中看到的增长情况,他分享说,客户使用和建立AI agent时会生成更多数据需要存储,云存储是更好的选择,客户对亚马逊云科技提供的迁移数据方式感到振奋,随着AI agent的发展,与云相关的使用活动也在增长,且财富500强中75%的工作负载仍在本地,未来迁移空间大,AI agent未来发展前景广阔。

亚马逊云科技平台上有很多好的用户案例和适用场景,比如在客户服务方面,Agentic AI应用旅行公司的一线坐席更快更准确地回应客户,加入情绪分析和实时翻译功能;软件工程领域应用增长也很快,亚马逊云科技自己以及很多初创公司都在Amazon Bedrock上构建了有效的AI agent。

在帮助客户将AI agent落地到具体应用场景时,亚马逊云科技有多项独特优势,包括提供更多模型选择、解决无差异化体力活、让客户在构建AI agent时能更快调整和更换模型,以及拥有韧性的基础设施、自研芯片等,能为客户提供更灵活、可靠、有效的解决方案。

关于客户调用模型时是集中在少数几个还是越来越分散,Shaown Nandi观察到,模型多样化趋势明显,专业、用途明确、能力强的模型不断出现,应用场景增多,用户模型选择持续多元化。

Shaown Nandi还举例说明了如何建立生成式AI应用,建议利用Amazon Bedrock时需考虑模型选择、成本、隐私和私密保护等因素。应用开发方面,Amazon Transform能帮助客户将遗留应用迁移到亚马逊云科技以实现现代化。Agent构建方面,亚马逊云科技提供了Amazon Bedrock、Strands Agents等工具。基础设施方面,亚马逊云科技在全球建立的区域和专有区域网络,既与英伟达在云方面长达14年的合作,又有Amazon Trainium、Amazon Graviton等自研芯片,并提供S3 Tables、元数据存储等高性能存储工具。

在他看来,MCP对于AI agent来说是强大的解锁器和解码器,就像通用的USB-C,能让AI agent更便捷地获取服务和数据,使其更自主化、智能化和自动化,前景广阔,已有很多客户及亚马逊云科技自身在使用。

Shaown Nandi称,所有类型的AI agent均可由合作伙伴或生态系统参与开发,亚马逊云科技开发的专有agent通常聚焦在自身有深厚专长的领域,或受客户启发填补市场空白,目标是让市场有更多选择。亚马逊云科技重视与合作伙伴协同,提供底层技术能力来帮助他们开发应用。

谈及企业级市场和C端市场在设计AI agent的区别,他认为企业级应用在设计初期就需考量安全性和韧性,再考虑功能实现,而C端应用初期更关注功能,两者区别明显,企业客户重视亚马逊云科技服务的韧性、安全性和可控性,在生成式AI使用中,数据使用与存储至关重要,产品设计中已做大量控制以保护信息。

在开源策略上,Shaown Nandi笃定地说,亚马逊云科技一直公开支持开源,Strands Agents便是一个开源工具。他相信专有模型和开源模型并存会给用户更多选择,也能让全球开发者更好地回馈社会、共同发展。

海量资讯、精准解读,尽在新浪财经APP

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10