對話亞馬遜雲科技全球技術總經理:Agentic AI迎來超級巨浪,雲用戶模型選擇趨於多元化

市場資訊
07-08

  炒股就看金麒麟分析師研報,權威,專業,及時,全面,助您挖掘潛力主題機會!

智東西

作者 ZeR0

編輯 漠影

智東西7月8日報道,6月19日,在亞馬遜雲科技中國峯會上,亞馬遜雲科技全球技術總經理Shaown Nandi發表主題演講,分享了亞馬遜雲科技在雲以及AI領域的最新技術洞察和進展。會後,Shaown Nandi接受智東西等媒體的採訪,他告訴智東西,亞馬遜雲科技Amazon Bedrock平臺爲構建AI agent提供了更多模型選擇和靈活切換能力。藉助Amazon Guardrails,用戶可在更換模型或模型版本時,無需重構安全防護策略,簡化工作流程。此外,用戶還可以通過模型蒸餾、提示詞路由等機制優化成本。

每個模型通常都有自己獨立的API接口,而Amazon Bedrock提供的是統一API入口,支持所有模型。這意味着即使未來更換模型,只要用戶最初用的是Amazon Bedrock的API,就無需改變調用方式,而且可以在平臺上選擇接入任意可用的模型。

在AI基礎設施投入和短期盈利的平衡方面,Shaown Nandi稱亞馬遜秉持長期主義,致力於幫助客戶實現長遠目標,幾周前還大幅降低了GPU價格以降低客戶成本。芯片廠商的芯片改進、模型本身的優化,以及亞馬遜雲科技的模型蒸餾、自動提示語路由等技術,還有對GPU能耗的改進,都能推動推理成本的下降。

“AI技術的發展恰如巨型海浪的形成:看似平靜的漣漪在特定條件下也可演變爲高達30米的巨浪,生成式AI和Agentic AI同樣已從小規模的突破,發展成當今的超級浪潮。而這一轉變主要由不斷創新的模型、海量可用數據及強大計算能力的融合所驅動。隨着企業從謹慎探索轉向廣泛應用,以及亞馬遜雲科技等領先科技公司在模型能力、準確性、經濟性與安全性等方面持續創新,這股AI超級巨浪正在重塑全球各個行業。”Shaown Nandi在演講中談道。

會後與媒體溝通期間,Shaown Nandi進一步分享說,Agentic AI和生成式AI已給很多公司帶來了切實可見的成果。而亞馬遜雲科技的服務能幫助他們更好地利用自身數據、運力和計算能力打造應用,解決業務難題。

被問到過去一兩年亞馬遜雲科技從AI agent發展中看到的增長情況,他分享說,客戶使用和建立AI agent時會生成更多數據需要存儲,雲存儲是更好的選擇,客戶對亞馬遜雲科技提供的遷移數據方式感到振奮,隨着AI agent的發展,與雲相關的使用活動也在增長,且財富500強中75%的工作負載仍在本地,未來遷移空間大,AI agent未來發展前景廣闊。

亞馬遜雲科技平臺上有很多好的用戶案例和適用場景,比如在客戶服務方面,Agentic AI應用旅行公司的一線坐席更快更準確地回應客戶,加入情緒分析和實時翻譯功能;軟件工程領域應用增長也很快,亞馬遜雲科技自己以及很多初創公司都在Amazon Bedrock上構建了有效的AI agent。

在幫助客戶將AI agent落地到具體應用場景時,亞馬遜雲科技有多項獨特優勢,包括提供更多模型選擇、解決無差異化體力活、讓客戶在構建AI agent時能更快調整和更換模型,以及擁有韌性的基礎設施、自研芯片等,能爲客戶提供更靈活、可靠、有效的解決方案。

關於客戶調用模型時是集中在少數幾個還是越來越分散,Shaown Nandi觀察到,模型多樣化趨勢明顯,專業、用途明確、能力強的模型不斷出現,應用場景增多,用戶模型選擇持續多元化。

Shaown Nandi還舉例說明了如何建立生成式AI應用,建議利用Amazon Bedrock時需考慮模型選擇、成本、隱私和私密保護等因素。應用開發方面,Amazon Transform能幫助客戶將遺留應用遷移到亞馬遜雲科技以實現現代化。Agent構建方面,亞馬遜雲科技提供了Amazon Bedrock、Strands Agents等工具。基礎設施方面,亞馬遜雲科技在全球建立的區域和專有區域網絡,既與英偉達在雲方面長達14年的合作,又有Amazon Trainium、Amazon Graviton等自研芯片,並提供S3 Tables、元數據存儲等高性能存儲工具。

在他看來,MCP對於AI agent來說是強大的解鎖器和解碼器,就像通用的USB-C,能讓AI agent更便捷地獲取服務和數據,使其更自主化、智能化和自動化,前景廣闊,已有很多客戶及亞馬遜雲科技自身在使用。

Shaown Nandi稱,所有類型的AI agent均可由合作伙伴或生態系統參與開發,亞馬遜雲科技開發的專有agent通常聚焦在自身有深厚專長的領域,或受客戶啓發填補市場空白,目標是讓市場有更多選擇。亞馬遜雲科技重視與合作伙伴協同,提供底層技術能力來幫助他們開發應用。

談及企業級市場和C端市場在設計AI agent的區別,他認爲企業級應用在設計初期就需考量安全性和韌性,再考慮功能實現,而C端應用初期更關注功能,兩者區別明顯,企業客戶重視亞馬遜雲科技服務的韌性、安全性和可控性,在生成式AI使用中,數據使用與存儲至關重要,產品設計中已做大量控制以保護信息。

在開源策略上,Shaown Nandi篤定地說,亞馬遜雲科技一直公開支持開源,Strands Agents便是一個開源工具。他相信專有模型和開源模型並存會給用戶更多選擇,也能讓全球開發者更好地回饋社會、共同發展。

海量資訊、精準解讀,盡在新浪財經APP

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10