江南APP美国表地功夫11月28日，亚马逊云科技（AWS）正在re：Invent环球大会上开启一系列产物更新，既有芯片、存储等根本举措，也有大模子任职平台和AI帮手。同时，亚马逊云科技还和英伟达进一步深化合营，大会首日的中央简直都和天生式AI闭联。

　　亚马逊云科技CEO Adam Selipsky正在现场映现了AWS的天生式人为智能旅馆图（Generative AI Stack），一共分为三层，起初是根本举措，AI必要雄伟的算力，此中就征求GPU、自研的Trainium等芯片；中央是AI大模子任职Amazon Bedrock，为开采者供应大模子接济、修建自身的运用；上层则是运用，譬喻新推出的AI帮手Amazon Q。

　　大会上，AWS也正在以上三个方面层层升级。而正在战况激烈的云赛场上，微软云、谷歌云等也正在编造性组织，从芯片、大模子再到运用，其都已入场。跟着天生式AI进化迭代，云阴谋也将迎来新的战事。

　　Graviton系列是基于Arm架构的任职器CPU，首款产物正在2018年公布，近5年间一共更迭了四代。

　　据先容，Graviton4与Graviton3收拾器比拟，职能提拔高达30%，独立重心扩大50%以上，内存带宽提拔75%以上，为正在Amazon EC2上运转的任务负载供应更优的职能和能效。

　　Trainium2芯片则专为天生式AI而来，日益扩大的天生式AI运用背后是根本模子和大说话模子的接济，而这些大模子都必要应用海量数据集举行磨练。此刻最先辈大模子往往蕴涵数千亿以至数万亿个参数或变量，必要更重大的“暴力阴谋”。

　　AWS表现，Trainium2与第一代Trainium芯片比拟磨练速率提拔多达4倍，并能正在EC2 UltraClusters中安置多达100000个芯片，可能正在极短的功夫磨练根本模子（FMs）和大说话模子（LLMs）科技，同时能效提拔多达2倍。

　　而正在自研芯片范围，谷歌推出TPU多年，近期微软刚公布两款芯片用于Azure云任职，云厂商的芯片竞赛也愈演愈烈，但正在GPU范围，各家都离不开英伟达。

　　此次，AWS就和英伟达进一步合营，英伟达创始人黄仁勋也来到现场，配合辩论盘绕天生式AI的开采。一方面，黄仁勋公告安置全新的GPU系列 ，征求最新的GH200，而AWS将是第一家正在云端装备拥有多节点NVLink手艺的NVIDIA GH200 Grace Hopper Superchips的云厂商。

　　另一方面，NVIDIA DGX Cloud 也将上岸 AWS。黄仁勋表现，DGX Cloud是英伟达的人为智能工场，可让企业和软件开采职员通过浏览器登入，即可得回英伟达的超等阴谋机DGX的AI算力。这是英伟达供应的磨练“云任职”，此前英伟达与微软Azure、谷歌OCP、Oracle OCI等其他云厂商沿道托管DGX Cloud根本举措。此刻，AWS也参预合营，正在AWS上运转的DGX Cloud将加快磨练含有进步1兆参数的天生式AI与大型说话模子。

　　同时，英伟达还与AWS合营促进Ceiba项目，该超等阴谋机将筑设16384颗NVIDIA GH200超等芯片科技，能收拾高达65 exaflops速率品级的AI运算，从而促进天生式AI的更始。

　　根本举措除表，AWS也正在大模子闭联产物上迭代。Selipsky指出，客户时常对奈何最好地奉行和应用人为智能有很多闭联题目，AWS希冀通过其Bedrock平台供应帮帮。

　　Bedrock平台是中央的器械层，Bedrock可能让用户应用大说话模子和其他根本模子修建天生式AI的运用。Selipsky表现，Bedrock拥有定造和安宁上风，目前曾经有进步一万名客户正在应用Bedrock，将来还会不停伸张科技。

　　“（天生式AI）现正在还处于早期阶段，”Selipsky讲道，差异模子往往会正在差异的合用场景中发挥更好，顺应才干非凡厉重。

　　因而，Bedrock供应了对大宗模子的探访接济，征求Anthropic的Claude模子。Anthropic被以为是OpenAI的强敌，本年亚马逊向Anthropic投资了40亿美元，随后Anthropic的模子也成为了AWS任职中的一局限。目前，亚马逊曾经推出自研的Amazon Titan AI大模子科技，据悉更多模子也即将推出。

　　同时，Bedrock也推出新功效，征求新的fine tuning（微调）器械、新的检索巩固天生（RAG）手艺、新的Agents使模子可能针对特定用例举行愈加定造和优化。

　　别的，AWS还正在会上推出了天生式AI驱动的帮手Amazon Q，它紧要用于任务场景中，譬喻辅帮员工落成平素任务、总结文献、解答公司战略等。此前，OpenAI推出了火爆的ChatGPT，谷歌推出了Bard智能谈天呆板人，此刻亚马逊也与之伸开竞赛。

　　目前，Amazon Q的预览版本已上线，局限功效可免费应用，正式版本中企业用户的用度为每人每月20美元，具备分表功效的版本用度为每人每月25美元。对照来看，Microsoft 365的Copilot和 Google Workspace的Duet AI均需支出每人每月30美元。

　　Selipsky指出，良多公司表现因为安宁和隐私的挂念，曾经禁止了企业应用这些人为智能帮手科技。对此，亚马逊安排Amazon Q时更重视安宁性和隐私性。

　　可能看到，方今的云阴谋跑道上，单点竞赛的期间已过，对大厂而言根本举措、大模子、运用任职都逐渐成为标配因素。特别是天生式AI期间莅临，大而全的竞赛正正在开启，眼下微软云连续下注加码，AWS也正在加快奔驰。亚马逊云科技的AI新国畿：升级自研CPU和AI芯片深化与英伟达配关