通知公告

从想象力到生产力:亚马逊云科技如何构建“生成式AI+云计算”新业态?
时间:2023年12月15日 信息来源:运营商财经网 点击:

“生成式AI正在以意想不到的方式为提供人类的生产力,同时也在激发人类的智慧和创造力。”在2023 亚马逊云科技re:Invent中国行大会上,亚马逊云科技大中华区产品部总经理陈晓建如是说。

2023年,见证了以ChatGPT为代表的AI“高光时刻”,生成式人工智能一次又一次打破人类的认知边界,在AI带动下,云计算基础设施正在经历一波变革浪潮。

亚马逊云科技也在这波浪潮中最大程度释放AI价值,从端到端三个层面推出一系列AI技术创新产品和解决方案。

底层逻辑:提供训练和推理的基础设施

就最底层关注于性能、成本和最终经济效益的基础设施层方面,亚马逊云科技推出了用于生成式AI和机器学习训练的专用芯片Amazon Trainium2处理器,与第一代Trainium相比,Trainium2针对数千亿至数万亿参数的大模型训练进行了优化,性能大幅提升四倍。

除硬件外,亚马逊云科技还为其搭配了Amazon Neuron软件开发工具包,可以帮助企业更好、更快捷地使用定制化的训练和推理芯片。

陈晓建透露,“当前业界最头部100个大模型的环境中,Amazon Neuron已经支持了93种,而且这个数字还在不断增加。”

re:Invent中国行会上,Amazon SageMaker HyperPod工具引起了许多行业人士的关注。据介绍,SageMaker HyperPod能够自动管理多达上千台机器的大规模训练环境,自动检测和定位硬件故障,并且还能更换故障的实例和更改配置来自动规避所遇到的问题。

中层工具:提供基础模型构建工具

为了重塑用户体验、产品和流程,将生成式AI的能力带到企业客户的业务核心,亚马逊云科技针对面向生成式AI应用的构建者的工具Amazon Bedrock,发布更多模型和全新强大功能,助力安全构建和规模化生成式AI应用。

Amazon Bedrock可提供的广泛模型选择,不仅涵盖一些业界领先的开源模型,也包括亚马逊云科技自己推出的Amazon Titan模型。

Amazon Titan Text Embeddings可将把文本转换成向量;

Amazon Titan Text Lite是一种更小巧、更具成本效益的模型,支持聊天机器人问答或文本摘要等用例。 它重量轻,非常适合微调,为业务需求提供高度可定制的选择;

Amazon Titan Text Express适合比较复杂的环境,可用于更广泛的任务,如开放式文本生成和对话聊天;

Amazon Titan Multimodal Embeddings能够创建更丰富的多模态搜索和推荐体验;

Amazon Titan Image Generator文生图像模型,所生成的图像都会带有一个隐形水印,现已推出预览版,使客户能够使用自然语言提示生成高质量、逼真的图像或增强现有图像。

“这是我们自己创建并且训练的,因为我们拥有大量的专业知识,并且在机器学习、人工智能方面拥有超过25年的实践经验……因此,我们在Amazon Titan里提供的一系列功能强大和经济实惠的模型,都是通过精心选择的训练方式和数据,能为用户提供最 好的解决方案。”陈晓建介绍。

顶层应用:提供基础模型构建应用程序

作为re: Invent上备受期待的发布,全新的生成式AI助手Amazon Q可以说完全是为客户的业务需求量身定制的。

会上,亚马逊云科技表示,基于17年以来积累的知识和经验训练,Amazon Q绝对是亚马逊云科技服务的资深专家,可以在Amazon CodeWhisperer中回答开发人员的各种代码相关的问题并附上可一键实施的代码,同时还可提供代码转换功能可以将应用维护和升级时的代码转换所需时间从几天缩短至几分钟。 

此外,Amazon Q还可以连接像Amazon S3、Google Drive、Microsoft 365等多种多样在内的企业信息库,通过连接综合所有信息生成web应用,帮助企业人员更高效完成工作。

在商业智能BI方面,Amazon Q可通过引入BI应用Amazon QuickSight,帮助用户更简单、更轻松进行数据报表的整理。客户服务方面,Amazon Q可通过客服和客户之间的对话自动检测问题,同时搜索内部的知识库,进行自动回复建议。客服咨询电话打完后,它可以把整个电话的内容进行总结分析,以便为一些没有解决的问题做后续跟进。

数据基石:提供全面集成可治理的数据保障

强大的数据支持对生成式AI至关重要,re:Invent中国行大会上,亚马逊云科技围绕数据基础设施、集成以及治理等推出多项服务及功能。

进一步丰富向量数据库选择,确保业务数据和向量数据同步支持生成式AI。亚马逊云科技推出了Amazon OpenSearch Serverless、Amazon DocumentDB和Amazon DynamoDB、Amazon Memory DB for Redis,提升生成式AI应用在响应和延迟方面的性能表现。

为在数据中获取价值,确保数据跨数据仓库集成获得更完整的业务视图。亚马逊云科技在去年宣布的Amazon Aurora MySQL和Amazon Redshift的Zero-ETL集成基础上,又新发布Amazon Aurora PostgreSQL、Amazon RDS for MySQL和Amazon DynamoDB与Amazon Redshift的Zero-ETL集成预览版,消除以前为了数据在它们之间移动而不得不做的繁琐ETL工作的痛苦。

事实上,生成式 AI 的兴起为云服务商开辟了新蓝海,也在加速云服务商的变革。一直以来,亚马逊云科技的使命都是,帮助不同规模、不同体量的客户降低创新门槛。从今年的re:Invent中国行上,我们看到了一个不一样的亚马逊云科技,正在通过尖端芯片、独特三层技术堆栈,展示出了其对生成式AI发展的强烈信心。

“亚马逊云科技不仅是致力于让实用化产品的不断推出,把目前已有的产品做得更好,也专注于在未来这些看似触不可及的前沿技术不断地进行投资。”陈晓建表示,“希望能够通过re:Invent,实现技术的普惠,帮助客户去重塑业务。这个旅程远远没有终点。”


上一篇:省大数据集团算力平台项目试运行 助力福建AI产业发展
下一篇:中国人工智能产业发展联盟(AIIA)医学人工智能委员会工作会成功召开