AWS 在 re:Invent 2024 加强其生成 AI 能力,成为市场的领导者。 *从推理演变到训练* 为企业提供了无限的潜力。 *先进的工具和战略合作伙伴关系* 重新定义了成本优化和运营效率。 *创新的新时代* 在这里开始,将企业的能力提升到新的人工智能高峰。 AWS 部署的工具彻底改变了 云端 与 人工智能 之间的互动。
AWS 生成 AI 的新功能
在 re:Invent 2024 大会的开幕日,AWS 的 AI 和数据副总裁 Swami Sivasubramanian 揭晓了多项创新功能,旨在丰富亚马逊的生成 AI 工具。这些新选项不仅旨在简化模型训练流程,还优化推理,并减少相关的运营成本。
Amazon Bedrock 的改进
生成 AI 的推理平台 Amazon Bedrock 在引入多项新功能后获得了更强的支持。首先,缓存提示 使用户能够存储与特定提示相关的先前响应。这个深受竞争方法启发的系统确保了成本的大幅降低和响应能力的提升。
其次,AWS 公布了一种 智能路由,其灵感来源于 Amazon Q。每次请求时,系统根据请求的复杂性将请求路由到最合适的模型。这不仅节省了成本,还通过根据每个请求的要求对模型进行优先级排序,提供了更相关的响应。
Bedrock 的技术创新
其他技术创新也为 Bedrock 增加了新的内容。对 结构化数据 的支持简化了对数据库的自然语言查询。通过集成 GraphRAG,AWS 还加强了信息之间的连接,有助于减少 AI 生成的幻觉。
此外,Bedrock 数据自动化 提供了将非结构化数据转化为可用格式的自动化。这项功能旨在释放企业中通常难以访问的 80% 数据的潜力,从而为人工智能生成可用信息。
与初创公司的扩展合作伙伴关系
AWS 不仅限于自身的发展。它还与一些前景光明的初创公司展开合作。该平台现在包括来自 Poolside 的解决方案,该公司专注于代码生成,以及 Stability AI 的创新技术 Stable Diffusion 3.5 用于图像创建。与 Luma 的合作增加了视频生成的先进能力。
值得注意的是,Bedrock Marketplace 的旧公告伴随着对一百多个专业模型的访问,包括 IBM 开发的模型,进一步丰富了企业可用的工具组合。
SageMaker 转型为分析平台
AWS 的 SageMaker 平台,因其在 机器学习 领域的传承而闻名,现在也配备了新工具以增强分析能力。灵活培训计划 简化了计算资源的管理,使其能够根据每个训练项目的特定需求自动分配。这一进展可能将规划时间减少多达 40%。
任务治理 功能优化了图形集群的使用,根据流量在推理和训练之间重新分配它们的使用。最后,微调食谱 允许用户通过具体的适应性响应示例来个性化模型,从而根据他们的特定需求调整这些工具。
Amazon Q 集成到 SageMaker Canvas 和 QuickSight
AWS 的 AI 助手 Amazon Q 集成到 SageMaker Canvas 和 QuickSight,从而优化与用户的交互过程。在 SageMaker Canvas 中,Q 通过自然对话创建机器学习模型,简化了将项目拆分为定义的分析步骤的过程。
在 QuickSight 中,该助手充当分析师,帮助用户理解复杂场景。用自然语言提出的请求使 Q 能够识别相关数据并系统地分析这些信息。
这些开发将 AWS 定位为生成 AI 领域的有力竞争者。该平台以其优化的工具和战略创新崛起为一项强有力的解决方案,能够与市场领导者竞争。
AWS 在 re:Invent 2024 中增强生成 AI 工具的常见问题解答
AWS 在 re:Invent 2024 上介绍了哪些生成 AI 的新功能?
AWS 引入了多项新功能,其中包括对 缓存提示 的支持、智能路由,以及用于用自然语言查询数据库的工具和非结构化数据自动化系统。
缓存提示 如何减少成本?
缓存提示 允许 AI 存储与其提示相关的先前响应。因此,如果进行相似请求,AI 可以直接返回存储的响应,而不是重新计算,从而加快响应时间并降低推理成本。
什么是 智能路由,其工作原理如何?
智能路由 根据请求的复杂性将请求引导到最适合的语言模型。简单请求由较小的模型处理,而复杂请求则使用更高级的模型,从而实现更好的准确性和成本降低。
AWS 如何借助 Bedrock 的新功能简化对非结构化数据的访问?
AWS 提供了 Bedrock 数据自动化,该功能自动将非结构化数据(如文档、图像和视频)转换为可由 AI 应用使用的可用格式,从而简化对大量企业数据的访问。
新的 Amazon SageMaker 功能对机器学习的影响可能是什么?
AWS SageMaker 的新功能通过 灵活培训计划 提供更好的计算资源管理,利用 任务治理 在非高峰时段优化 GPU 的使用,并提供 微调食谱 根据特定需求自定义模型。
Amazon Q 如何改善用户在 AWS 服务中的体验?
Amazon Q 通过自然语言对话在 SageMaker Canvas 中简化机器学习模型的创建,在 QuickSight 中,它作为虚拟分析师,能够通过解释用户的普通语言请求来执行复杂分析。
哪些公司与 AWS 在这些新功能上形成了合作伙伴关系?
AWS 整合了来自 Poolside 的解决方案,该公司是一家专注于代码生成的法国初创企业,以及 Stability AI 的图像生成模型 (Stable Diffusion 3.5),还包括 Luma 的视频生成技术,以丰富其在 Bedrock 平台上的产品。
AWS 在生成 AI 方面的创新主要目标是什么?
AWS 旨在为企业提供一整套全面高效的工具,开发生成 AI 的能力,同时降低成本并优化流程,以便有效与市场领导者竞争。