在今年的Amazon re:Invent大会上,第二天的焦点明显转向了模型训练、推理及应用落地,一系列创新工具和服务成为了全场瞩目的亮点。Amazon SageMaker、Amazon Bedrock和Amazon Q,作为这一战略的核心组成部分,正引领着生成式AI技术的全新发展方向。
亚马逊云科技的人工智能与数据副总裁Swami Sivasubramanian指出,我们正站在生成式AI发展的十字路口,尽管前路并非总是清晰明了,但推动技术进步的好奇心与解决客户实际问题的决心,正成为我们前行的强大动力。
Amazon SageMaker,这一全球数十万客户信赖的平台,已经凭借其卓越的功能成为了构建、训练和部署机器学习模型的首选。在今年的Keynote演讲中,亚马逊云科技的首席执行官Matt Garman详细介绍了下一代SageMaker的愿景,它将大数据处理、快速SQL分析、机器学习以及生成式AI的核心能力整合到一个统一的平台中,为用户提供前所未有的便捷体验。
为了进一步提升SageMaker的训练效率,亚马逊云科技推出了Amazon SageMaker HyperPod。这款创新的解决方案具备出色的弹性能力,能够在集群遭遇全栈故障时自动恢复,同时提供快速的检查点和主动计算资源管理功能。HyperPod的灵活训练计划和任务治理功能,更是极大地简化了模型训练计划的管理,提高了计算资源的利用率,降低了成本。
在推理领域,Amazon Bedrock正成为企业构建和扩展生成式AI应用的得力助手。它不仅是一个模型库,更是一种一站式解决方案,覆盖了从模型选择、成本优化、延迟和准确性提升,到数据定制、安全性和负责任AI,再到构建和协调Agent的全方位能力。通过Bedrock的统一API,用户可以轻松访问来自领先提供商的100多个新兴和专业基础模型,并结合知识库、智能防护和智能代理功能,实现更高效的应用开发。
Amazon Bedrock还引入了多项创新功能,如提示词缓存和提示词智能路由,以大幅降低延迟和成本。同时,它还提供了Amazon Kendra GenAI Index,为RAG和Bedrock提供托管检索服务,简化了对企业数据源的连接和使用。在数据自动化方面,Bedrock能够自动化非结构化多模态数据的转换,为结构化数据检索提供支持,并增强了GraphRAG对知识图谱的集成。
Amazon Q作为生成式AI助手,也在大会上大放异彩。Amazon Q Developer不仅成为了亚马逊云科技专家的得力助手,更是一款功能强大的软件开发生成式AI助手。它支持SageMaker Canvas中的自然语言开发ML模型,帮助经验较少的客户轻松上手。同时,Amazon Q还在Quicksight Scenarios中提供了支持,实现了BI对复杂业务问题的自动拆解,加速了商业分析的过程。
尽管亚马逊云科技提供了如此完备的产品和技术服务,但企业在面对生成式AI时仍然面临一些挑战。亚马逊云科技全球服务副总裁Uwem Ukpong总结了三大挑战:云迁移瓶颈、数据孤岛难题以及应用场景聚焦不足。为了解决这些问题,亚马逊云科技成立了生成式AI创新中心,与客户合作完成了超过700个应用案例。对于不同技术水平的客户,亚马逊云科技提供了从“低强度指导”到“白手套服务”的全方位支持,帮助客户独立推进项目或一起构建生成式AI应用。
在概念验证项目中,Uwem Ukpong强调,企业需要认真评估成本与收益,分析投资回报率,并判断具体的用例是否值得重点推进。通过这一系列的创新举措和全方位支持,亚马逊云科技正致力于推动生成式AI技术的广泛应用和深入发展。