概述
在 AWS 中,Amazon Bedrock 和 Amazon SageMaker AI 满足不同的需求。在比较功能或职责之前,确定特定的服务、模型提供者和部署配置。
主要要点
- 区分 Bedrock 和 SageMaker AI 角色。
- 验证实际型号和地区。
- 评估数据控制和完整的运营成本。
深入探讨
Amazon Bedrock 提供对基础模型和相关应用程序功能的托管访问。 Amazon SageMaker AI 支持构建、训练和部署机器学习模型。这些服务可能在某些工作流程中重叠,因此请使用当前的 AWS 决策指南和服务文档来完成预期任务。型号可用性、支持的功能、区域和访问要求可能有所不同。通过托管平台提供的模型可能具有与模型提供商的直接 API 不同的集成细节。记录评估中使用的端点、模型版本和配置。通过涉及的 AWS 服务规划权限和数据流。存储、检索、日志记录和模型调用都可以有自己的控件。托管服务减少了一些基础设施工作,但并没有免除应用程序所有者对授权访问和适当数据使用的责任。评估完整的成本和操作行为,包括失败的请求、吞吐量需求、存储和传输。在生产使用之前测试代表性任务和故障处理。避免将广泛的云平台功能列表视为针对特定帐户或区域启用每个功能的证据。
04工作示例
根据需求选择服务
想象一下,一个团队需要调用现有的基础模型,而另一个团队需要训练和部署自定义分类器。
在选择服务之前列出每个团队的培训、服务、数据和操作要求。
对所需路径进行原型设计并验证其当前可用性,而不是假设一个 AWS 产品名称可以满足这两种需求。
它显示了什么
构建的场景组织服务比较,而不推荐购买或声明特定于帐户的可用性。
现实世界的实施
将托管基础模型工作流程与自定义培训要求进行比较。
验证实际部署区域中的模型访问和数据权限。
付诸实践
为什么这很重要
- 供应商策略. 供应商路线图会影响您的团队接下来可以构建的功能。
- 成本与预算. 商业条款和部署选项会影响长期成本和风险。
- 风险与安全. 公司激励措施塑造了产品默认、安全态势和开放性。
留意
- 发布公告可能会超过实际生产工作流程的稳定性。
- API 定价或政策转变可能会在一夜之间打破假设。
- 单一供应商依赖性增加了锁定和迁移成本。
后续步骤
- 使用您自己的任务和数据集评估提供商。
- 在集成之前查看隐私、安全和法律条款。
- 维护跨模型或供应商的后备计划。
- 监控发行说明,以便路线图的更改不会让团队感到意外。
资料来源与延伸阅读
不断探索
常见问题
Amazon Bedrock 和 SageMaker AI 是同一个服务吗?
不。它们支持不同的、有时重叠的工作流程。将他们当前的功能与特定的开发和部署要求进行比较。