Tiếp theoHướng dẫn tiếp theo
Amazon SageMaker cho quy trình công việc ML
kỹ thuật
HƯỚNG DẪN KỸ THUẬT
Terraform mô tả cơ sở hạ tầng đám mây dưới dạng mã và tạo hoặc cập nhật tài nguyên bằng cách so sánh cấu hình với API nhà cung cấp và trạng thái được ghi lại.
Nghe hướng dẫn nàyAI thuật lại · ~3 min
Các nhóm ML có thể sử dụng nó để cung cấp tài nguyên điện toán, lưu trữ, kết nối mạng và phân phối nhiều lần, đồng thời bảo vệ trạng thái, xem xét kế hoạch và xử lý dung lượng GPU chuyên dụng một cách cẩn thận.
Infrastructure as code makes cloud resources declarative and reviewable. Terraform configuration describes providers, resources, modules, variables and outputs. The provider communicates with a cloud or service API. Terraform state records the relationship between declared resources and real infrastructure so the tool can calculate changes. The common workflow is initialize providers, review a plan and apply approved changes. ML infrastructure may include GPU instances or node pools, object storage for datasets and artifacts, network endpoints, identities, logging and autoscaling. Resource choices depend on workload shape, region capacity, accelerator availability and cost. GPU quota or stock can vary, and a syntactically valid plan does not guarantee the provider can create the resource. Use small modules with explicit inputs and outputs, and separate environments where appropriate. State is sensitive operational data. It may contain identifiers and values that should not be exposed. Store it in a protected remote backend, restrict access and use locking where supported to prevent concurrent writers. Do not commit state files or credentials. Provider versions and module inputs should be controlled so a future initialization does not unexpectedly alter resource behavior. Review plans in CI but keep apply permissions narrow, especially for production. Terraform can provision the infrastructure around an ML model but does not assess model quality. A resource plan may create a serving endpoint that faithfully hosts an unevaluated candidate. Keep model registry identity and validation gates separate, then reference the approved artifact in deployment configuration. Destroying a resource can delete important data or interrupt service, so inspect destructive changes and preserve backups. Infrastructure code supports repeatability and auditability when state, credentials and review are managed carefully; it does not eliminate cloud-provider differences, quota failures or operational responsibility.
Mô-đun Terraform giả định cung cấp nhóm nút GPU, nhóm lưu trữ đối tượng và chính sách mạng phân phối mô hình với các biến được xem xét cho khu vực và loại máy.
Yêu cầu kéo chạy kế hoạch địa hình và người đánh giá kiểm tra các thay đổi được đề xuất trước khi áp dụng được ủy quyền, giảm các chỉnh sửa bất ngờ đối với cơ sở hạ tầng dùng chung.
Một nhóm lưu trữ trạng thái Terraform trong một chương trình phụ trợ từ xa được bảo vệ bằng khóa, vì những thay đổi đồng thời hoặc trạng thái bị mất có thể khiến việc quản lý tài nguyên trở nên không đáng tin cậy.
Nền tảng ML tham chiếu hình ảnh vùng chứa và cài đặt tự động điều chỉnh tỷ lệ trong cấu hình cơ sở hạ tầng trong khi vẫn duy trì xác thực mô hình và quảng bá tạo phẩm trong một quy trình phát hành riêng biệt.
Các nhóm cơ sở hạ tầng ML có thể cải thiện độ tin cậy bằng cách đưa các mô-đun GPU, bộ lưu trữ và điểm cuối có thể tái sử dụng thông qua các kế hoạch đã được xem xét, trạng thái được bảo vệ và các quyền áp dụng hẹp. Họ nên kiểm tra những thay đổi trong môi trường phi sản xuất và theo dõi việc nâng cấp nhà cung cấp một cách có chủ ý. Sự trôi dạt về cơ sở hạ tầng và những hạn chế về hạn ngạch sẽ xuất hiện trong sổ sách hoạt động. Tài liệu tham khảo triển khai mô hình phải trỏ đến phiên bản tạo phẩm đã được phê duyệt trong khi bằng chứng xác thực riêng biệt xác định việc quảng cáo. Quy trình sao lưu và khôi phục trạng thái rõ ràng giúp cơ sở hạ tầng dưới dạng mã an toàn hơn khi các nhóm phát triển hoặc tài nguyên đám mây trở nên quan trọng trong kinh doanh. Kiểm tra quyền truy cập vào trạng thái và lưu giữ các bản sao khôi phục trước khi thay đổi phụ trợ.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
Terraform mô tả cơ sở hạ tầng đám mây dưới dạng mã và tạo hoặc cập nhật tài nguyên bằng cách so sánh cấu hình với API nhà cung cấp và trạng thái được ghi lại. Các nhóm ML có thể sử dụng nó để cung cấp tài nguyên điện toán, lưu trữ, kết nối mạng và phân phối nhiều lần, đồng thời bảo vệ trạng thái, xem xét kế hoạch và xử lý dung lượng GPU chuyên dụng một cách cẩn thận.
Trạng thái ánh xạ địa chỉ tài nguyên Terraform tới các đối tượng cơ sở hạ tầng và hỗ trợ tính toán thay đổi.
Bản xem trước kế hoạch tạo, cập nhật và hủy các hành động dựa trên quan sát về cấu hình, trạng thái và nhà cung cấp.
Trạng thái có thể bao gồm dữ liệu nhạy cảm và cần thiết để theo dõi cơ sở hạ tầng; truy cập và sao lưu là vấn đề quan trọng.
Kế hoạch không thể đảm bảo rằng nhà cung cấp có năng lực hoặc hạn ngạch khi nguồn lực được tạo ra.
Đánh dấu nhạy cảm kiểm soát hiển thị đầu ra nhưng không tự động ngăn chặn việc lưu trữ ở trạng thái.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Amazon SageMaker cho quy trình công việc ML
kỹ thuật