ДалееСледующее руководство
Amazon SageMaker для рабочих процессов машинного обучения
Технический
Техническое РУКОВОДСТВО
Terraform описывает облачную инфраструктуру как код и создает или обновляет ресурсы путем сравнения конфигурации с записанным состоянием и API-интерфейсами поставщика.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Команды машинного обучения могут использовать его для многократного предоставления вычислительных, хранилищных, сетевых и обслуживающих ресурсов, одновременно защищая состояние, проверяя планы и тщательно обрабатывая специализированные ресурсы графического процессора.
Инфраструктура как код делает облачные ресурсы декларативными и доступными для просмотра. Конфигурация Terraform описывает поставщиков, ресурсы, модули, переменные и выходные данные. Поставщик взаимодействует с облаком или сервисным API. Состояние Terraform записывает взаимосвязь между заявленными ресурсами и реальной инфраструктурой, поэтому инструмент может рассчитывать изменения. Общий рабочий процесс — инициализация поставщиков, проверка плана и применение утвержденных изменений. Инфраструктура ML может включать экземпляры графических процессоров или пулы узлов, объектное хранилище для наборов данных и артефактов, конечные точки сети, удостоверения, ведение журналов и автоматическое масштабирование. Выбор ресурсов зависит от формы рабочей нагрузки, мощности региона, доступности и стоимости ускорителя. Квота или запас графического процессора могут различаться, и синтаксически допустимый план не гарантирует, что поставщик сможет создать ресурс. Используйте небольшие модули с явными входными и выходными данными, а также отдельные среды, где это необходимо. Состояние — это конфиденциальные оперативные данные. Он может содержать идентификаторы и значения, которые не следует раскрывать. Храните его в защищенном удаленном бэкэнде, ограничивайте доступ и используйте блокировку, где это возможно, чтобы предотвратить одновременную запись. Не фиксируйте файлы состояния или учетные данные. Версии поставщика и входные данные модуля следует контролировать, чтобы будущая инициализация не привела к неожиданному изменению поведения ресурса. Просматривайте планы в CI, но сохраняйте узкие разрешения на применение, особенно для рабочей среды. Terraform может предоставить инфраструктуру для модели ML, но не оценивает качество модели. План ресурсов может создать обслуживающую конечную точку, которая добросовестно размещает неоцененного кандидата. Разделите идентификатор реестра модели и шлюзы проверки, а затем ссылайтесь на утвержденный артефакт в конфигурации развертывания. Уничтожение ресурса может привести к удалению важных данных или прерыванию работы службы, поэтому проверяйте деструктивные изменения и сохраняйте резервные копии. Код инфраструктуры поддерживает повторяемость и проверяемость при тщательном управлении состоянием, учетными данными и проверкой; это не устраняет различия между поставщиками облачных услуг, нарушения квот или эксплуатационную ответственность.
Гипотетический модуль Terraform предоставляет пул узлов графического процессора, корзину для хранения объектов и сетевую политику обслуживания моделей с проверенными переменными для региона и типа машины.
Запрос на включение запускает план terraform, и рецензенты проверяют предлагаемые изменения перед их авторизованным применением, что снижает количество неожиданных изменений в общей инфраструктуре.
Команда хранит состояние Terraform в защищенном удаленном бэкэнде с блокировкой, поскольку одновременные изменения или потеря состояния могут сделать управление ресурсами ненадежным.
Платформа машинного обучения ссылается на образ контейнера и параметры автомасштабирования в конфигурации инфраструктуры, сохраняя при этом проверку модели и продвижение артефактов в отдельном процессе выпуска.
Команды по инфраструктуре машинного обучения могут повысить надежность, используя повторно используемые модули графического процессора, хранилища и конечных точек с помощью проверенных планов, защищенного состояния и узких разрешений на применение. Им следует тестировать изменения в непроизводственной среде и сознательно отслеживать обновления поставщиков. Изменения в инфраструктуре и ограничения квот должны появиться в операционных книгах. Ссылки на развертывание модели должны указывать на утвержденную версию артефакта, в то время как отдельные доказательства проверки определяют продвижение. Четкая процедура резервного копирования и восстановления состояния повышает безопасность инфраструктуры как кода, когда команды растут или облачные ресурсы становятся критически важными для бизнеса. Аудит доступа к состоянию и сохранение резервных копий перед изменениями серверной части.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Terraform описывает облачную инфраструктуру как код и создает или обновляет ресурсы путем сравнения конфигурации с записанным состоянием и API-интерфейсами поставщика. Команды машинного обучения могут использовать его для многократного предоставления вычислительных, хранилищных, сетевых и обслуживающих ресурсов, одновременно защищая состояние, проверяя планы и тщательно обрабатывая специализированные ресурсы графического процессора.
Состояние сопоставляет адреса ресурсов Terraform с объектами инфраструктуры и поддерживает расчет изменений.
Предварительный просмотр плана создает, обновляет и уничтожает действия на основе конфигурации, состояния и наблюдений поставщика.
Состояние может включать конфиденциальные данные и важно для отслеживания инфраструктуры; доступ и резервное копирование имеют значение.
План не может гарантировать наличие у поставщика мощности или квоты при создании ресурсов.
Чувствительная маркировка контролирует отображение вывода, но не предотвращает автоматическое сохранение состояния.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Amazon SageMaker для рабочих процессов машинного обучения
Технический