ДалееСледующее руководство
Обнаружение трансформатора DETR
Визуальный ИИ
Визуальное руководство по искусственному интеллекту
Сети пространственных преобразователей (STN) — это обучаемые модули, которые позволяют нейронной сети активно деформировать, вращать, обрезать или изменять масштаб входных данных, чтобы сосредоточиться на том, что важно.
Прослушайте это руководствоОзвучено ИИ · ~2 min
They give CNNs a built-in sense of spatial attention and invariance.
Стандартные сверточные сети лишь слабо инвариантны к изменениям положения, масштаба и вращения, полагаясь на объединение в пул для небольшой толерантности. Пространственные трансформаторные сети, представленные Джадербергом и др. в 2015 году исправьте это, вставив дифференцируемый модуль, который выполняет явное геометрическое преобразование на картах объектов. Модуль состоит из трех частей: сеть локализации, которая прогнозирует параметры преобразования, генератор сетки, который строит сетку выборки на основе этих параметров, и сэмплер, который интерполирует входные данные в точках сетки. Поскольку каждый шаг дифференцируем, весь преобразователь обучается сквозным методом обратного распространения ошибки без дополнительного контроля. Сеть учится, например, выпрямлять наклоненные цифры или увеличивать масштаб соответствующей области, повышая точность и надежность.
Выпрямление и выравнивание изогнутого или повернутого текста перед распознаванием в системах оптического распознавания текста сцены.
Увеличение масштаба различающихся областей (например, птичьего клюва или крыла) для более детальной классификации изображений.
Нормализация позы и выравнивания лица как этап предварительной обработки в конвейерах распознавания лиц
Исправление искажений и выравнивание сканов при регистрации медицинских изображений
STN повлияли на то, как сети обрабатывают геометрию и внимание, используя деформируемые свертки и модули обучения деформации. Несмотря на то, что сейчас доминируют преобразователи самообслуживания, дифференцируемая выборка в стиле STN сохраняется в задачах, требующих явного геометрического выравнивания: распознавание текста, детальная классификация и нормализация позы. Ожидается, что дифференцируемое искажение будет продолжать появляться в трехмерном зрении, нейронном рендеринге и регистрации медицинских изображений, часто сочетаясь с вниманием, а не заменяя его.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Сети пространственных преобразователей (STN) — это обучаемые модули, которые позволяют нейронной сети активно деформировать, вращать, обрезать или изменять масштаб входных данных, чтобы сосредоточиться на том, что важно. Они дают CNN встроенное чувство пространственного внимания и инвариантности.
STN вставляют обучаемый модуль, который может переводить, вращать, масштабировать или деформировать карты объектов, чтобы сосредоточиться на соответствующем контенте.
STN состоит из сети локализации (прогнозирует параметры), генератора сетки (строит координаты выборки) и пробоотборника (интерполирует входные данные).
Билинейная интерполяция в сэмплере дифференцируема, поэтому градиенты возвращаются через генератор сетки в сеть локализации, обеспечивая сквозное обучение.
Для аффинных преобразований сеть локализации прогнозирует шесть значений, организованных в виде матричного кодирования перевода, масштабирования, вращения и сдвига 2x3.
CNN достигают лишь умеренной пространственной инвариантности за счет объединения; STN добавляют явный и обучаемый способ управления положением, масштабом и вращением.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Обнаружение трансформатора DETR
Визуальный ИИ