A seguirPróximo guia
Transformadores de Difusão
IA visual
GUIA visual de IA
Swin Transformer is a vision Transformer that computes attention within local windows and shifts window partitions between layers.
Ouça este guiaNarrado por IA · ~2 min
Its hierarchy produces features at multiple spatial resolutions.
The Swin paper introduces window-based self-attention and shifted windows for cross-window communication. Fixed-size windows reduce attention complexity to linear growth with image size. Patch merging builds a hierarchy of feature maps, supporting classification and dense prediction tasks. The paper evaluates specific model variants on ImageNet, COCO, and ADE20K; results are benchmark- and setup-specific. Unlike standard ViT global attention over all image patches, Swin computes attention within local windows. Within each window it adds a learnable relative-position bias. Shifted-window blocks use a mask after cyclic shifting so patches wrapped across image boundaries do not become unintended neighbors.
Use a Swin backbone in an image-classification experiment.
Feed hierarchical features into an object-detection or segmentation head.
Compare window attention with global attention at matched image resolution.
Measure memory and latency under a fixed image-size and hardware setup.
Hierarchical local-attention backbones remain one design choice among many vision architectures. Compare them under the intended data, resolution, hardware, and task rather than assuming universal superiority over CNNs or global-attention models.
Boletim informativo gratuito
Três histórias verificadas de IA a cada manhã de dia útil, escritas em linguagem simples. Gratuito para sempre, sem anúncios.
Um e-mail a cada dia útil. Cancele a inscrição com um clique. Nunca vendemos ou compartilhamos seu endereço.
Teste você mesmo
Feedback instantâneo sobre cada resposta e um certificado compartilhável com um ID verificável assim que você concluir um curso.
Apoie a educação gratuita em IA. O AI Understanding é uma organização sem fins lucrativos 501(c)(3) — sem anúncios, sem paywall, nunca. Faça uma doação
Swin Transformer is a vision Transformer that computes attention within local windows and shifts window partitions between layers. Its hierarchy produces features at multiple spatial resolutions.
Swin significa Shifted Windows, o mecanismo que permite que janelas de atenção local troquem informações entre camadas.
The Swin paper adds learnable relative-position bias to self-attention within each local window.
Camadas alternadas deslocam a grade da janela em meia janela, para que patches anteriormente em janelas diferentes possam atender uns aos outros.
A fusão de patches concatena patches vizinhos para reduzir pela metade a resolução espacial e dobrar a profundidade do canal, construindo uma hierarquia multiescala.
Os mapas de recursos em várias escalas imitam os backbones da CNN, de modo que o Swin se integra facilmente a estruturas de previsão densa como o Mask R-CNN.
Continue aprendendo
Mais guias escolhidos para este tópico
A seguirPróximo guia
Transformadores de Difusão
IA visual