Als nächstesNächster Leitfaden
Diffusionstransformatoren
Visuelle KI
Visueller KI-GUIDE
Swin Transformer is a vision Transformer that computes attention within local windows and shifts window partitions between layers.
Hören Sie sich diesen Leitfaden anKI-erzählt · ~2 min
Its hierarchy produces features at multiple spatial resolutions.
The Swin paper introduces window-based self-attention and shifted windows for cross-window communication. Fixed-size windows reduce attention complexity to linear growth with image size. Patch merging builds a hierarchy of feature maps, supporting classification and dense prediction tasks. The paper evaluates specific model variants on ImageNet, COCO, and ADE20K; results are benchmark- and setup-specific. Unlike standard ViT global attention over all image patches, Swin computes attention within local windows. Within each window it adds a learnable relative-position bias. Shifted-window blocks use a mask after cyclic shifting so patches wrapped across image boundaries do not become unintended neighbors.
Use a Swin backbone in an image-classification experiment.
Feed hierarchical features into an object-detection or segmentation head.
Compare window attention with global attention at matched image resolution.
Measure memory and latency under a fixed image-size and hardware setup.
Hierarchical local-attention backbones remain one design choice among many vision architectures. Compare them under the intended data, resolution, hardware, and task rather than assuming universal superiority over CNNs or global-attention models.
Kostenloser Newsletter
Drei verifizierte KI-Geschichten jeden Werktagmorgen, in einfachem Englisch geschrieben. Für immer kostenlos, keine Werbung.
Eine E‑Mail jeden Werktag. Abmelden mit einem Klick. Wir verkaufen oder teilen Ihre Adresse nie.
Testen Sie sich selbst
Sofortiges Feedback zu jeder Antwort und ein teilbares Zertifikat mit verifizierbarer ID, sobald Sie einen Kurs bestanden haben.
Unterstützen Sie kostenlose KI-Bildung. AI Understanding ist eine 501(c)(3) gemeinnützige Organisation – keine Werbung, keine Paywall, nie. Machen Sie eine Spende
Swin Transformer is a vision Transformer that computes attention within local windows and shifts window partitions between layers. Its hierarchy produces features at multiple spatial resolutions.
Swin steht für Shifted Windows, den Mechanismus, der es lokalen Aufmerksamkeitsfenstern ermöglicht, Informationen über Schichten hinweg auszutauschen.
The Swin paper adds learnable relative-position bias to self-attention within each local window.
Durch abwechselnde Ebenen wird das Fensterraster um ein halbes Fenster verschoben, sodass zuvor in verschiedenen Fenstern befindliche Patches aufeinander abgestimmt werden können.
Durch die Patch-Zusammenführung werden benachbarte Patches verkettet, um die räumliche Auflösung zu halbieren und die Kanaltiefe zu verdoppeln, wodurch eine mehrskalige Hierarchie entsteht.
Multiskalige Feature-Maps ahmen CNN-Backbones nach, sodass sich Swin problemlos in Frameworks für dichte Vorhersagen wie Mask R-CNN integrieren lässt.
Lerne weiter
Weitere Leitfäden zu diesem Thema ausgewählt
Als nächstesNächster Leitfaden
Diffusionstransformatoren
Visuelle KI