NastępnyNastępny poradnik
Dostrajanie TTS w niestandardowym brzmieniu
Techniczne
PRZEWODNIK Wizualnej AI
Custom Diffusion is a research method for adapting text-to-image diffusion models to new concepts by tuning selected cross-attention parameters.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~1 min
The Custom Diffusion paper fine-tunes key and value projections in cross-attention layers using concept images. It adds regularization images from broader categories to reduce overfitting and language drift. The method supports joint training of multiple concepts or merging separately tuned concepts through constrained optimization. The authors report experiments using as few as four concept images, storing a tuned subset of about 3% of model weights, and a six-minute fine-tuning time on two A100 GPUs. These values are specific to the paper’s Stable Diffusion setup; they do not establish universal data needs, artifact file size, runtime, deployment, or adoption.
Illustrative workflow: adapt a pretrained model to a small set of concept images.
Illustrative workflow: use regularization images to reduce language drift during tuning.
Illustrative workflow: combine separately learned concepts with a constrained weight merge.
Illustrative workflow: review generated samples for concept fidelity and unintended changes.
A research direction is to test concept composability and preservation across more models, prompts, and image sets, reporting failure cases as well as successful samples.
Darmowy newsletter
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Custom Diffusion is a research method for adapting text-to-image diffusion models to new concepts by tuning selected cross-attention parameters.
Aktualizuje jedynie macierze K i V, które wiążą słowa z wyglądem, zapewniając szybkie strojenie i mały zapisany plik.
Jego cechą charakterystyczną jest generowanie wielu koncepcji, łączące w sobie kilka spersonalizowanych tematów.
The paper reports experiments with as few as four training images. This is a minimum demonstrated in its setup, not a general 4–20-image requirement for every concept.
Obrazy regularyzacyjne zachowują nienaruszone ogólne znaczenie słowa kategorii, dzięki czemu model nie ogranicza się tylko do nowej koncepcji.
Niezależnie wyuczone koncepcje można łączyć poprzez optymalizację w formie zamkniętej, umożliwiając wspólne podpowiedzi.
Ucz się dalej
Wybrano więcej przewodników na ten temat
NastępnyNastępny poradnik
Dostrajanie TTS w niestandardowym brzmieniu
Techniczne