ДалееСледующее руководство
Точная настройка TTS для пользовательского голоса
Технический
Визуальное руководство по искусственному интеллекту
Custom Diffusion is a research method for adapting text-to-image diffusion models to new concepts by tuning selected cross-attention parameters.
Прослушайте это руководствоОзвучено ИИ · ~1 min
The Custom Diffusion paper fine-tunes key and value projections in cross-attention layers using concept images. It adds regularization images from broader categories to reduce overfitting and language drift. The method supports joint training of multiple concepts or merging separately tuned concepts through constrained optimization. The authors report experiments using as few as four concept images, storing a tuned subset of about 3% of model weights, and a six-minute fine-tuning time on two A100 GPUs. These values are specific to the paper’s Stable Diffusion setup; they do not establish universal data needs, artifact file size, runtime, deployment, or adoption.
Illustrative workflow: adapt a pretrained model to a small set of concept images.
Illustrative workflow: use regularization images to reduce language drift during tuning.
Illustrative workflow: combine separately learned concepts with a constrained weight merge.
Illustrative workflow: review generated samples for concept fidelity and unintended changes.
A research direction is to test concept composability and preservation across more models, prompts, and image sets, reporting failure cases as well as successful samples.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Custom Diffusion is a research method for adapting text-to-image diffusion models to new concepts by tuning selected cross-attention parameters.
Он обновляет только матрицы перекрестного внимания K и V, которые связывают слова с внешним видом, обеспечивая быструю настройку и небольшой размер сохраняемого файла.
Его отличительной особенностью является создание нескольких концепций, объединяющих несколько персонализированных предметов вместе.
The paper reports experiments with as few as four training images. This is a minimum demonstrated in its setup, not a general 4–20-image requirement for every concept.
Изображения регуляризации сохраняют общее значение слова категории нетронутым, поэтому модель не схлопывается только до новой концепции.
Независимо изученные концепции можно объединить посредством ограниченной оптимизации в закрытой форме, что позволяет использовать совместные подсказки.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Точная настройка TTS для пользовательского голоса
Технический