InstructPix2Pix Talimat Düzenleme
InstructPix2Pix, 'kış yap' veya 'kediyi köpeğe dönüştür' gibi basit bir komut yazarak bir fotoğrafı düzenlemenizi sağlar; maske veya seçim aracı gerekmez.
Genel Bakış
It taught a diffusion model to follow editing instructions directly.
Derin Dalış
InstructPix2Pix (Brooks ve diğerleri, 2023), bir giriş görüntüsü artı bir metin talimatı almak ve düzenlenen görüntüyü tek bir ileri geçişte çıkarmak için ince ayarlı bir yayılma modelidir. Zekice hilesi, eğitim verileridir: Yazarlar, öncesi ve sonrası altyazı çiftlerini oluşturmak için GPT-3'ü kullandılar, ardından eşleşen önceki/sonraki görüntü çiftlerini sentezlemek için Stabil Difüzyon ile İstemden İsteme'yi kullandılar. Bu onlara üzerinde eğitim alabilecekleri (orijinal görsel, talimat, düzenlenmiş görsel) üçlü veri setinden oluşan geniş bir veri seti sağladı ve bunların hiçbirini manuel olarak etiketlemeye gerek yoktu. Talimatlar tam bir sahne yerine bir değişikliği tanımladığından, model görüntünün belirtilmeyen kısımlarını korur. Biri talimatları ne kadar yakından takip ettiği ve diğeri orijinal görüntüye ne kadar sadık kaldığıyla ilgili olmak üzere iki yönlendirme ölçeği kullanır ve kullanıcıların düzenleme gücü yerine aslına uygunluktan ödün vermelerine olanak tanır.
Teknik Bilgi
Model, iki eksen boyunca sınıflandırıcısız rehberlik uygulayarak hem kaynak görüntü hem de talimat üzerinde koşullar sağlar. Ölçeklerden biri metin talimatını, diğeri ise giriş görüntüsünü ağırlıklandırır. Görüntü ölçeğini yükseltmek orijinalin daha büyük bir kısmını korurken, metin ölçeğini yükseltmek düzenlemeyi daha agresif hale getirir. Bu ikili rehberlik, tek bir genel talimatın fotoğrafın geri kalanını tanınabilir halde bırakırken bir yönünü güvenilir bir şekilde değiştirmesine olanak tanıyan şeydir.
Stratejik Etki
Speed and scale
Visual AI, inceleme, algılama ve etiketleme görevlerini geniş ölçekte otomatikleştirebilir.
Build choices
Yaratıcı ekipler, daha az manuel revizyonla konseptleri daha hızlı prototipleyebilir.
Ekip ve iş akışı
Operasyonlar, daha önce işlenmesi zor olan görüntü ve video sinyallerini kullanabilir.
InstructPix2Pix Talimat Düzenlemenin Geleceği
Talimat tabanlı düzenleme, görüntü araçları için varsayılan arayüz haline geliyor ve artık ana akım uygulamalara ve MagicBrush ve yeni ortaya çıkan çok turlu editörler gibi haleflere dahil ediliyor. İnce ayrıntıların daha iyi korunmasını, 'lambayı sola hareket ettir' gibi uzamsal talimatların güvenilir bir şekilde kullanılmasını ve tek bir komutun tüm klibi düzenlediği videoya kusursuz bir şekilde genişletilmesini bekleyebilirsiniz. Bu modelleri dil aracılarıyla birleştirmek, tam bir düzenleme oturumunu konuşarak tanımlamanıza olanak tanıyabilir.
Gerçek Dünya Uygulaması
Bir blog yazarı, mevsimlik bir gönderi için bir yaz manzarası fotoğrafını yeniden kaplamak üzere 'sonbahar yaprakları ekle' seçeneğini yazıyor.
Bir e-ticaret satıcısı, tek çekimde ürün renk çeşitleri üretebilmek için 'gömlek rengini lacivert yap' talimatını veriyor.
Bir öğretmen, siyah beyaz bir arşiv görüntüsünü ders için canlı hale getirmek amacıyla tarihi bir fotoğrafı 'bunu renklendir' seçeneğiyle düzenliyor.
Bir meme yaratıcısı, köpeğin yüzünü manuel olarak maskelemeden "köpeğe güneş gözlüğü tak" komutunu veriyor.
Riskler ve Korkuluklar
Kaynağın belirsiz olması durumunda görüntü hakları ve rıza yasal risk haline gelebilir.
Model performansı aydınlatma, demografik özellikler ve ortamlara göre değişiklik gösterebilir.
Güven eşikleri izlenmediği sürece yanlış pozitifler fark edilmeyebilir.
Uygulama Yol Haritası
Kesinlik, geri çağırma ve hata maliyetlerine ilişkin kabul kriterlerini tanımlayın.
Gerçek üretim koşullarıyla eşleşen verilerle test edin.
Düşük güvenirliğe sahip veya yüksek etkili tahminler için gerçek kişi tarafından yapılan incelemeyi ekleyin.
Model kaymasını izleyin ve kamera veya veri kümesi değişikliklerinden sonra yeniden doğrulayın.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the InstructPix2Pix Instruction Editing quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
DragGAN Etkileşimli Düzenleme
Sık sorulan sorular
What is InstructPix2Pix Instruction Editing?
InstructPix2Pix, 'kış yap' veya 'kediyi köpeğe dönüştür' gibi basit bir komut yazarak bir fotoğrafı düzenlemenizi sağlar; maske veya seçim aracı gerekmez. Düzenleme talimatlarını doğrudan takip etmek için bir yayılma modeli öğretti.
InstructPix2Pix'e neyin değişmesi gerektiğini nasıl söylersiniz?
'Kış yap' gibi bir talimat yazmanız yeterlidir; maskeye veya bölge seçimine gerek yoktur.
InstructPix2Pix'in eğitim verileri nasıl oluşturuldu?
Yazarlar, otomatik olarak üçlü oluşturmak için GPT-3 tarafından oluşturulan altyazı çiftlerini İstemden İsteme görüntü senteziyle birleştirdi.
InstructPix2Pix'in iki kılavuz ölçeği neyi kontrol eder?
Bir ölçek, düzenlemenin talimatı ne kadar güçlü bir şekilde takip ettiğini yönetir; diğeri kaynak görüntünün ne kadarının korunacağını yönetir.
Model neden görüntünün belirtilmeyen kısımlarını yalnız bırakma eğiliminde?
Bir talimat belirli bir değişikliği hedefler, dolayısıyla model, talimatın bahsetmediği bölgeleri korur.
InstructPix2Pix'in bir düzenleme oluşturmak için kaç ileri geçiş yapması gerekir?
Görüntüyü ve talimatı bir arada alıp düzenlemeyi çıktı olarak veren tek koşullu yayılma modelidir.