Pengeditan Instruksi InstructPix2Pix
InstructPix2Pix memungkinkan Anda mengedit foto dengan mengetikkan perintah biasa seperti 'jadikan musim dingin' atau 'ubah kucing menjadi anjing', tidak memerlukan masker atau alat seleksi.
Ikhtisar
It taught a diffusion model to follow editing instructions directly.
Menyelam Lebih Dalam
InstructPix2Pix (Brooks et al., 2023) adalah model difusi yang disesuaikan untuk mengambil gambar masukan ditambah instruksi teks dan mengeluarkan gambar yang diedit dalam satu forward pass. Trik cerdasnya adalah data pelatihan: penulis menggunakan GPT-3 untuk menghasilkan pasangan teks sebelum dan sesudah, kemudian menggunakan Prompt-to-Prompt dengan Difusi Stabil untuk mensintesis pasangan gambar sebelum/sesudah yang cocok. Hal ini memberi mereka kumpulan data yang besar (gambar asli, instruksi, gambar yang diedit) tiga kali lipat untuk dilatih, semuanya tanpa pelabelan manual. Karena instruksi mendeskripsikan perubahan, bukan keseluruhan adegan, model mempertahankan bagian gambar yang tidak disebutkan. Ini menggunakan dua skala panduan, satu untuk seberapa dekat ia mengikuti instruksi dan satu lagi untuk seberapa setia ia menempel pada gambar asli, memungkinkan pengguna menukar kekuatan pengeditan dengan kesetiaan.
Wawasan Teknis
Model mengkondisikan gambar sumber dan instruksi, menerapkan panduan bebas pengklasifikasi sepanjang dua sumbu. Satu skala memberi bobot pada instruksi teks, skala lainnya memberi bobot pada gambar masukan. Menaikkan skala gambar membuat gambar asli tetap utuh, sementara menaikkan skala teks membuat pengeditan menjadi lebih agresif. Panduan ganda inilah yang memungkinkan satu instruksi umum mengubah satu aspek dengan andal sambil membiarkan bagian foto lainnya dapat dikenali.
Dampak Strategis
Kecepatan dan skala
Visual AI dapat mengotomatiskan tugas inspeksi, deteksi, dan penandaan dalam skala besar.
Build choices
Tim kreatif dapat membuat prototipe konsep lebih cepat dengan lebih sedikit revisi manual.
Team and workflow
Pengoperasiannya dapat menggunakan sinyal gambar dan video yang sebelumnya sulit diproses.
Masa Depan Pengeditan Instruksi InstructPix2Pix
Pengeditan berbasis instruksi menjadi antarmuka default untuk alat gambar, yang kini dimasukkan ke dalam aplikasi umum dan penerusnya seperti MagicBrush dan editor multi-putaran yang sedang berkembang. Harapkan pelestarian detail halus yang lebih baik, penanganan instruksi spasial yang andal seperti 'pindahkan lampu ke kiri', dan ekstensi tanpa batas ke video, di mana satu perintah mengedit seluruh klip. Menggabungkan model ini dengan agen bahasa memungkinkan Anda mendeskripsikan sesi pengeditan penuh secara percakapan.
Implementasi Dunia Nyata
Seorang blogger mengetik 'tambahkan dedaunan musim gugur' untuk mengubah tampilan foto lanskap musim panas untuk postingan musiman.
Seorang penjual e-commerce menginstruksikan 'mengubah warna baju menjadi navy' untuk menghasilkan varian warna produk dalam satu kesempatan.
Seorang guru mengedit foto sejarah dengan 'mewarnai ini' untuk membuat gambar arsip hitam-putih menjadi jelas untuk pelajaran.
Pembuat meme memerintahkan 'memakai kacamata hitam pada anjingnya' tanpa menutupi wajah anjingnya secara manual.
Risiko & Pagar Pembatas
Hak citra dan persetujuan dapat menjadi risiko hukum jika asal usulnya tidak jelas.
Performa model dapat bervariasi berdasarkan pencahayaan, demografi, dan lingkungan.
Positif palsu mungkin tidak diketahui kecuali ambang batas keyakinan dipantau.
Peta Jalan Implementasi
Tentukan kriteria penerimaan untuk biaya presisi, penarikan kembali, dan kesalahan.
Uji dengan data yang sesuai dengan kondisi produksi sebenarnya.
Tambahkan tinjauan manusia untuk prediksi dengan tingkat keyakinan rendah atau dampak tinggi.
Lacak penyimpangan model dan validasi ulang setelah kamera atau kumpulan data berubah.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the InstructPix2Pix Instruction Editing quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Pengeditan Interaktif DragGAN
Pertanyaan yang sering diajukan
What is InstructPix2Pix Instruction Editing?
InstructPix2Pix memungkinkan Anda mengedit foto dengan mengetikkan perintah biasa seperti 'jadikan musim dingin' atau 'ubah kucing menjadi anjing', tidak memerlukan masker atau alat seleksi. Itu mengajarkan model difusi untuk mengikuti instruksi pengeditan secara langsung.
Bagaimana Anda memberi tahu InstructPix2Pix apa yang harus diubah?
Anda cukup mengetikkan instruksi seperti 'jadikan musim dingin'; tidak diperlukan masker atau pemilihan wilayah.
Bagaimana data pelatihan InstructPix2Pix dibuat?
Penulis menggabungkan pasangan teks yang dihasilkan GPT-3 dengan sintesis gambar Prompt-to-Prompt untuk membuat tiga kali lipat secara otomatis.
Apa yang dikontrol oleh dua skala panduan InstructPix2Pix?
Satu skala mengatur seberapa kuat pengeditan mengikuti instruksi; yang lain mengatur seberapa banyak gambar sumber yang dipertahankan.
Mengapa model cenderung membiarkan bagian gambar yang tidak disebutkan?
Sebuah instruksi menargetkan perubahan tertentu, sehingga model mempertahankan wilayah yang tidak disebutkan dalam instruksi tersebut.
Berapa banyak forward pass yang dibutuhkan InstructPix2Pix untuk menghasilkan pengeditan?
Ini adalah model difusi bersyarat tunggal yang menyatukan gambar dan instruksi dan menghasilkan hasil edit.