بازی ٹرانسفارمرز

This architecture powers leading systems like Stable Diffusion 3 and OpenAI's Sora, and it scales remarkably well as you add compute.

ڈفیوژن ماڈلز خالص شور سے شروع کرکے اور تکراری طور پر اسے ایک مربوط تصویر میں رد کرکے تصاویر تیار کرتے ہیں۔ برسوں سے جو نیٹ ورک اس کی تردید کر رہا تھا وہ ایک U-Net تھا، ایک ارتعاشی فن تعمیر۔ 2022 میں Peebles اور Xie کے ذریعے متعارف کرایا گیا ڈفیوژن ٹرانسفارمر، U-Net کو ٹرانسفارمر سے بدل دیتا ہے۔ تصویر کو پہلے ایک اویکت جگہ میں کمپریس کیا جاتا ہے، چھوٹے پیچوں میں تقسیم کیا جاتا ہے، اور ہر پیچ ایک ٹوکن بن جاتا ہے، جیسا کہ زبان کے ماڈل میں الفاظ کی طرح ہوتا ہے۔ اس کے بعد ٹرانسفارمر ان ٹوکنز کو ہر ڈینوائزنگ قدم پر خود توجہ کے ساتھ پروسیس کرتا ہے۔ ایک اہم نتیجہ یہ تھا کہ ڈی آئی ٹی کی کارکردگی متوقع طور پر بہتر ہوتی ہے کیونکہ آپ صاف اسکیلنگ قوانین کی پیروی کرتے ہوئے ماڈل کا سائز بڑھاتے ہیں اور پیچ کا سائز کم کرتے ہیں۔ اس اسکیل ایبلٹی کی وجہ سے ٹیکسٹ ٹو ویڈیو اور ہائی اینڈ ٹیکسٹ ٹو امیج سسٹم بڑی حد تک ٹرانسفارمر بیک بونز میں منتقل ہو گئے ہیں۔