اے آئی ہیلوسینیشنز

It is the single biggest trust problem with today's language models.

ہیلوسینیشن عام معنوں میں کیڑے نہیں ہیں۔ وہ ماڈل کے کام کرنے کے طریقے سے گر جاتے ہیں۔ زبان کے ماڈل کو اعدادوشمار کے لحاظ سے قابل فہم متن تیار کرنے کی تربیت دی جاتی ہے، نہ کہ سچائی کی تصدیق کے لیے۔ جب یہ ایک خلا سے ٹکرا جاتا ہے - ایک حقیقت جو اس نے کبھی نہیں سیکھی، یا ایسا سوال جس کا اس کی تربیت میں کوئی واضح جواب نہیں ہے - یہ نہیں کہتا کہ 'میں نہیں جانتا'۔ اس کے بجائے یہ سب سے زیادہ ممکنہ آواز دینے والا تسلسل پیدا کرتا ہے، جو کہ ایک پراعتماد من گھڑت ہو سکتا ہے۔ آؤٹ پٹ آسانی سے پڑھتا ہے، لہذا غلطی کو یاد کرنا آسان ہے. عام شکلوں میں ایجاد شدہ کتاب کے عنوانات یا قانونی معاملات، جعلی یو آر ایل، غلط منسوب اقتباسات، اور قابل فہم لیکن غلط نمبر شامل ہیں۔ وہ خاص طور پر ادویات، قانون اور مالیات جیسی اعلیٰ داؤ پر لگی ترتیبات میں خطرناک ہیں، جہاں ایک روانی سے غلط جواب واضح جواب سے مہنگا ہو سکتا ہے۔ اہم بات یہ ہے کہ فراہم کردہ درست دستاویزات کے باوجود، ماڈل اب بھی ان سے متصادم یا نظر انداز کر سکتے ہیں۔