کلینیکل AI میں آٹومیشن تعصب

آٹومیشن تعصب کا سب سے پہلے ہوا بازی اور دیگر حفاظتی اہم کاموں میں قریب سے مطالعہ کیا گیا تھا۔ انسانی عوامل کے محققین نے پایا کہ قابل اعتماد آٹومیشن کے ساتھ کام کرنے والے آپریٹرز کم نگرانی کرتے ہیں اور زیادہ موخر کرتے ہیں۔ انہوں نے غلطی کی دو اقسام بیان کیں۔ بھول جانے کی غلطی میں، ایک شخص ایک مسئلہ یاد کرتا ہے کیونکہ سسٹم نے اسے جھنڈا نہیں لگایا تھا۔ کمیشن کی غلطی میں، ایک شخص غلط تجویز پر عمل کرتا ہے۔ گوڈارڈ اور ساتھیوں کے 2012 کے منظم جائزے میں طبی فیصلے کی حمایت میں آٹومیشن کا تعصب پایا گیا، جس کے اثرات کام کی پیچیدگی، کام کے بوجھ، تجربے اور اعتماد سے پیدا ہوتے ہیں۔ میڈیکل امیجنگ واضح ثبوت فراہم کرتی ہے۔ میموگرافی میں کمپیوٹر کی مدد سے ابتدائی پتہ لگانے کے مطالعے میں بتایا گیا ہے کہ جب سسٹم کینسر کا اشارہ دینے میں ناکام ہو جاتا ہے، تو قارئین کو بعض اوقات اس کی تلاش کا امکان کم ہوتا ہے جتنا کہ وہ سسٹم کے بغیر ہوتا۔ ریڈیولوجی میں 2023 کے ایک مطالعہ نے ریڈیولوجسٹوں کو جان بوجھ کر غلط تجاویز پیش کیں جو میموگرام کی درجہ بندی کرتے وقت AI سے آتی ہیں۔ ان کی درستگی گر گئی، اور کم تجربہ کار قارئین سب سے زیادہ متاثر ہوئے۔ JAMA میں 2023 کے ویگنیٹ کے مطالعے سے معلوم ہوا ہے کہ معالجین نے ایک منظم طور پر متعصب ماڈل دکھایا جس نے کم درست تشخیص کی، اور ماڈل کی وضاحتیں شامل کرنے سے نقصان کو دور کرنے میں بہت کم کام ہوا۔ مخالف مسئلہ بھی موجود ہے۔ الگورتھم کو غلطیاں کرتے ہوئے دیکھنے کے بعد، لوگ اسے استعمال کرنا بند کر سکتے ہیں یہاں تک کہ جب یہ ان سے بہتر کارکردگی کا مظاہرہ کرے۔ طب سے باہر کے محققین نے اس الگورتھم کو نفرت کا نام دیا ہے۔ ہسپتالوں میں یہ اکثر الرٹ تھکاوٹ کی طرح لگتا ہے۔ نہ ہی انتہائی محفوظ ہے۔ مقصد مناسب بھروسہ ہے: اس آلے پر بھروسہ کرنا جہاں یہ مضبوط ہے اور اسے جانچنا جہاں یہ کمزور ہے۔ دو غلط فہمیاں اہم ہیں: "انسان کو لوپ میں ڈالنا" حفاظت کی ضمانت دیتا ہے۔ اگر انسان قابل اعتماد طریقے سے ٹال مٹول کرتا ہے تو لوپ تھوڑا سا تحفظ فراہم کرتا ہے۔ اور وضاحتیں ہمیشہ مدد کرتی ہیں۔ کچھ تحقیق سے پتہ چلتا ہے کہ وہ غلط نتائج پر اعتماد کو اتنا ہی آسانی سے بڑھا سکتے ہیں جتنا کہ صحیح میں۔