কি হয়েছে
বিবিসি নিউজ চাইনিজ রিপোর্ট করেছে যে কাল্পনিক চিকিৎসা বিশেষজ্ঞদের সমন্বিত এআই-জেনারেটেড ভিডিও তাইওয়ানের বয়স্ক দর্শকদের মধ্যে প্রচারিত হচ্ছে। প্রতিবেদনে তাইপেই ক্লাসের বর্ণনা দেওয়া হয়েছে যেখানে সিনিয়ররা একজন ডাক্তার দ্বারা উপস্থাপিত একটি ভিডিও পরীক্ষা করার জন্য Gemini এবং ChatGPT ব্যবহার করেছেন। গবেষক এবং শিক্ষাবিদরা বিবিসিকে বলেছেন যে ভিডিওগুলি সস্তায় এবং স্কেলে তৈরি করা হয়, প্রায়শই সিন্থেটিক মুখ, ভয়েস এবং এআই-একত্রিত তথ্য একত্রিত করে। বিবিসি আরও দেখেছে যে অনেক চ্যানেলের অপারেটর সর্বজনীনভাবে সনাক্ত করা যায় না। নির্বাচন-সম্পর্কিত কারচুপির দাবিগুলো যাচাই করা হয়নি।
বিবিসি নিউজ চাইনিজ তাইপেই সিনিয়র ডে-কেয়ার সেন্টার থেকে রিপোর্ট করেছে যেখানে প্রায় 60 থেকে 90 বছর বয়সী লোকেরা ফোন ব্যবহার করতে এবং এআই-জেনারেটেড ভিডিওগুলি মূল্যায়ন করতে শিখেছে। নিবন্ধটি একটি ক্লিপের উপর ফোকাস করে যেখানে ঝেং নামক একজন ডাক্তারকে সাদা কোট এবং স্টেথোস্কোপ পরা, সারকোপেনিয়া নিয়ে আলোচনা করা এবং দাবি করা প্রোটিন খাবার 60 বছর বয়সের পরে আর কাজ করে না। একজন অংশগ্রহণকারী এটি গ্রহণ করেছিলেন এবং ফরওয়ার্ড করেছিলেন। ক্লাসে, তিনি Gemini এবং ChatGPT জিজ্ঞাসা করেছিলেন; সহকারীরা বলেছে যে ডাক্তারের অস্তিত্ব নেই এবং ভিডিও এবং স্বাস্থ্য তথ্য AI দ্বারা তৈরি বা একত্রিত করা হয়েছে। বিবিসি স্বাধীনভাবে ক্লিনিকাল মূল্যায়ন প্রদান করে না বা সহকারীর নির্ভুলতা প্রতিষ্ঠা করে না।
ক্লাস শিক্ষক লি জি-কিয়াং বিবিসিকে বলেছেন যে AI-উত্পাদিত ভিডিওগুলি গত এক বছরে তাইওয়ানের সিনিয়রদের সম্প্রদায় এবং মেসেজিং গ্রুপগুলিতে ব্যাপকভাবে প্রচারিত হয়েছে। ভিডিওতে ভার্চুয়াল উপস্থাপকদের ব্যবহার করা হয়েছে যারা নিজেকে ডাক্তার, অবসরপ্রাপ্ত রেলওয়ে কর্মচারী বা প্রাক্তন ফ্লাইট অ্যাটেনডেন্ট বলে দাবি করে। তাইওয়ান ফ্যাক্টচেক সেন্টার বিবিসিকে বলেছে যে কন্টেন্ট-ফার্ম YouTube চ্যানেলগুলি স্বাস্থ্য, সিনিয়র বেনিফিট এবং পরিবহন ছাড় সম্পর্কে মিথ্যা দাবি করেছে। উদাহরণগুলির মধ্যে রয়েছে বানোয়াট দাবি যে বয়স্ক যাত্রীরা স্বয়ংক্রিয়ভাবে উচ্চ-গতির-রেল বিজনেস-ক্লাস আপগ্রেড, সঙ্গীদের জন্য বিনামূল্যে টিকিট, নগদ উপহার বা বিনামূল্যে হাসপাতালের যত্নশীলদের পেতে পারে। তাইওয়ানের রেল অপারেটররা বারবার বলেছে যে কথিত সিনিয়র সুবিধা এবং লুকানো ডিসকাউন্ট বিদ্যমান নেই।
তাইওয়ানের সাইবার সিকিউরিটি গবেষক ডাই ইউ-চেন বিবিসিকে বলেছেন যে তিনি 200 টিরও বেশি YouTube চ্যানেলগুলিকে ট্র্যাক করেছেন যেখানে 70,000টিরও বেশি ভিডিও রয়েছে যার সম্মিলিত 1.32 বিলিয়ন ভিউ রয়েছে৷ তিনি অনুমান করেছিলেন যে বর্তমান সরঞ্জামগুলি ব্যবহার করে প্রায় 20 সেকেন্ডের মধ্যে একটি ভিডিও তৈরি করা যেতে পারে: AI একজন ডাক্তার বা বিশেষজ্ঞের মুখ এবং পটভূমি তৈরি করতে পারে, মুখের সাথে একটি অডিও ফাইল সিঙ্ক্রোনাইজ করতে পারে, অনলাইন উপাদান থেকে তথ্য সংগ্রহ করতে পারে এবং সাবটাইটেল যোগ করতে পারে। এই পরিসংখ্যান এবং অনুমানগুলি বিবিসি দ্বারা রিপোর্ট করা গবেষকের দাবি; উৎস চ্যানেল তালিকা, দেখার সংখ্যা বা কর্মপ্রবাহের একটি স্বাধীন অডিট বর্ণনা করে না।
বিবিসি বলেছে যে তারা 20টি উচ্চ-সাবস্ক্রাইবার চ্যানেল পরীক্ষা করে দেখেছে যে তাদের অপারেটররা কোনও দরকারী সনাক্তকরণ তথ্য প্রকাশ করেনি। কথিত স্থানগুলির মধ্যে তাইওয়ান, মার্কিন যুক্তরাষ্ট্র, মালয়েশিয়া এবং হংকং অন্তর্ভুক্ত রয়েছে এবং কিছু চ্যানেল প্ল্যাটফর্মের নিয়ম লঙ্ঘনের জন্য সরানো হয়েছে। একটি বেনামী তাইওয়ানের জাতীয়-নিরাপত্তা সূত্র অভিযোগ করেছে যে কিছু স্বাস্থ্য এবং জীবনধারা চ্যানেল নির্বাচনের সময় রাজনৈতিক ওকালতিতে পরিবর্তিত হয়েছে। অভিযোগ স্বাধীনভাবে নিশ্চিত নয় এবং একটি সমন্বিত অপারেশন স্থাপন করে না। চীনের তাইওয়ান বিষয়ক কার্যালয় বারবার অভিযোগ অস্বীকার করেছে যে চীন তাইওয়ানের বিরুদ্ধে প্রভাবশালী অভিযান পরিচালনা করে এবং তাইওয়ানের সরকারকে জনমতের হেরফের করার জন্য অভিযুক্ত করেছে।
কেন এটা গুরুত্বপূর্ণ
ভিডিওগুলি মিথ্যা স্বাস্থ্য, কল্যাণ এবং পরিবহন দাবিগুলিকে প্রামাণিক হিসাবে দেখাতে পারে এবং বিবিসি জানিয়েছে যে কিছু দর্শক সেই দাবিগুলির উপর কাজ করেছে৷ উপাদানটি বিশ্বস্ত সামাজিক সম্পর্ককেও কাজে লাগায়: বয়স্ক দর্শকরা তথ্য বা সাহচর্যের জন্য দীর্ঘ ভিডিও দেখতে পারেন এবং তারপরে বন্ধুদের কাছে ফরোয়ার্ড করতে পারেন। তাইওয়ানের সাইবারসিকিউরিটি গবেষক দ্বারা বর্ণিত স্কেল পরামর্শ দেয় যে সিন্থেটিক ভুল তথ্য দৈনন্দিন তথ্য পরিবেশের একটি অবিরাম অংশ হয়ে উঠতে পারে। প্রতিবেদনটি প্রতিষ্ঠিত করে না যে চ্যানেলগুলি একটি সমন্বিত রাজনৈতিক ক্রিয়াকলাপের অংশ, তবে এটি নথিভুক্ত করে যে কেন সেই সম্ভাবনাটি মনোযোগ পাচ্ছে।
তাত্ক্ষণিক উদ্বেগের বিষয় নয় যে প্রতিটি সিন্থেটিক ভিডিও পরিমাপযোগ্য ক্ষতির কারণ হয়, তবে মিথ্যা দাবিগুলি কর্তৃপক্ষের পরিচিত সংকেতের মাধ্যমে উপস্থাপন করা হয়। বিবিসি রিপোর্ট করেছে যে এক শ্রেণীর অংশগ্রহণকারী একটি উচ্চ-গতির-রেল স্টেশনে ভ্রমণ করেছিলেন কারণ একটি ভিডিও এমন একটি সুবিধার প্রতিশ্রুতি দিয়েছে যা বাস্তবায়িত হয়নি। নিবন্ধটি মিথ্যা ডাক্তার ভিডিও দ্বারা সৃষ্ট কোন চিকিৎসা আঘাতের প্রতিবেদন করে, তবে স্বাস্থ্যের ভুল তথ্য লক্ষণ, চিকিত্সা বা খাদ্য সম্পর্কে পছন্দকে প্রভাবিত করতে পারে। একজন প্রামাণিক-সুদর্শন উপস্থাপক এবং বয়স্ক ব্যক্তিদের উদ্বেগের জন্য তৈরি তথ্য বিষয়বস্তুকে সুস্পষ্ট ব্যঙ্গ হিসাবে খারিজ করা কঠিন করে তোলে।
ফরোয়ার্ড করা কেবল তথ্য-আদান-প্রদান নয়। একজন 86 বছর বয়সী অংশগ্রহণকারী বিবিসিকে বলেছিলেন যে তিনি বিশ্বাস করেছিলেন এবং বন্ধুদের কাছ থেকে সামগ্রী ফরোয়ার্ড করেছেন এবং কিছু ভিডিও এআই-উত্পন্ন হয়েছে তা জানার পরে তিনি প্রতারিত হয়েছেন। অন্য একজন অংশগ্রহণকারী, কমপক্ষে 50 জন বন্ধুকে ফরওয়ার্ড করার আগে ভিডিওগুলি দেখতে এবং বাছাই করার জন্য দিনে কয়েক ঘন্টা ব্যয় করেন, শেয়ার করাকে সামাজিক সংযোগ বজায় রাখার একটি উপায় হিসাবে বর্ণনা করেন। তাইপেইয়ের একজন মনোরোগ বিশেষজ্ঞ বিবিসিকে বলেছেন যে স্বাস্থ্য ভিডিওগুলি আপাতদৃষ্টিতে কার্যকর সমাধানের প্রস্তাব দিয়ে বার্ধক্য সম্পর্কে উদ্বেগের প্রতিক্রিয়া জানাতে পারে, অন্যদিকে ফরোয়ার্ড করা সাহচর্য এবং দরকারী হওয়ার অনুভূতি প্রদান করতে পারে।
স্কেল সমস্যা পরিবর্তন করে। গবেষকের অনুমান সঠিক হলে, অল্প সংখ্যক চ্যানেল খুব কম খরচে প্রচুর পরিমাণে প্রশংসনীয়-সুদর্শন উপাদান তৈরি এবং বিতরণ করতে পারে। বিবিসি স্বাস্থ্য, অবসর, বিজ্ঞান, ধর্ম এবং কল্যাণ সহ বয়স্ক দর্শকদের দৈনন্দিন চাহিদার সাথে ঘনিষ্ঠভাবে জড়িত বিষয়গুলি প্রতিবেদন করে। YouTube-এর মূল সংস্থা, Google, বিবিসিকে বলেছে যে এর নিয়মগুলি AI-উত্পাদিত উপাদানের ক্ষেত্রে প্রযোজ্য এবং চিকিত্সা সংক্রান্ত ভুল তথ্য নিষিদ্ধ করে যা বাস্তব-বিশ্বের গুরুতর ক্ষতির কারণ হতে পারে। প্রতিবেদনে উল্লেখ করা হয়েছে যে অনেক বয়স্ক দর্শক ভিডিওর সাথে সংযুক্ত AI লেবেলগুলি লক্ষ্য করেন না।
রাজনৈতিক প্রভাব তাৎপর্যপূর্ণ কিন্তু অমীমাংসিত। একটি চ্যানেল রাজনৈতিক দাবি উপস্থাপন করার আগে একজন সিনথেটিক ডাক্তার বা অবসরপ্রাপ্ত কর্মী অরাজনৈতিক বিষয়ের চারপাশে বিশ্বাসযোগ্যতা তৈরি করতে পারেন। বিবিসি 2024 সালের লাইফস্টাইল এবং হেলথ পেজ সম্পর্কে একটি গবেষণা উদ্ধৃত করেছে যা রাজনৈতিক মেসেজিং মিশ্রিত হওয়ার আগে তাইওয়ানিজ শ্রোতাদের আকর্ষণ করে, কিন্তু সেই পটভূমি প্রমাণ করে না যে এখানে চ্যানেলগুলি সমন্বিত। একজন ডিজিটাল-সাক্ষরতা বিশেষজ্ঞ বিবিসিকে বলেছেন যে এমনকি দূষিত সমন্বয় ছাড়াই, ভিডিওগুলি এআই স্লপ হিসাবে কাজ করতে পারে: কম-মূল্য বা মিথ্যা উপাদান যা মনোযোগ গ্রাস করে এবং নির্ভরযোগ্য তথ্য খুঁজে পাওয়া কঠিন করে তোলে। সেই নথিভুক্ত তথ্য-মানের সমস্যাটি বিদেশী রাজনৈতিক নিয়ন্ত্রণের অপ্রমাণিত অভিযোগ থেকে আলাদা।
ইন্টারেক্টিভ মেকানিজম: এটা আসলে কিভাবে কাজ করে
এই বিকাশের পিছনে অন্তর্নিহিত প্রযুক্তিটি ইন্টারেক্টিভভাবে অন্বেষণ করুন।
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
পরবর্তী কি দেখতে
মূল প্রশ্নগুলি হল প্ল্যাটফর্মগুলি উচ্চ-ভলিউম সিন্থেটিক ভুল তথ্য সনাক্ত করতে এবং সীমাবদ্ধ করতে পারে কিনা, লেবেলগুলি বয়স্ক দর্শকদের জন্য দৃশ্যমান এবং কার্যকর কিনা এবং স্বাধীন তদন্তকারীরা বিবিসিতে বর্ণিত চ্যানেল, দেখার সংখ্যা এবং উত্পাদন পদ্ধতিগুলি যাচাই করতে পারে কিনা। নির্বাচনকালীন পর্যবেক্ষণের জন্য শুধুমাত্র বেনামী অভিযোগের পরিবর্তে সমন্বয়, মালিকানা, অর্থায়ন এবং বিষয়বস্তুর পরিবর্তন সম্পর্কে প্রমাণের প্রয়োজন হবে। জনস্বাস্থ্য পেশাদার এবং মিডিয়া-সাক্ষরতা শিক্ষাবিদদেরও মূল্যায়ন করতে হবে যে কীভাবে লোকেরা একজন এআই সহকারীকে চূড়ান্ত কর্তৃপক্ষ হিসাবে বিবেচনা না করেই চিকিৎসা দাবি যাচাই করতে পারে।
স্বাধীন যাচাইকরণের প্রথমে প্রাথমিক অভিজ্ঞতামূলক দাবিগুলির উপর ফোকাস করা উচিত। তদন্তকারীদের চ্যানেলের তালিকা, নমুনা পদ্ধতি, তারিখ, ভিউ-গণনা গণনা এবং AI দ্বারা ভিডিও তৈরি করা হয়েছে কিনা তা নির্ধারণের মানদণ্ড প্রকাশ বা নথিভুক্ত করতে হবে। বিবিসি একজন গবেষকের অনুমান এবং 20টি চ্যানেলের নিজস্ব পর্যালোচনা রিপোর্ট করে, কিন্তু অন্তর্নিহিত ডেটাসেট প্রদান করে না। কতজন দর্শক চিকিৎসা দাবিতে কাজ করেছে, কত ঘন ঘন মিথ্যা ভিডিও প্ল্যাটফর্ম সিস্টেমের দ্বারা সুপারিশ করা হয় বা সাধারণ অপারেটরের কাছ থেকে কতগুলি সামগ্রী আসে তাও এটি স্থাপন করে না।
প্ল্যাটফর্ম প্রয়োগ আরেকটি ব্যবহারিক পরীক্ষা। Google বলেছে যে একই নিয়ম AI-উত্পাদিত ভিডিওগুলির ক্ষেত্রে প্রযোজ্য এবং গুরুতর চিকিৎসা সংক্রান্ত ভুল তথ্য নিষিদ্ধ, যখন বিবিসি জানিয়েছে কিছু চ্যানেল সরানো হয়েছে। কীভাবে ধারাবাহিকভাবে লেবেলগুলি প্রদর্শিত হয়, সিন্থেটিক ভিডিওগুলি ডিমোনেটাইজ করা হয় কিনা, সুপারিশ সিস্টেমগুলি কীভাবে তাদের সাথে আচরণ করে এবং একটি চ্যানেল সরানো অন্যদের দ্বারা দ্রুত প্রতিস্থাপনের দিকে নিয়ে যায় কিনা তা অজানা অন্তর্ভুক্ত। এই প্রশ্নগুলি গুরুত্বপূর্ণ কারণ গবেষক অনুরূপ বট-অ্যাকাউন্ট প্রোফাইল সহ চ্যানেলগুলির একটি নেটওয়ার্ক বর্ণনা করেছেন, কিন্তু উত্সটি স্বাধীনভাবে একটি সংস্থা তাদের নিয়ন্ত্রণ করে না।
নির্বাচনের সময় পর্যবেক্ষণের বিষয়বস্তুর পরিবর্তনকে অনুমান থেকে আলাদা করা উচিত। বিবিসি দ্বারা উদ্ধৃত বেনামী জাতীয়-নিরাপত্তা উত্সটি স্বাধীনভাবে নিশ্চিত করা হয়নি, তাই চ্যানেলগুলি একটি নির্দিষ্ট রাজনৈতিক বার্তার দিকে সরে যাওয়ার প্রমাণ হিসাবে এটি ব্যবহার করা উচিত নয়। শক্তিশালী প্রমাণের মধ্যে স্বচ্ছ মালিকানা লিঙ্ক, বারবার ক্রস-চ্যানেল সমন্বয়, সাধারণ উত্পাদন সম্পদ, তহবিল রেকর্ড বা বিতরণ এবং বার্তা প্রেরণের নথিভুক্ত পরিবর্তন অন্তর্ভুক্ত থাকবে। বিবিসি রিপোর্ট করেছে যে কিছু চ্যানেল চীনের সাথে একীকরণ পছন্দনীয় কিনা তা নিয়ে আলোচনা শুরু করেছে, তবে সেই বিষয়বস্তুর স্কেল, উত্স এবং সমন্বয় অজানা রয়ে গেছে।
তাইপেই ক্লাস একটি সুনির্দিষ্ট প্রতিক্রিয়া প্রদান করে: দর্শকরা একটি পাঠে পরিচিত ভিডিও নিয়ে আসে, তাদের দাবি নিয়ে প্রশ্ন তোলে এবং তারা ইতিমধ্যে যা জানে তার সাথে ফলাফলের তুলনা করে। এই পদ্ধতিটি সংশয়কে উন্নত করতে পারে, কিন্তু বিবিসি এটি প্রতিষ্ঠিত করে না যে Gemini বা ChatGPT একটি ভিডিওকে নির্ভরযোগ্যভাবে প্রমাণীকরণ করতে পারে বা চিকিৎসা পরামর্শকে যাচাই করতে পারে। ভবিষ্যত কভারেজ ট্র্যাক করা উচিত যে এই ধরনের ক্লাস ফরওয়ার্ডিং আচরণ পরিবর্তন করে কিনা, অংশগ্রহণকারীরা প্রামাণিক চিকিৎসা বা সরকারী সূত্রের সাথে পরামর্শ করে কিনা এবং কীভাবে শিক্ষাবিদরা একটি অসম্পূর্ণ AI সিস্টেম অন্যটি পরীক্ষা করার জন্য ব্যবহার করা হয় এমন ঝুঁকি মোকাবেলা করে।