এআই নিরাপত্তা

AI সুরক্ষা হল AI সিস্টেমগুলিকে মারাত্মক ক্ষতি করা থেকে - প্রতিদিনের ব্যর্থতা থেকে এবং উন্নত, অত্যন্ত সক্ষম সিস্টেমগুলি থেকে বিপর্যয়কর এবং অস্তিত্বের ঝুঁকির মাধ্যমে অপব্যবহারের উপর দৃষ্টি নিবদ্ধ করা।

AI নিরাপত্তা একটি বর্ণালী বিস্তৃত। এক প্রান্তে পরিচিত পণ্য ঝুঁকি: হ্যালুসিনেশন, পক্ষপাত, গোপনীয়তা ফাঁস, স্ক্যাম এবং অনিরাপদ পরামর্শ। অন্য প্রান্তে ঝুঁকিগুলি রয়েছে যা সক্ষমতার সাথে বৃদ্ধি পায়: স্বায়ত্তশাসিত সিস্টেম যা অপ্রত্যাশিত লক্ষ্যগুলি অনুসরণ করে, মডেলগুলি যা বিপর্যয়মূলক অপব্যবহারে সাহায্য করে (প্যাথোজেন, সাইবার আক্রমণ), এবং প্রতিযোগিতামূলক রেস যা ল্যাবগুলিকে নিরাপত্তা কাজ প্রস্তুত হওয়ার আগে স্থাপন করতে চাপ দেয়৷ অস্তিত্ব সংক্রান্ত ঝুঁকির আলোচনা এই সম্ভাবনার উপর ফোকাস করে যে ভবিষ্যতের AI সিস্টেমগুলি যথেষ্ট শক্তিশালী হয়ে উঠবে যে একটি একক ব্যর্থতা - ভুলভাবে সংগঠিত হওয়া, নিয়ন্ত্রণ হারানো বা অপরিবর্তনীয় বিস্তার - স্থায়ীভাবে মানবতার ভবিষ্যতকে হ্রাস করতে পারে। গবেষণাটিকে গুরুত্ব সহকারে নেওয়ার জন্য আপনাকে সেই ফলাফলের জন্য উচ্চ সম্ভাবনা নির্ধারণ করার দরকার নেই; কম-সম্ভাব্যতা, চরম-প্রভাব ঝুঁকি এখনও প্রস্তুতির ন্যায্যতা দেয়, ঠিক যেমন তারা জৈব নিরাপত্তা এবং পারমাণবিক নিরাপত্তার ক্ষেত্রে করে। বর্তমানে ব্যবহারিক নিরাপত্তা কাজের মধ্যে রয়েছে মূল্যায়ন, রেড-টিমিং, ব্যাখ্যাযোগ্যতা, নিয়ন্ত্রণ কৌশল, শাসন (কে কী প্রশিক্ষণ দিতে পারে), এবং জনসাধারণের বোঝাপড়া যাতে সমাজগুলি ভাল নীতি সমর্থন করতে পারে।