পরবর্তী আপকৃত্রিম বুদ্ধিমত্তা নীতি ও সমাজে পরবর্তী
এআই নিরাপত্তা
সমাজ
সোসাইটি গাইড
এআই নিরাপত্তা
এআই সুরক্ষা মডেল, ডেটা, সরঞ্জাম এবং আশেপাশের পরিষেবাগুলিকে অননুমোদিত অ্যাক্সেস বা ম্যানিপুলেশন থেকে রক্ষা করে।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~2 min
এই পৃষ্ঠায়2 মিনিট পঠিত
ওভারভিউ
এটিতে সাধারণ সফ্টওয়্যার সুরক্ষা এবং হুমকি অন্তর্ভুক্ত রয়েছে যা শেখার বা মডেল আচরণকে লক্ষ্য করে। একটি নিরাপদ নকশা প্রকৃত অ্যাপ্লিকেশনের সম্পদ, প্রতিপক্ষ এবং বিশ্বাসের সীমানা দিয়ে শুরু হয়।
মূল টেকওয়ে
- পুরো অ্যাপ্লিকেশনটি হুমকি-মডেল।
- মডেলের বাইরে অনুমতিগুলি প্রয়োগ করুন।
- সিস্টেম পরিবর্তনগুলি জুড়ে নিয়ন্ত্রণগুলি পুনরায় পরীক্ষা করে।
গভীর ডুব
কী সুরক্ষা প্রয়োজন তা সনাক্ত করুন: ব্যক্তিগত ইনপুট, প্রশিক্ষণ ডেটা, মডেল আর্টিফ্যাক্টস, শংসাপত্র, সংযুক্ত অ্যাকাউন্ট এবং বাহ্যিক ক্রিয়া। প্রতিটি ইনপুটকে কে প্রভাবিত করতে পারে এবং ব্যর্থতা থেকে আক্রমণকারী কী অর্জন করতে পারে তা রেকর্ড করুন। একটি পাবলিক চ্যাটবট এবং একটি অভ্যন্তরীণ এজেন্টের বিভিন্ন হুমকি মডেল রয়েছে। হুমকি বিভিন্ন পর্যায়ে প্রভাব ফেলতে পারে। বিষাক্ত প্রশিক্ষণ উপাদান শেখা আচরণ পরিবর্তন করতে পারে; প্রতিপক্ষের ইনপুটগুলি পূর্বাভাস পরিবর্তন করতে পারে; অবিশ্বস্ত পুনরুদ্ধার করা সামগ্রী একটি সরঞ্জাম-ব্যবহারকারী অ্যাপ্লিকেশনকে পুনর্নির্দেশ করতে পারে। উপযুক্ত হ্যান্ডলিং ছাড়াই কোনও ডাটাবেস কোয়েরি, ওয়েবপৃষ্ঠা বা কমান্ডে প্রবেশ করানোর সময় মডেল আউটপুটও বিপজ্জনক হয়ে উঠতে পারে। কোডে অনুমোদন প্রয়োগ করুন, যেখানে সম্ভব মডেল-দৃশ্যমান প্রসঙ্গের বাইরে গোপন রাখুন, সরঞ্জামের সুযোগ সীমাবদ্ধ করুন এবং ব্যবহারের আগে আউটপুটগুলি যাচাই করুন। কোনও মডেলকে নিরাপদে আচরণ করতে বলা একটি প্রম্পট অ্যাকাউন্ট বিচ্ছিন্নতা বা অনুমতি চেককে প্রতিস্থাপন করতে পারে না। একটি অনুমোদিত পরিবেশে প্রতিনিধি ব্যর্থতার পথগুলি পরীক্ষা করুন এবং একটি ঘটনা প্রক্রিয়া বজায় রাখুন। অপ্রয়োজনীয় সংবেদনশীল সামগ্রী সংগ্রহ না করে তদন্ত করার জন্য পর্যাপ্ত তথ্য লগ করুন। মডেল, পুনরুদ্ধারের উত্স, সরঞ্জাম এবং নির্ভরতা পরিবর্তনের পরে নিয়ন্ত্রণগুলি মূল্যায়ন করুন। অবশিষ্ট ঝুঁকি সততার সাথে বর্ণনা করুন; কোনও একক ফিল্টার সম্পূর্ণ সুরক্ষা প্রতিষ্ঠা করে না।
04কাজের উদাহরণ
নিরাপত্তা সীমানা সনাক্ত করুন
কল্পনা করুন যে কোনও সহকারী সাইন-ইন ব্যবহারকারীর জন্য একটি ব্যক্তিগত ডকুমেন্ট স্টোর অনুসন্ধান করছেন।
নথিগুলি মডেল প্রসঙ্গে প্রবেশ করার আগে পুনরুদ্ধার পরিষেবাতে ব্যবহারকারীর অ্যাক্সেস ফিল্টার প্রয়োগ করুন।
একটি ভিন্ন অ্যাকাউন্টের অন্তর্গত একটি নথি দিয়ে পরীক্ষা করুন এবং পরীক্ষা করুন যে এর বিষয়বস্তু বা সনাক্তকারী মেটাডেটা ফলাফলে উপস্থিত হয় না।
এটা কি দেখায়
এই প্রতিরক্ষামূলক, কাল্পনিক পরীক্ষাটি নির্দেশাবলী অনুসরণ করার জন্য মডেলের ইচ্ছা থেকে স্বাধীনভাবে অনুমোদন পরীক্ষা করে।
বাস্তব-বিশ্ব বাস্তবায়ন
পরীক্ষা করে দেখুন যে একটি অ্যাকাউন্ট অন্য অ্যাকাউন্টের নথি পুনরুদ্ধার করতে পারে না।
ডাটাবেস অপারেশনে উত্পন্ন ক্ষেত্রগুলি ব্যবহার করার আগে যাচাই করুন।
এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
কেন এটা গুরুত্বপূর্ণ
- ঝুঁকি এবং নিরাপত্তা. বিপর্যয়কর এবং দৈনন্দিন এআই ক্ষতি উভয়ই নির্ভর করে কে ঝুঁকি বুঝতে পারে এবং কে কাজ করতে পারে।
- সুস্পষ্ট সিদ্ধান্ত. জনসাধারণের এবং পেশাদার সাক্ষরতা গঠন করে যে শক্তিশালী নিরাপত্তা নীতি রাজনৈতিকভাবে সম্ভব কিনা।
- হাইপের মাধ্যমে কাটা. স্পষ্ট ব্যাখ্যা হাইপ, ল্যাব পিআর, এবং অস্পষ্ট নীতিশাস্ত্র থিয়েটার দ্বারা ক্যাপচার হ্রাস করে।
জন্য সতর্ক
- সক্ষমতা যৌগিক অবস্থায় অস্তিত্বগত ঝুঁকিকে সাই-ফাই হিসাবে বিবেচনা করা।
- উচ্চ স্বায়ত্তশাসনের অধীনে প্রান্তিককরণের সাথে বিভ্রান্তিকর পৃষ্ঠ পণ্য নিরাপত্তা।
- অ-ইংরেজি এবং অ-বিশেষজ্ঞ শ্রোতাদের শুধুমাত্র নিম্ন-মানের উত্স সহ ত্যাগ করা।
পরবর্তী পদক্ষেপ
- পৃথক পণ্য ক্ষতি, অপব্যবহার, এবং ক্ষতি-অব-নিয়ন্ত্রণ/বিভ্রান্তির ঝুঁকি।
- জিজ্ঞাসা করুন কি প্রমাণ সময়সীমা এবং তীব্রতা আপনার দৃষ্টিভঙ্গি পরিবর্তন করবে.
- বিপণন দাবির চেয়ে প্রাথমিক উত্স এবং কংক্রিট ইভাল পছন্দ করুন।
- একটি কর্ম পথ চিহ্নিত করুন: কর্মজীবন, নীতি, অর্থায়ন, বা দক্ষতা - শুধুমাত্র সচেতনতা নয়।
সূত্র এবং আরও পড়ুন
অন্বেষণ চালিয়ে যান
ফ্রি নিউজলেটার
প্রতিদিনের এআই ব্রিফিং পান
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
Take the AI Security quiz
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
একটি শক্তিশালী সিস্টেম কি একজন সহকারীকে সুরক্ষিত করার জন্য যথেষ্ট?
না। প্রমাণীকরণ, অনুমোদন, ইনপুট এবং আউটপুট হ্যান্ডলিং, সরঞ্জাম সীমা এবং ঘটনার প্রতিক্রিয়া অ্যাপ্লিকেশনটির প্রয়োজনীয় অংশ হিসাবে রয়ে গেছে।
শিখতে থাকুন
সম্পর্কিত গাইড
এই বিষয়ের জন্য বাছাই করা আরও গাইড