এআই নিরাপত্তা
এআই সুরক্ষা মডেল, ডেটা, সরঞ্জাম এবং আশেপাশের পরিষেবাগুলিকে অননুমোদিত অ্যাক্সেস বা ম্যানিপুলেশন থেকে রক্ষা করে।
ওভারভিউ
এটিতে সাধারণ সফ্টওয়্যার সুরক্ষা এবং হুমকি অন্তর্ভুক্ত রয়েছে যা শেখার বা মডেল আচরণকে লক্ষ্য করে। একটি নিরাপদ নকশা প্রকৃত অ্যাপ্লিকেশনের সম্পদ, প্রতিপক্ষ এবং বিশ্বাসের সীমানা দিয়ে শুরু হয়।
মূল টেকওয়ে
- পুরো অ্যাপ্লিকেশনটি হুমকি-মডেল।
- মডেলের বাইরে অনুমতিগুলি প্রয়োগ করুন।
- সিস্টেম পরিবর্তনগুলি জুড়ে নিয়ন্ত্রণগুলি পুনরায় পরীক্ষা করে।
গভীর ডুব
কী সুরক্ষা প্রয়োজন তা সনাক্ত করুন: ব্যক্তিগত ইনপুট, প্রশিক্ষণ ডেটা, মডেল আর্টিফ্যাক্টস, শংসাপত্র, সংযুক্ত অ্যাকাউন্ট এবং বাহ্যিক ক্রিয়া। প্রতিটি ইনপুটকে কে প্রভাবিত করতে পারে এবং ব্যর্থতা থেকে আক্রমণকারী কী অর্জন করতে পারে তা রেকর্ড করুন। একটি পাবলিক চ্যাটবট এবং একটি অভ্যন্তরীণ এজেন্টের বিভিন্ন হুমকি মডেল রয়েছে। হুমকি বিভিন্ন পর্যায়ে প্রভাব ফেলতে পারে। বিষাক্ত প্রশিক্ষণ উপাদান শেখা আচরণ পরিবর্তন করতে পারে; প্রতিপক্ষের ইনপুটগুলি পূর্বাভাস পরিবর্তন করতে পারে; অবিশ্বস্ত পুনরুদ্ধার করা সামগ্রী একটি সরঞ্জাম-ব্যবহারকারী অ্যাপ্লিকেশনকে পুনর্নির্দেশ করতে পারে। উপযুক্ত হ্যান্ডলিং ছাড়াই কোনও ডাটাবেস কোয়েরি, ওয়েবপৃষ্ঠা বা কমান্ডে প্রবেশ করানোর সময় মডেল আউটপুটও বিপজ্জনক হয়ে উঠতে পারে। কোডে অনুমোদন প্রয়োগ করুন, যেখানে সম্ভব মডেল-দৃশ্যমান প্রসঙ্গের বাইরে গোপন রাখুন, সরঞ্জামের সুযোগ সীমাবদ্ধ করুন এবং ব্যবহারের আগে আউটপুটগুলি যাচাই করুন। কোনও মডেলকে নিরাপদে আচরণ করতে বলা একটি প্রম্পট অ্যাকাউন্ট বিচ্ছিন্নতা বা অনুমতি চেককে প্রতিস্থাপন করতে পারে না। একটি অনুমোদিত পরিবেশে প্রতিনিধি ব্যর্থতার পথগুলি পরীক্ষা করুন এবং একটি ঘটনা প্রক্রিয়া বজায় রাখুন। অপ্রয়োজনীয় সংবেদনশীল সামগ্রী সংগ্রহ না করে তদন্ত করার জন্য পর্যাপ্ত তথ্য লগ করুন। মডেল, পুনরুদ্ধারের উত্স, সরঞ্জাম এবং নির্ভরতা পরিবর্তনের পরে নিয়ন্ত্রণগুলি মূল্যায়ন করুন। অবশিষ্ট ঝুঁকি সততার সাথে বর্ণনা করুন; কোনও একক ফিল্টার সম্পূর্ণ সুরক্ষা প্রতিষ্ঠা করে না।
প্রযুক্তিগত অন্তর্দৃষ্টি
একটি দূষিত প্রম্পট প্রত্যাখ্যান করা একটি মডেল প্রমাণ করে না যে কোনও সিস্টেম নিরাপদ। বিভিন্ন ইনপুট, সরঞ্জাম, পদ্ধতি এবং উপাদান সীমানা স্বতন্ত্র ব্যর্থতার পথ তৈরি করতে পারে।
নিরাপত্তা সীমানা সনাক্ত করুন
- কল্পনা করুন যে কোনও সহকারী সাইন-ইন ব্যবহারকারীর জন্য একটি ব্যক্তিগত ডকুমেন্ট স্টোর অনুসন্ধান করছেন।
- নথিগুলি মডেল প্রসঙ্গে প্রবেশ করার আগে পুনরুদ্ধার পরিষেবাতে ব্যবহারকারীর অ্যাক্সেস ফিল্টার প্রয়োগ করুন।
- একটি ভিন্ন অ্যাকাউন্টের অন্তর্গত একটি নথি দিয়ে পরীক্ষা করুন এবং পরীক্ষা করুন যে এর বিষয়বস্তু বা সনাক্তকারী মেটাডেটা ফলাফলে উপস্থিত হয় না।
এই প্রতিরক্ষামূলক, কাল্পনিক পরীক্ষাটি নির্দেশাবলী অনুসরণ করার জন্য মডেলের ইচ্ছা থেকে স্বাধীনভাবে অনুমোদন পরীক্ষা করে।
কৌশলগত প্রভাব
ঝুঁকি এবং নিরাপত্তা
বিপর্যয়কর এবং দৈনন্দিন এআই ক্ষতি উভয়ই নির্ভর করে কে ঝুঁকি বুঝতে পারে এবং কে কাজ করতে পারে।
সুস্পষ্ট সিদ্ধান্ত
জনসাধারণের এবং পেশাদার সাক্ষরতা গঠন করে যে শক্তিশালী নিরাপত্তা নীতি রাজনৈতিকভাবে সম্ভব কিনা।
হাইপের মাধ্যমে কাটা
স্পষ্ট ব্যাখ্যা হাইপ, ল্যাব পিআর, এবং অস্পষ্ট নীতিশাস্ত্র থিয়েটার দ্বারা ক্যাপচার হ্রাস করে।
বাস্তব-বিশ্ব বাস্তবায়ন
পরীক্ষা করে দেখুন যে একটি অ্যাকাউন্ট অন্য অ্যাকাউন্টের নথি পুনরুদ্ধার করতে পারে না।
ডাটাবেস অপারেশনে উত্পন্ন ক্ষেত্রগুলি ব্যবহার করার আগে যাচাই করুন।
ঝুঁকি এবং প্রহরী
সক্ষমতা যৌগিক অবস্থায় অস্তিত্বগত ঝুঁকিকে সাই-ফাই হিসাবে বিবেচনা করা।
উচ্চ স্বায়ত্তশাসনের অধীনে প্রান্তিককরণের সাথে বিভ্রান্তিকর পৃষ্ঠ পণ্য নিরাপত্তা।
অ-ইংরেজি এবং অ-বিশেষজ্ঞ শ্রোতাদের শুধুমাত্র নিম্ন-মানের উত্স সহ ত্যাগ করা।
বাস্তবায়ন রোডম্যাপ
পৃথক পণ্য ক্ষতি, অপব্যবহার, এবং ক্ষতি-অব-নিয়ন্ত্রণ/বিভ্রান্তির ঝুঁকি।
জিজ্ঞাসা করুন কি প্রমাণ সময়সীমা এবং তীব্রতা আপনার দৃষ্টিভঙ্গি পরিবর্তন করবে.
বিপণন দাবির চেয়ে প্রাথমিক উত্স এবং কংক্রিট ইভাল পছন্দ করুন।
একটি কর্ম পথ চিহ্নিত করুন: কর্মজীবন, নীতি, অর্থায়ন, বা দক্ষতা - শুধুমাত্র সচেতনতা নয়।
সূত্র এবং আরও পড়ুন
অন্বেষণ চালিয়ে যান
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI Security quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
কৃত্রিম বুদ্ধিমত্তা নীতি ও সমাজে পরবর্তী
এআই নিরাপত্তা
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
একটি শক্তিশালী সিস্টেম কি একজন সহকারীকে সুরক্ষিত করার জন্য যথেষ্ট?
না। প্রমাণীকরণ, অনুমোদন, ইনপুট এবং আউটপুট হ্যান্ডলিং, সরঞ্জাম সীমা এবং ঘটনার প্রতিক্রিয়া অ্যাপ্লিকেশনটির প্রয়োজনীয় অংশ হিসাবে রয়ে গেছে।