সোসাইটি গাইড
মডেল নিষ্কাশন এবং চুরি আক্রমণ
Model extraction uses query access to a deployed model to train a substitute that imitates some of its behavior.
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~2 min
এই পৃষ্ঠায়2 মিনিট পঠিত
ওভারভিউ
Attacks and reported recovery are specific to the model interface, outputs, and experiment.
গভীর ডুব
A model-extraction attack treats a deployed model as an oracle: an attacker collects input-output pairs and trains a substitute. The 2016 prediction-API paper demonstrates extraction attacks for specific model classes and shows that omitting confidence values does not prevent every attack. A 2024 study, *Stealing Part of a Production Language Model*, recovers an embedding-projection layer up to symmetries: it reports exact projection-matrix extraction for Ada and Babbage for under $20 in queries and estimates under $2,000 for GPT-3.5 Turbo. These results concern that layer and those models, not full checkpoint extraction. DynaMarks is a separate proposal that dynamically changes API responses using secret parameters to watermark surrogate models in its evaluated vision-model settings.
বাস্তব-বিশ্ব বাস্তবায়ন
Limit and monitor high-volume queries to a prediction API.
Compare label-only responses with probability-vector responses when reviewing information exposure.
Evaluate a proposed extraction defense on the model class and access pattern it targets.
Treat watermarking as a method-specific defense, not a universal guarantee of ownership.
মডেল নিষ্কাশন এবং চুরি আক্রমণের ভবিষ্যত
Defenses may combine access controls, monitoring, response design, and model-specific watermarking research. Assess each mitigation against the attack setting and model class it was tested on; no single safeguard guarantees that a substitute cannot be trained or identified.
এটাকে বাস্তবে প্রয়োগ করা হচ্ছে
কেন এটা গুরুত্বপূর্ণ
- ঝুঁকি এবং নিরাপত্তা. বিপর্যয়কর এবং দৈনন্দিন এআই ক্ষতি উভয়ই নির্ভর করে কে ঝুঁকি বুঝতে পারে এবং কে কাজ করতে পারে।
- সুস্পষ্ট সিদ্ধান্ত. জনসাধারণের এবং পেশাদার সাক্ষরতা গঠন করে যে শক্তিশালী নিরাপত্তা নীতি রাজনৈতিকভাবে সম্ভব কিনা।
- হাইপের মাধ্যমে কাটা. স্পষ্ট ব্যাখ্যা হাইপ, ল্যাব পিআর, এবং অস্পষ্ট নীতিশাস্ত্র থিয়েটার দ্বারা ক্যাপচার হ্রাস করে।
জন্য সতর্ক
- সক্ষমতা যৌগিক অবস্থায় অস্তিত্বগত ঝুঁকিকে সাই-ফাই হিসাবে বিবেচনা করা।
- উচ্চ স্বায়ত্তশাসনের অধীনে প্রান্তিককরণের সাথে বিভ্রান্তিকর পৃষ্ঠ পণ্য নিরাপত্তা।
- অ-ইংরেজি এবং অ-বিশেষজ্ঞ শ্রোতাদের শুধুমাত্র নিম্ন-মানের উত্স সহ ত্যাগ করা।
পরবর্তী পদক্ষেপ
- পৃথক পণ্য ক্ষতি, অপব্যবহার, এবং ক্ষতি-অব-নিয়ন্ত্রণ/বিভ্রান্তির ঝুঁকি।
- জিজ্ঞাসা করুন কি প্রমাণ সময়সীমা এবং তীব্রতা আপনার দৃষ্টিভঙ্গি পরিবর্তন করবে.
- বিপণন দাবির চেয়ে প্রাথমিক উত্স এবং কংক্রিট ইভাল পছন্দ করুন।
- একটি কর্ম পথ চিহ্নিত করুন: কর্মজীবন, নীতি, অর্থায়ন, বা দক্ষতা - শুধুমাত্র সচেতনতা নয়।
অন্বেষণ চালিয়ে যান
ফ্রি নিউজলেটার
প্রতিদিনের এআই ব্রিফিং পান
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
Take the Model Extraction and Stealing Attacks quiz
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
মডেল নিষ্কাশন এবং চুরি আক্রমণ কি?
Model extraction uses query access to a deployed model to train a substitute that imitates some of its behavior. Attacks and reported recovery are specific to the model interface, outputs, and experiment.
একটি মডেল নিষ্কাশন আক্রমণ পিছনে মূল ধারণা কি?
নিষ্কাশন স্থাপন করা মডেলটিকে একটি ওরাকল হিসাবে বিবেচনা করে: আক্রমণকারী ইনপুট-আউটপুট জোড়া সংগ্রহ করে এবং আচরণটি অনুকরণ করার জন্য একটি কপিক্যাট মডেলকে প্রশিক্ষণ দেয়, কখনও আসল ওজন অ্যাক্সেস না করে।
কেন সম্পূর্ণ সম্ভাব্যতা ভেক্টর ফেরত শুধুমাত্র একটি শীর্ষ-1 লেবেল ফেরত চেয়ে নিষ্কাশন সহজ করে তোলে?
প্রতিটি পূর্ণ সম্ভাব্যতা ভেক্টর একটি একক লেবেলের চেয়ে মডেলের অভ্যন্তরীণ সিদ্ধান্তের পৃষ্ঠ সম্পর্কে অনেক বেশি প্রকাশ করে, আক্রমণকারীকে কম প্রশ্নের সাথে সীমানা পুনর্গঠন করতে দেয়।
কোন প্রতিরক্ষামূলক কৌশল সরাসরি প্রতি প্রশ্নে ফাঁস হওয়া তথ্য হ্রাস করে?
মোটা আউটপুট, উদাহরণস্বরূপ শুধুমাত্র শীর্ষ লেবেল বা বৃত্তাকার সম্ভাব্যতা ফিরিয়ে দেওয়া, প্রতিটি প্রতিক্রিয়া আক্রমণকারীকে যে সংকেত দেয় তা হ্রাস করে, নিষ্কাশনের খরচ বাড়ায়।
What did the 2024 production-language-model extraction paper report about GPT-3.5 Turbo?
The paper recovers the embedding-projection layer up to symmetries, exactly extracts the projection matrix for Ada and Babbage for under $20, and estimates under $2,000 in queries for GPT-3.5 Turbo.
কেন চুরি করা বিকল্প মডেল শুধু হারানো রাজস্বের বাইরে বিপজ্জনক?
আক্রমণকারীদের একটি স্থানীয় অনুলিপি থাকলে, তারা প্রতিপক্ষের ইনপুট বা ফাঁকি দেওয়ার আক্রমণগুলি ডিজাইন করতে অবাধে তদন্ত করতে পারে যা মূল স্থাপন করা সিস্টেমকে বোকা বানিয়ে দেয়।
শিখতে থাকুন
সম্পর্কিত গাইড
এই বিষয়ের জন্য বাছাই করা আরও গাইড