সাংবিধানিক এআই
সাংবিধানিক AI হল Anthropic-এর নীতিমালার লিখিত সেট - একটি 'সংবিধান' - ব্যবহার করে মডেলগুলিকে সারিবদ্ধ করার পদ্ধতি - তাই AI ক্ষতিকারক বিষয়বস্তু লেবেল করার জন্য শুধুমাত্র মানুষের উপর নির্ভর না করে তার নিজস্ব উত্তরগুলির সমালোচনা করে এবং সংশোধন করে৷
ওভারভিউ
It aims to make models helpful and harmless with far less human labor.
গভীর ডুব
ঐতিহ্যগত সারিবদ্ধতা মানব প্রতিক্রিয়া (RLHF) থেকে শক্তিবৃদ্ধি শিক্ষার উপর নির্ভর করে, যেখানে লোকেরা মডেলকে কী এড়াতে হবে তা শেখানোর জন্য বিরক্তিকর সহ প্রচুর মডেল আউটপুট র্যাঙ্ক করে। সাংবিধানিক AI মডেলটিকে জাতিসংঘের মানবাধিকার ঘোষণা এবং আস্থা-এবং-নিরাপত্তার সর্বোত্তম অনুশীলনের মতো উত্স থেকে প্রাপ্ত লিখিত নীতিগুলির একটি সুস্পষ্ট তালিকা প্রদান করে সেই বোঝা হ্রাস করে৷ প্রশিক্ষণের দুটি ধাপ রয়েছে। প্রথমত, একটি তত্ত্বাবধানে থাকা পর্যায়: মডেলটি একটি প্রতিক্রিয়া তৈরি করে, তারপর এটিকে একটি সাংবিধানিক নীতির বিরুদ্ধে সমালোচনা করে এবং এটিকে আরও ভাল করার জন্য পুনর্লিখন করে; এই স্ব-উন্নত উত্তরগুলি এটিকে সূক্ষ্ম-টিউন করতে ব্যবহৃত হয়। দ্বিতীয়ত, একটি শক্তিবৃদ্ধি-শিক্ষার পর্যায়, আরএলএআইএফ, যেখানে মডেলটি নিজেই সংবিধান অনুসারে জোড়া প্রতিক্রিয়াগুলির র্যাঙ্ক করে এবং সেই AI-উত্পন্ন পছন্দের ডেটা একটি পুরস্কার মডেলকে প্রশিক্ষণ দেয়। নীতিগুলি স্বচ্ছ এবং সম্পাদনাযোগ্য, অস্বচ্ছ মানব লেবেলের ভিতরে লুকিয়ে রাখার পরিবর্তে মডেলটিকে পরিদর্শনযোগ্য করে তোলে।
প্রযুক্তিগত অন্তর্দৃষ্টি
দুটি পর্যায়কে প্রায়ই SL-CAI এবং RL-CAI বলা হয়। তত্ত্বাবধানে শেখার ক্ষেত্রে, একটি 'সমালোচনা-এবং-সংশোধন' লুপ মডেলকে অনুপ্রাণিত করে যেখানে তার নিজস্ব উত্তর একটি নমুনাযুক্ত নীতি লঙ্ঘন করে এবং এটি পুনরায় লিখতে পারে, মানব ক্ষতি-লেবেলিং ছাড়াই প্রশিক্ষণ ডেটা তৈরি করে। RL পর্বে, একটি দ্বিতীয় মডেল বিচার করে যে দুটি প্রতিক্রিয়ার মধ্যে কোনটি সংবিধানকে ভালোভাবে অনুসরণ করে, এআই প্রেফারেন্স লেবেল (RLAIF) তৈরি করে যা স্ট্যান্ডার্ড RL-এ ব্যবহৃত একটি পুরস্কার মডেলকে প্রশিক্ষণ দেয়। সংবিধান হল সরল-পাঠ্য নির্দেশিকা প্রম্পটে ইনজেক্ট করা, তাই মডেলের আচরণ পরিবর্তন করা নীতিগুলি সম্পাদনার মতো সরাসরি হতে পারে।
কৌশলগত প্রভাব
গতি এবং স্কেল
ভাষার কর্মপ্রবাহ ধারাবাহিকতাকে ত্যাগ না করে দ্রুত অগ্রসর হতে পারে।
অ্যাক্সেস এবং পৌঁছানো
এটি ভাষা এবং যোগাযোগ শৈলী জুড়ে অ্যাক্সেস প্রসারিত করে।
সুস্পষ্ট সিদ্ধান্ত
অটোমেশন পুনরাবৃত্তি পরিচালনা করার সময় দলগুলি বিচারে আরও বেশি সময় ব্যয় করতে পারে।
সাংবিধানিক এআই এর ভবিষ্যত
সাংবিধানিক AI 'স্কেলযোগ্য তদারকি'র দিকে নির্দেশ করে, যেখানে AI AI তত্ত্বাবধানে সাহায্য করে কারণ মডেলগুলি মানুষের পক্ষে প্রতিটি আউটপুট পরীক্ষা করার জন্য খুব বেশি সক্ষম হয়। আরও সমৃদ্ধ, আরও সূক্ষ্ম সংবিধান, জনসাধারণের এবং অংশগ্রহণমূলক ইনপুট আশা করুন যার মধ্যে নীতিগুলি বেছে নেওয়া হয়েছে (Anthropic 'সম্মিলিত সাংবিধানিক AI' পরীক্ষা চালিয়েছে), এবং হাইব্রিড পন্থাগুলি AI স্ব-সমালোচনার সাথে মানুষের প্রতিক্রিয়া মিশ্রিত করে৷ লিখিত নীতিগুলির স্বচ্ছতা এটিকে নিয়ন্ত্রক এবং নিরীক্ষকদের কাছে আকর্ষণীয় করে তোলে যা একটি সিস্টেম এনকোড করা মানগুলি দেখতে চায়। ফ্রন্টিয়ার মডেলগুলি অগ্রসর হওয়ার সাথে সাথে, যে পদ্ধতিগুলি মডেলগুলিকে সুস্পষ্ট নিয়মের বিরুদ্ধে নির্ভরযোগ্যভাবে সমালোচনা করতে এবং নিজেদের উন্নত করতে দেয় সেগুলি সম্ভবত সুরক্ষার কেন্দ্রবিন্দু হয়ে উঠবে।
বাস্তব-বিশ্ব বাস্তবায়ন
একটি চ্যাটবটকে একটি অস্ত্র তৈরিতে সাহায্য করতে প্রত্যাখ্যান করার জন্য প্রশিক্ষণ দেওয়া, এটি একটি ক্ষতি-পরিহার নীতির বিরুদ্ধে তার নিজস্ব খসড়া উত্তরের সমালোচনা করে এবং এটিকে পুনরায় লিখতে
সংবিধান দ্বারা পরিচালিত এআই-জেনারেটেড প্রেফারেন্স ডেটা (RLAIF) দিয়ে বিষাক্ত আউটপুটগুলির ব্যয়বহুল হিউম্যান রেড-টিম লেবেলিং প্রতিস্থাপন করা
একটি মডেল কতটা সতর্ক তা সামঞ্জস্য করার জন্য একটি লিখিত নীতি সম্পাদনা করা, তারপর হাজার হাজার উদাহরণ রিলেবেল না করে আচরণের পরিবর্তন পর্যবেক্ষণ করা
সম্মিলিত ইনপুট অনুশীলন চালানো যেখানে জনসাধারণ এমন নীতি প্রস্তাব করে যা মডেলের সংবিধানকে আকৃতি দেয়
ঝুঁকি এবং প্রহরী
হ্যালুসিনেটেড ফ্যাক্টগুলি শান্তভাবে রিপোর্ট, সমর্থন প্রবাহ, বা গবেষণা আউটপুট প্রবেশ করতে পারে।
প্রম্পট সংবেদনশীলতা অনুরূপ অনুরোধ জুড়ে অসামঞ্জস্যপূর্ণ ফলাফল তৈরি করতে পারে।
অ্যাক্সেস কন্ট্রোল দুর্বল হলে সংবেদনশীল পাঠ্য ডেটা উন্মুক্ত হতে পারে।
বাস্তবায়ন রোডম্যাপ
রোলআউট করার আগে আউটপুট ফর্ম্যাট, টোন এবং মানের মান নির্ধারণ করুন।
যখনই নির্ভুলতা গুরুত্বপূর্ণ তখন বিশ্বস্ত উত্সের সাথে গ্রাউন্ড প্রতিক্রিয়া।
উচ্চ-স্টেকের আউটপুটগুলির জন্য একটি মানব পর্যালোচনা চেকপয়েন্ট রাখুন।
ব্যর্থতার নিদর্শনগুলি ট্র্যাক করুন এবং প্রম্পট বা ওয়ার্কফ্লোগুলিকে নিয়মিতভাবে পুনরায় প্রশিক্ষণ দিন।
অন্বেষণ চালিয়ে যান
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Constitutional AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
পরবর্তী গাইড
নির্দেশ টিউনিং
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
What is Constitutional AI?
সাংবিধানিক AI হল Anthropic-এর নীতিমালার লিখিত সেট - একটি 'সংবিধান' - ব্যবহার করে মডেলগুলিকে সারিবদ্ধ করার পদ্ধতি - তাই AI ক্ষতিকারক বিষয়বস্তু লেবেল করার জন্য শুধুমাত্র মানুষের উপর নির্ভর না করে তার নিজস্ব উত্তরগুলির সমালোচনা করে এবং সংশোধন করে৷ এটির লক্ষ্য অনেক কম মানব শ্রম দিয়ে মডেলগুলিকে সহায়ক এবং নিরীহ করে তোলা।
সাংবিধানিক এআইতে 'সংবিধান' কী?
সংবিধান হল লিখিত নীতির একটি স্বচ্ছ সেট, মানবাধিকার নথির মতো উৎস থেকে প্রাপ্ত, যা মডেলটি তার উত্তরগুলিকে মূল্যায়ন এবং উন্নত করতে ব্যবহার করে।
স্ট্যান্ডার্ড RLHF এর সাথে কোন মূল সমস্যাটি সাংবিধানিক এআই কমানোর লক্ষ্য রাখে?
নীতির বিরুদ্ধে মডেলের সমালোচনা করে, সাংবিধানিক এআই বিরক্তিকর বা ক্ষতিকারক ফলাফলগুলি পর্যালোচনা এবং লেবেল করার মানব শ্রমকে হ্রাস করে।
সাংবিধানিক এআই-এর তত্ত্বাবধানে থাকা পর্যায়ে, মডেলটি তার নিজস্ব আউটপুটে কী করে?
মডেলটি একটি সমালোচনা-এবং-সংশোধন লুপ চালায়: এটি সনাক্ত করে যে এর খসড়াটি কোথায় একটি নমুনাযুক্ত নীতি লঙ্ঘন করে, তারপর উত্তরটি পুনঃলিখন করে, স্ব-উন্নত প্রশিক্ষণ ডেটা তৈরি করে।
রিইনফোর্সমেন্ট-লার্নিং স্টেজে RLAIF কিসের জন্য দাঁড়ায়?
RLAIF এর অর্থ হল AI ফিডব্যাক থেকে রিইনফোর্সমেন্ট লার্নিং: একটি মডেল সংবিধান অনুযায়ী প্রতিক্রিয়া র্যাঙ্ক করে, মানব লেবেলের পরিবর্তে AI-জেনারেটেড পছন্দের ডেটা তৈরি করে।
কেন লিখিত নীতির ব্যবহার স্বচ্ছতার জন্য একটি সুবিধা হিসাবে বিবেচিত হয়?
কারণ নির্দেশক মানগুলি লেখা আছে, সেগুলি বিক্ষিপ্ত মানব রেটিংগুলিতে অন্তর্নিহিতভাবে এনকোড করা পছন্দগুলির বিপরীতে সরাসরি পরিদর্শন, নিরীক্ষা এবং সম্পাদনা করা যেতে পারে।