এআই শব্দকোষের মেয়াদ

LoRA (নিম্ন-র্যাঙ্ক অভিযোজন) কী?

সংজ্ঞা

একটি পরামিতি-দক্ষ ফাইন-টিউনিং পদ্ধতি যা নিম্ন-র্যাঙ্ক অ্যাডাপ্টার ম্যাট্রিক্স যোগ করে।

প্যারামিটার-দক্ষ ফাইন-টিউনিং (PEFT)যে পদ্ধতিগুলি যোগ করা পরামিতিগুলির একটি ছোট উপসেট প্রশিক্ষণের মাধ্যমে মডেলগুলিকে অভিযোজিত করে৷QLoRAএকটি ফাইন-টিউনিং কৌশল যা মেমরির চাহিদা কমাতে LoRA অ্যাডাপ্টারের সাথে 4-বিট ওজনের পরিমাপকে একত্রিত করে।ফাইন-টিউনিংএকটি নির্দিষ্ট কাজের জন্য একটি প্রাক-প্রশিক্ষিত মডেলকে মানিয়ে নিতে ডোমেন-নির্দিষ্ট ডেটার উপর অবিরত প্রশিক্ষণ।নির্দেশ টিউনিংনির্দেশনা-প্রতিক্রিয়া জোড়ায় একটি মডেলকে ফাইন-টিউনিং করে অনুসরণ করা টাস্ককে উন্নত করা।ডিপিও (ডাইরেক্ট প্রেফারেন্স অপ্টিমাইজেশান)একটি প্রশিক্ষণ পদ্ধতি যা একটি পৃথক পুরস্কার মডেলের প্রয়োজন ছাড়াই সরাসরি পছন্দের জোড়ায় মডেলগুলিকে সূক্ষ্ম-টিউন করে৷লেবেল স্মুথিংএকটি নিয়মিতকরণ পদ্ধতি যা সাধারণীকরণের উন্নতি করতে হার্ড লেবেলগুলিকে নরম করে।

আমাদের বিনামূল্যের গাইডে আরও জানুন

আরও দেখুন