এআই শব্দকোষের মেয়াদ

মডেল কোয়ান্টাইজেশন কী?

সংজ্ঞা

মেমরি এবং অনুমান খরচ কমাতে মডেল ওজনের সাংখ্যিক নির্ভুলতা হ্রাস করা।

কোয়ান্টাইজেশনমডেলের ওজনকে 8-বিট বা 4-বিটের মতো নিম্ন নির্ভুল ফর্ম্যাটে রূপান্তর করা।QLoRAএকটি ফাইন-টিউনিং কৌশল যা মেমরির চাহিদা কমাতে LoRA অ্যাডাপ্টারের সাথে 4-বিট ওজনের পরিমাপকে একত্রিত করে।ফ্ল্যাশ মনোযোগএকটি অপ্টিমাইজ করা মনোযোগ অ্যালগরিদম যা মেমরির ব্যবহার হ্রাস করে এবং ট্রান্সফরমার প্রশিক্ষণ এবং অনুমানকে গতি দেয়।মেমরি (এজেন্ট মেমরি)সঞ্চিত প্রসঙ্গ একটি এআই এজেন্ট ধারাবাহিকতা উন্নত করতে বিভিন্ন ধাপ বা সেশন জুড়ে ব্যবহার করে।এআই এজেন্টএকটি সফ্টওয়্যার সিস্টেম যা লক্ষ্য অর্জনের জন্য পর্যবেক্ষণ, যুক্তি এবং পদক্ষেপ নিতে পারে, প্রায়শই সরঞ্জাম এবং মেমরি ব্যবহার করে।এআই নিরাপত্তাAI সিস্টেমে ক্ষতিকর আচরণ, ব্যর্থতা এবং অপব্যবহারের ঝুঁকি কমানোর উপর দৃষ্টি নিবদ্ধ করা একটি ক্ষেত্র।

আমাদের বিনামূল্যের গাইডে আরও জানুন

আরও দেখুন