কি ছাঁটাই?

একটি মনোযোগের প্যাটার্ন যেখানে প্রতিটি টোকেন গণনা কমাতে কাছাকাছি টোকেনের একটি নির্দিষ্ট-আকারের উইন্ডোতে উপস্থিত থাকে।

মডেলের আকার, ডেটা বা গণনার মাধ্যমে কর্মক্ষমতা কীভাবে উন্নত হয় তা দেখানো একটি অভিজ্ঞতামূলক সম্পর্ক।

একটি ছোট মডেল অনুমানে কম গণনা ব্যবহার করার সময় একটি বড় মডেলের আচরণ অনুকরণ করতে প্রশিক্ষিত।

মূল প্রশিক্ষণ অ্যালগরিদম যা নেটওয়ার্কের মাধ্যমে পূর্বাভাস ত্রুটিগুলিকে পিছনের দিকে প্রচার করে মডেল ওজন আপডেট করে।

মডেলগুলিকে প্রশিক্ষণ এবং চালানোর জন্য প্রয়োজনীয় প্রক্রিয়াকরণ সংস্থানগুলি, প্রায়শই FLOPS বা GPU ঘন্টায় পরিমাপ করা হয়।

ক্ষতি কমাতে প্রতিটি পরামিতি কতটা পরিবর্তন করা উচিত তা দেখানো একটি ভেক্টর।