পরবর্তী আপপরবর্তী গাইড
How to Prompt Reasoning Models
ভাষা এআই
ভাষা এআই গাইড
যুক্তির প্রচেষ্টা এবং চিন্তার বাজেট হল যুক্তির মডেলগুলির সেটিংস যা উত্তর দেওয়ার আগে মডেলটি কতটা অভ্যন্তরীণ ধাপে ধাপে কাজ করে তা নিয়ন্ত্রণ করে।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
আরও চিন্তাভাবনা প্রায়শই গণিত, কোডিং এবং বহু-পদক্ষেপ বিশ্লেষণের মতো কঠিন সমস্যার ফলাফলগুলিকে উন্নত করে, তবে এটি খরচ এবং বিলম্ব যোগ করে এবং একটি বিন্দুর পরে এটি সাহায্য করা বন্ধ করে দেয়। গুণমান, গতি এবং দামের ভারসাম্য বজায় রাখার সহজতম উপায়গুলির মধ্যে একটি কাজ প্রতি সঠিক স্তর নির্বাচন করা।
রিজনিং মডেলগুলিকে তাদের চূড়ান্ত উত্তরের আগে মধ্যবর্তী যুক্তির একটি চেইন তৈরি করতে প্রশিক্ষণ দেওয়া হয়। যে যুক্তি টোকেন দিয়ে তৈরি, ঠিক উত্তরের মতো, এবং এটি তৈরি করতে সময় এবং অর্থ লাগে। প্রদানকারীরা আপনাকে এটি কতটা ঘটবে তা নিয়ন্ত্রণ করতে দেয়। OpenAI তার যুক্তির মডেলগুলিতে নিম্ন, মাঝারি এবং উচ্চ স্তরের মতো একটি যুক্তি_প্রয়াস পরামিতি প্রকাশ করে; কিছু নতুন মডেল একটি ন্যূনতম স্তর যোগ করুন. Anthropic সমর্থিত Claude মডেলগুলির সম্প্রসারিত চিন্তা একটি বাজেট_টোকেন মান নেয় যা Claude চিন্তার জন্য ব্যবহার করতে পারে এমন সর্বাধিক সংখ্যক টোকেন সেট করে; বাজেটে ন্যূনতম 1,024 টোকেন রয়েছে এবং অবশ্যই max_tokens থেকে ছোট হতে হবে। Google-এর Gemini 2.5 মডেলগুলি চিন্তার বাজেট গ্রহণ করে, এবং কিছু চিন্তাভাবনা প্রত্যাখ্যান বা বন্ধ করতে পারে৷ নাম ভিন্ন, কিন্তু ধারণা একই: দ্রুত এবং পুঙ্খানুপুঙ্খ মধ্যে একটি ডায়াল. এই সেটিংস নির্দেশিকা, সঠিক গণনা নয়। একটি বড় বাজেট প্রদত্ত একটি মডেল একটি সহজ প্রশ্নে এটির শুধুমাত্র একটি অংশ ব্যবহার করতে পারে, এবং প্রচেষ্টার মাত্রা একটি সংখ্যা নির্ধারণের পরিবর্তে আচরণ পরিবর্তন করে। খরচ মানুষ প্রায়ই মিস অংশ. রিজনিং টোকেনগুলিকে সাধারণত আউটপুট টোকেন হিসাবে বিল করা হয় যখন আপনি সেগুলি দেখতে পান না, এবং আউটপুট টোকেনগুলির দাম সাধারণত ইনপুট টোকেনের চেয়ে বেশি হয়৷ একটি ছোট দৃশ্যমান উত্তর একটি বড় লুকানো বিল বহন করতে পারে। লেটেন্সিও বৃদ্ধি পায়, যেহেতু প্রতিটি যুক্তি টোকেন ক্রমানুসারে তৈরি হয়। আরও চিন্তাভাবনা কমেছে আয়। সহজ বা বাস্তবিক অনুসন্ধানের প্রশ্নে, অতিরিক্ত যুক্তি খুব কমই নির্ভুলতা উন্নত করে এবং কখনও কখনও একটি মডেলকে অতিরিক্ত জটিল করতে বা সঠিক উত্তর অনুমান করতে পারে। লাভগুলি সবচেয়ে বড় সমস্যাগুলির জন্য যা প্রকৃতপক্ষে বেশ কয়েকটি পদক্ষেপের প্রয়োজন৷ একটি সাধারণ ভুল ধারণা হল যে সর্বোচ্চ সেটিং সর্বদা সেরা। ব্যবহারিক পদ্ধতি হল আপনার নিজের কাজগুলিকে বিভিন্ন স্তরে পরীক্ষা করা এবং সর্বনিম্নটি বাছাই করা যা আপনার মানের বারের সাথে মেলে।
একটি গ্রাহক সহায়তা বট সহজ অর্ডার প্রশ্নের উত্তর দেয় কম যুক্তির প্রচেষ্টা ব্যবহার করে, যা সঠিকতাকে আঘাত না করে দ্রুত এবং সস্তা উত্তর দেয়।
একজন ডেভেলপার একটি জটিল কনকারেন্সি বাগ ডিবাগ করে সেই একটি অনুরোধের জন্য উচ্চ প্রচেষ্টায় স্যুইচ করে এবং কম সেটিং মিস করার জন্য একটি সঠিক নির্ণয় পায়।
Anthropic-এর বর্ধিত চিন্তাভাবনা ব্যবহার করে একটি দল রুটিন নথি পর্যালোচনার জন্য কয়েক হাজার টোকেনের বাজেট এবং শুধুমাত্র অস্বাভাবিক হিসাবে চিহ্নিত চুক্তির ধারাগুলির জন্য একটি অনেক বড় বাজেট সেট করে।
একজন বিশ্লেষক কম, মাঝারি এবং উচ্চ প্রচেষ্টায় 50 টি পরীক্ষার প্রশ্নগুলির একই সেট চালান এবং কম খরচে তাদের কাজের জন্য সঠিকতার উপর মাঝারি ম্যাচগুলি খুঁজে পান, তাই তারা মাঝারিতে মানক করে।
প্রদানকারীরা এমন মডেলের দিকে অগ্রসর হচ্ছে যা নিজেদের জন্য কতক্ষণ চিন্তা করতে হবে তা নির্ধারণ করে, প্রচেষ্টা সেটিংস নির্দিষ্ট নির্দেশের পরিবর্তে সীমানা হিসাবে কাজ করে; Anthropic এর নতুন মডেলগুলি, উদাহরণস্বরূপ, অভিযোজিত চিন্তার অফার করে এবং কিছু পণ্য ইতিমধ্যেই দ্রুত এবং যুক্তি মোডের মধ্যে স্বয়ংক্রিয়ভাবে স্যুইচ করে৷ গবেষণা যুক্তিকে আরও দক্ষ করে তোলার জন্য চলতে থাকে যাতে অনুরূপ নির্ভুলতার কম টোকেনের প্রয়োজন হয়। প্যারামিটারের নাম, অনুমোদিত মান এবং মূল্য বেশ কয়েকবার পরিবর্তিত হয়েছে এবং সম্ভবত পরিবর্তন হতে থাকবে, তাই বর্তমান সেটিংসকে প্রদানকারী-নির্দিষ্ট বিবরণ হিসাবে বিবেচনা করুন এবং আপনি যখন মডেলগুলি আপগ্রেড করবেন তখন আপনার নিজস্ব মূল্যায়ন পুনরায় চালান।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
যুক্তির প্রচেষ্টা এবং চিন্তার বাজেট হল যুক্তির মডেলগুলির সেটিংস যা উত্তর দেওয়ার আগে মডেলটি কতটা অভ্যন্তরীণ ধাপে ধাপে কাজ করে তা নিয়ন্ত্রণ করে। আরও চিন্তাভাবনা প্রায়শই গণিত, কোডিং এবং বহু-পদক্ষেপ বিশ্লেষণের মতো কঠিন সমস্যার ফলাফলগুলিকে উন্নত করে, তবে এটি খরচ এবং বিলম্ব যোগ করে এবং একটি বিন্দুর পরে এটি সাহায্য করা বন্ধ করে দেয়। গুণমান, গতি এবং দামের ভারসাম্য বজায় রাখার সহজতম উপায়গুলির মধ্যে একটি কাজ প্রতি সঠিক স্তর নির্বাচন করা।
এই সেটিংস একটি যুক্তি মডেল তার চূড়ান্ত উত্তরের আগে কতটা মধ্যবর্তী যুক্তি তৈরি করে তা সামঞ্জস্য করে।
রিজনিং টোকেনগুলিকে সাধারণত আউটপুট টোকেন হিসাবে বিল করা হয়, যেগুলির দাম সাধারণত ইনপুটের চেয়ে বেশি, এমনকি যখন সেগুলি দেখানো হয় না।
বাজেটে ন্যূনতম 1,024 টোকেন রয়েছে এবং অবশ্যই max_tokens-এর নিচে হতে হবে তাই উত্তরের জন্য জায়গা আছে।
বাজেট হল ঊর্ধ্ব সীমা এবং নির্দেশিকা। সহজ প্রশ্নে মডেল প্রায়ই অনেক কম ব্যবহার করে।
মাল্টি-স্টেপ সমস্যায় লাভ সবচেয়ে বড়। সহজ কাজগুলি খুব কমই উপকৃত হয় এবং এমনকি অতিরিক্ত চিন্তায়ও ভুগতে পারে।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
How to Prompt Reasoning Models
ভাষা এআই