ট্রি-অফ-থটস রিজনিং
ট্রি-অফ-থটস একটি মডেলকে চিন্তার এক লাইনে প্রতিশ্রুতিবদ্ধ হওয়ার পরিবর্তে একটি গাছের ডালের মতো সমান্তরালে অনেক যুক্তির পথ অন্বেষণ করতে দেয়।
ওভারভিউ
It can look ahead, evaluate partial solutions, and backtrack from dead ends.
গভীর ডুব
ইয়াও এট আল দ্বারা প্রবর্তিত। 2023 সালে, ট্রি-অফ-থটস (ToT) চেইন-অফ-থট প্রম্পটিংকে সাধারণীকরণ করে। যেখানে চেইন-অফ-থট যুক্তির পদক্ষেপগুলির একটি একক রৈখিক ক্রম তৈরি করে, সেখানে ToT সমস্যাটিকে একটি গাছ হিসাবে গঠন করে: প্রতিটি নোড একটি আংশিক সমাধান (একটি 'চিন্তা'), এবং মডেলটি প্রতিটি নোড থেকে একাধিক প্রার্থীর পরবর্তী চিন্তাভাবনা তৈরি করে। একটি পৃথক মূল্যায়ন ধাপ স্কোর করে যে প্রতিটি শাখা কতটা আশাব্যঞ্জক, এবং একটি অনুসন্ধান অ্যালগরিদম যেমন প্রস্থ-প্রথম বা গভীরতা-প্রথম অনুসন্ধান সিদ্ধান্ত নেয় কোন শাখাগুলিকে প্রসারিত করতে হবে এবং কোনটি ছাঁটাই করতে হবে। এটি মডেলটিকে ইচ্ছাকৃতভাবে অন্বেষণ করতে দেয়, কয়েক ধাপ এগিয়ে তাকাতে দেয়, এবং যখন একটি পথ অপ্রত্যাশিত দেখায় তখন পিছনে যেতে দেয়৷ লোভনীয় একক-পাথ যুক্তিকে পরাজিত করে এমন কাজগুলিতে টট আলোকিত হয়েছে, সবচেয়ে বিখ্যাত গেম অফ 24, যেখানে চেইন-অফ-থট সহ GPT-4 প্রায় 4% পাজল সমাধান করেছে কিন্তু ToT সাফল্যকে মোটামুটি 74% এ ঠেলে দিয়েছে।
প্রযুক্তিগত অন্তর্দৃষ্টি
ToT-এর তিনটি অংশ রয়েছে: একটি চিন্তা জেনারেটর যা প্রার্থীর পরবর্তী পদক্ষেপগুলি প্রস্তাব করে, একজন রাষ্ট্রীয় মূল্যায়নকারী (প্রায়ই একই LLM আংশিক সমাধানগুলিকে 'নিশ্চিত/হয়ত/অসম্ভব' হিসাবে রেট দিতে বা ভোট দেওয়ার জন্য অনুরোধ করে), এবং একটি অনুসন্ধান পদ্ধতি (BFS, DFS, বা বিম অনুসন্ধান) যা গাছটিকে নেভিগেট করে। যেহেতু মডেলটি আংশিক অবস্থার মূল্যায়ন করে এবং দুর্বল শাখাগুলিকে ছাঁটাই করে, এটি সমাধান স্থানের প্রতিশ্রুতিশীল অঞ্চলগুলির জন্য গণনা বরাদ্দ করে, ট্রেডিং অতিরিক্ত অনুমান কঠিন সমস্যাগুলিতে যথেষ্ট উচ্চ নির্ভুলতার জন্য কল করে।
কৌশলগত প্রভাব
খরচ ও বাজেট
আর্কিটেকচারের সিদ্ধান্তগুলি বছরের পর বছর ধরে কর্মক্ষমতা এবং অপারেটিং খরচ চালায়।
সুস্পষ্ট সিদ্ধান্ত
কারিগরি শিক্ষা দলগুলোকে সঠিক স্ট্যাক বেছে নিতে সাহায্য করে, শুধু নতুনটি নয়।
মান নিয়ন্ত্রণ
ভালো ইঞ্জিনিয়ারিং পছন্দ উৎপাদনে নির্ভরযোগ্যতার ঘটনা কমিয়ে দেয়।
ট্রি-অফ-থটস রিজনিং এর ভবিষ্যত
ট্রি-অফ-থটস প্রভাবিত করছে কিভাবে ইনফারেন্স-টাইম কম্পিউট ব্যয় করা হয়: একটি বড় ফরোয়ার্ড পাসের পরিবর্তে, সিস্টেমগুলি ক্রমবর্ধমানভাবে যুক্তির পাথগুলি অনুসন্ধান করে এবং সেরাটি বেছে নেয়। ভবিষ্যত কাজের লক্ষ্য হল যখন ব্রাঞ্চিং এর উচ্চ টোকেন খরচের মূল্য হবে তখন শিখতে হবে, প্রম্পট-ভিত্তিক স্ব-মূল্যায়নের পরিবর্তে প্রশিক্ষিত মান ফাংশন ব্যবহার করা এবং ট্রি অনুসন্ধানকে যুক্তির মডেলগুলিতে ভাঁজ করা যাতে আলোচনা আরও দক্ষ হয়। টুলস এবং ভেরিফায়ারগুলির সাথে আরও কঠোর ইন্টিগ্রেশন আশা করুন যাতে শাখা মূল্যায়ন মডেলের অনুমানের চেয়ে বাস্তব প্রতিক্রিয়ার উপর নির্ভর করে।
বাস্তব-বিশ্ব বাস্তবায়ন
24 গেমটি সমাধান করা যার উপরে দুটি সংখ্যাকে প্রথমে একত্রিত করতে হবে এবং 24 এ পৌঁছাতে পারে না এমন গাণিতিক পথ ছাঁটাই করে।
একটি সুসংগত পরিকল্পনা সহ সৃজনশীল লেখা, যেখানে মডেলটি বেশ কয়েকটি প্লটের রূপরেখা তৈরি করে, তাদের মূল্যায়ন করে এবং গদ্য লেখার আগে সবচেয়ে শক্তিশালীকে প্রসারিত করে।
মিনি ক্রসওয়ার্ডের মতো সীমাবদ্ধ ধাঁধা, যেখানে প্রতিটি ভরা শব্দ একটি চিন্তা এবং বেমানান শাখা পরিত্যক্ত হয়।
মাল্টি-স্টেপ ম্যাথ বা প্ল্যানিং সমস্যা যেখানে মডেলটি সীমাবদ্ধতা লঙ্ঘন করে তাদের থেকে বিকল্প মধ্যবর্তী ধাপ এবং ব্যাকট্র্যাকগুলি অন্বেষণ করে।
ঝুঁকি এবং প্রহরী
একটি বেঞ্চমার্ক অপ্টিমাইজ করা বৃহত্তর সিস্টেম দুর্বলতা আড়াল করতে পারে।
অবকাঠামো এবং রক্ষণাবেক্ষণের খরচ প্রায়ই অবমূল্যায়ন করা হয়।
সিস্টেমগুলি আরও জটিল হওয়ার সাথে সাথে সুরক্ষা এবং পর্যবেক্ষণযোগ্যতার ফাঁক বাড়তে পারে।
বাস্তবায়ন রোডম্যাপ
বাস্তবায়নের আগে বিলম্ব, গুণমান এবং খরচের লক্ষ্য নির্ধারণ করুন।
বাস্তবসম্মত লোড এবং ডেটা অবস্থার অধীনে বেঞ্চমার্ক।
ত্রুটি, প্রবাহ, এবং ব্যবহারকারীর প্রভাবের জন্য যন্ত্র পর্যবেক্ষণ।
স্কেল করার আগে রোলব্যাক এবং ঘটনার প্রতিক্রিয়া পাথ প্রস্তুত করুন।
অন্বেষণ চালিয়ে যান
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree-of-Thoughts Reasoning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
পরবর্তী গাইড
ট্রি অফ থটস
প্রায়শই জিজ্ঞাসিত প্রশ্নাবলী
What is Tree-of-Thoughts Reasoning?
ট্রি-অফ-থটস একটি মডেলকে চিন্তার এক লাইনে প্রতিশ্রুতিবদ্ধ হওয়ার পরিবর্তে একটি গাছের ডালের মতো সমান্তরালে অনেক যুক্তির পথ অন্বেষণ করতে দেয়। এটি সামনের দিকে তাকাতে পারে, আংশিক সমাধানের মূল্যায়ন করতে পারে এবং শেষ প্রান্ত থেকে পিছনে যেতে পারে।
ট্রি-অফ-থটস চেইন-অফ-থট প্রম্পটিং থেকে কীভাবে আলাদা?
চেইন-অফ-থটস একটি একক রৈখিক ক্রম তৈরি করে, যখন ট্রি-অফ-থটস অনেক প্রার্থীর পাথে শাখা তৈরি করে যা মূল্যায়ন এবং ছাঁটাই করা যায়।
ট্রি-অফ-থটসে, একটি একক নোড সাধারণত কী প্রতিনিধিত্ব করে?
প্রতিটি নোড হল একটি আংশিক সমাধান (একটি চিন্তা), এবং মডেলটি প্রতিটি নোড থেকে একাধিক প্রার্থীর পরবর্তী চিন্তা প্রসারিত করে।
ট্রি-অফ-থটস-এ রাষ্ট্র মূল্যায়নকারী কী ভূমিকা পালন করে?
মূল্যায়নকারী, প্রায়শই একই LLM, হার বা আংশিক অবস্থার উপর ভোট (যেমন, নিশ্চিত/সম্ভবত/অসম্ভব) যাতে অনুসন্ধান প্রতিশ্রুতিশীল শাখাগুলিতে ফোকাস করতে পারে।
গেম অফ 24 বেঞ্চমার্কে, ToT নাটকীয়ভাবে চেইন-অফ-থটকে ছাড়িয়ে গেছে মোটামুটি কোন লাফ দিয়ে?
চেইন-অফ-থট সহ GPT-4 গেম অফ 24টি পাজলের প্রায় 4% সমাধান করেছে, যখন ট্রি-অফ-থটস প্রায় 74% পৌঁছেছে।
কোন অনুসন্ধান কৌশল সাধারণত চিন্তা গাছ নেভিগেট ব্যবহার করা হয়?
কোন শাখাগুলিকে প্রসারিত করতে হবে তা নির্ধারণ করতে বিএফএস, ডিএফএস, বা বিম অনুসন্ধানের মতো ক্লাসিক অনুসন্ধান পদ্ধতির সাথে ToT জোড়া চিন্তাভাবনা এবং মূল্যায়ন করে।