পরবর্তী আপপরবর্তী গাইড
Turning OpenAPI Specs into LLM Tools
টেকনিক্যাল
প্রযুক্তিগত গাইড
এলএলএম এজেন্টদের জন্য টুল ডিজাইন করার অর্থ হল নাম, বর্ণনা, প্যারামিটার স্কিমা, আউটপুট এবং ত্রুটির বার্তাগুলি লেখা যা একটি ভাষা মডেল কোন ফাংশনটি কল করবে এবং কীভাবে এটি কল করবে তা সিদ্ধান্ত নিতে পড়ে।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
মডেলটি কখনই আপনার কোডটি দেখতে পায় না, শুধুমাত্র এই পাঠ্যটি, তাই একটি অস্পষ্ট বিবরণ বা একটি ঢালু স্কিমা ভুল কলগুলি তৈরি করে ঠিক যেমন একটি বাগ করে।
একটি টুলের সংজ্ঞার চারটি অংশ রয়েছে যার উপর মডেলটি নির্ভর করে: একটি নাম, একটি প্রাকৃতিক-ভাষার বিবরণ, একটি ইনপুট স্কিমা (সাধারণত JSON স্কিমা), এবং টুলটি যে পাঠ্যটি ফেরত পাঠায়। প্রতিটি একটি প্রম্পট মত কাজ করে. মডেলটি ব্যবহারকারীর লক্ষ্যের সাথে বর্ণনার সাথে মিল রেখে একটি টুল কল করবে কিনা তা নির্ধারণ করে এবং এটি প্যারামিটারের নাম, প্রকার, এনাম এবং উদাহরণ ব্যবহার করে আর্গুমেন্ট পূরণ করে। ভাল নাম নির্দিষ্ট এবং দলবদ্ধ. উপসর্গ যেমন github_create_issue এবং jira_create_issue সরঞ্জামগুলিকে আলাদা রাখে যখন একজন এজেন্ট অনেক পরিষেবার সাথে সংযোগ করে। ভাল বর্ণনা বলে যে টুলটি কী করে, কখন এটি ব্যবহার করতে হবে, কখন নয় এবং এটি কী ফেরত দেয়, যেভাবে আপনি একজন নতুন সহকর্মীকে সংক্ষিপ্ত করবেন। পরামিতিগুলিকে বলতে হবে যে তারা কী বোঝায়: user_id id থেকে ভাল, এবং অনুমোদিত মানগুলির একটি enum একটি ফ্রি-টেক্সট স্ট্রিংকে হারায় যা মডেলটিকে অনুমান করতে হবে৷ আউটপুট ইনপুট হিসাবে অনেক গুরুত্বপূর্ণ. হাজার হাজার সারি বা কাঁচা অভ্যন্তরীণ আইডি প্রত্যাবর্তন প্রসঙ্গ উইন্ডোটি পূরণ করে এবং গুরুত্বপূর্ণ তথ্য লুকিয়ে রাখে। আরও ভাল সরঞ্জামগুলি পঠনযোগ্য ক্ষেত্রগুলি ফিরিয়ে দেয়, ডিফল্টরূপে পৃষ্ঠা বা ছেঁটে দেয় এবং কখনও কখনও একটি সংক্ষিপ্ত বা বিশদ মোড অফার করে। ত্রুটি বার্তাগুলি মডেলকে বলা উচিত কী ভুল হয়েছে এবং পরবর্তীতে কী চেষ্টা করতে হবে, কারণ মডেলটি সেগুলি পড়বে এবং সেগুলির উপর কাজ করবে৷ একটি সাধারণ ভুল ধারণা হল যে আরও সরঞ্জাম মানে আরও সক্ষম এজেন্ট। প্রতিটি সংজ্ঞা প্রতিটি মোড়ের প্রসঙ্গ গ্রহণ করে এবং ওভারল্যাপিং সরঞ্জাম নির্বাচনকে কঠিন করে তোলে। টুলের তালিকা লম্বা হওয়ার সাথে সাথে যথার্থতা হ্রাস পেতে থাকে, বিশেষ করে যখন সরঞ্জামগুলি একই রকম দেখায়। কোনো সার্বজনীন কাটঅফ প্রযোজ্য নয়। অনেক অনুশীলনকারীরা দশ হাজার সরঞ্জামের মধ্যে কোথাও সমস্যা দেখতে শুরু করে এবং সাধারণ সমাধানগুলি হল সরঞ্জামগুলিকে একত্রিত করা, চাহিদা অনুযায়ী সেগুলি লোড করা বা বিশেষ এজেন্টদের মধ্যে কাজকে ভাগ করা৷ আরেকটি ভুল ধারণা হল যে টুলগুলিকে একটি বিদ্যমান API ওয়ান-টু-ওয়ান মিরর করা উচিত। এজেন্টরা সাধারণত লোকেরা যে কাজগুলি করে তার চারপাশে তৈরি করা কম, উচ্চ-স্তরের সরঞ্জামগুলির সাথে আরও ভাল করে।
একজন সাপোর্ট এজেন্টের দুটি টুল ছিল, সার্চ_অর্ডার এবং get_order। তাদের অর্ডার_সার্চ_বাই_কাস্টমার এবং অর্ডার_গেট_বাই_আইডি নামকরণ করা এবং প্রতিটি বর্ণনায় বলা যে কখন অন্যটি ব্যবহার করতে হবে ভুল টুলে পাঠানো কলের সংখ্যা কেটে দেয়।
একটি ক্যালেন্ডার টুল যা একটি ফ্রি-টেক্সট তারিখ ক্ষেত্র নিয়ে 'আগামী মঙ্গলবার' পেতে থাকে। বর্ণনায় উদাহরণ সহ একটি ISO 8601 তারিখের স্ট্রিং প্রয়োজনের জন্য স্কিমা পরিবর্তন করা পার্সিং ব্যর্থতার সম্পূর্ণ ক্লাসকে সরিয়ে দেয়।
একটি ডাটাবেস টুল যা একটি কাঁচা 'ত্রুটি 1064' রিটার্ন করত এখন 'কলাম তৈরি_তারিখ' বিদ্যমান নেই। উপলব্ধ তারিখ কলাম: create_at, update_at.' এজেন্ট হাল ছেড়ে দেওয়ার পরিবর্তে পরবর্তী চেষ্টায় তার ক্যোয়ারী ঠিক করে।
একটি দল একজন এজেন্টের কাছে 60টির কাছাকাছি-ডুপ্লিকেট এন্ডপয়েন্ট র্যাপার উন্মুক্ত করেছে। এগুলিকে এক ডজন টাস্ক-লেভেল টুলে একত্রিত করা, যেমন আলাদা লিস্ট_ব্যবহারকারীর জায়গায় সময়সূচী_মিটিং, খুঁজুন_ফ্রি_স্লট এবং তৈরি_ইভেন্ট কল, এজেন্টকে দ্রুত এবং সস্তা করে চালায়।
মডেল প্রদানকারীদের থেকে প্রকাশিত নির্দেশিকা এবং মডেল কনটেক্সট প্রোটোকলের মতো প্রোটোকলের মাধ্যমে ছড়িয়ে পড়া কনভেনশনের মাধ্যমে টুল ডিজাইন তার নিজস্ব শৃঙ্খলা হয়ে উঠছে। কিছু প্ল্যাটফর্ম এখন চাহিদা অনুযায়ী টুলের সংজ্ঞা অনুসন্ধান এবং লোড করতে পারে, যা তালিকাগুলিকে সংক্ষিপ্ত রাখার চাপ কমিয়ে দেয়, যদিও বর্ণনাগুলি এখনও খুঁজে পেতে এবং বেছে নেওয়ার জন্য যথেষ্ট পরিষ্কার হতে হবে। মূল্যায়ন ট্রান্সক্রিপ্টের উপর ভিত্তি করে টুলের বর্ণনার সমালোচনা এবং পুনর্লিখনের জন্য মডেলগুলিও ব্যবহার করা হচ্ছে। মৌলিক নিয়ম পরিবর্তনের সম্ভাবনা নেই: মডেলটি শুধুমাত্র একটি টুল ব্যবহার করতে পারে সেইসাথে এর ইন্টারফেস এটি ব্যাখ্যা করে, তাই স্পষ্ট নামকরণ, কঠোর স্কিমা এবং সহায়ক ত্রুটিগুলি কেন্দ্রীয় থাকবে।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
এলএলএম এজেন্টদের জন্য টুল ডিজাইন করার অর্থ হল নাম, বর্ণনা, প্যারামিটার স্কিমা, আউটপুট এবং ত্রুটির বার্তাগুলি লেখা যা একটি ভাষা মডেল কোন ফাংশনটি কল করবে এবং কীভাবে এটি কল করবে তা সিদ্ধান্ত নিতে পড়ে। মডেলটি কখনই আপনার কোডটি দেখতে পায় না, শুধুমাত্র এই পাঠ্যটি, তাই একটি অস্পষ্ট বিবরণ বা একটি ঢালু স্কিমা ভুল কলগুলি তৈরি করে ঠিক যেমন একটি বাগ করে।
মডেল কখনই বাস্তবায়ন দেখে না। এটি শুধুমাত্র টেক্সট ইন্টারফেস থেকে কাজ করে: নাম, বিবরণ, ইনপুট স্কিমা এবং টুলটি যা কিছু ফেরত পাঠায়।
নেমস্পেসিং মডেলটিকে বলে যে একটি টুল কোন পরিষেবার অন্তর্গত। এটি গুরুত্বপূর্ণ যখন বেশ কয়েকটি পরিষেবা একই ধরনের ক্রিয়া অফার করে।
Enums এবং বর্ণনামূলক নাম অনুমান করা অপসারণ. মডেলটি একটি বিন্যাস উদ্ভাবনের পরিবর্তে বৈধ বিকল্পগুলি থেকে বেছে নেয়।
মডেলটি ত্রুটিটি পড়ে এবং পরবর্তীতে কী করতে হবে তা সিদ্ধান্ত নেয়। একটি বার্তা যা সমস্যার নাম দেয় এবং একটি সমাধান এটিকে নিম্নলিখিত কলে পুনরুদ্ধার করতে দেয়৷
প্রতিটি সংজ্ঞা প্রতিটি অনুরোধের সাথে পাঠানো হয়, যা প্রসঙ্গ ব্যবহার করে। অনুরূপ চেহারার সরঞ্জামগুলিও মডেলটির পক্ষে সঠিকটি বেছে নেওয়া কঠিন করে তোলে।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
Turning OpenAPI Specs into LLM Tools
টেকনিক্যাল