পরবর্তী আপপরবর্তী গাইড
বার্কলে ফাংশন কলিং লিডারবোর্ড
টেকনিক্যাল
প্রযুক্তিগত গাইড
সমান্তরাল ফাংশন কলিং হল যখন একটি ভাষা মডেল একটি একক প্রতিক্রিয়ায় একাধিক টুল কলের অনুরোধ করে, যাতে অ্যাপ্লিকেশনটি সেগুলিকে একই সময়ে চালাতে পারে এবং একসাথে সমস্ত ফলাফল ফেরত দিতে পারে।
এই নির্দেশিকা শুনুনএআই-বর্ণিত · ~3 min
এটি গুরুত্বপূর্ণ কারণ এটি স্বাধীন লুকআপের জন্য রাউন্ড ট্রিপ এবং লেটেন্সি হ্রাস করে, কিন্তু এটি শুধুমাত্র তখনই নিরাপদ যখন কলগুলি একে অপরের উপর নির্ভর করে না এবং যখন অ্যাপ্লিকেশনটি অর্ডার, পার্শ্ব প্রতিক্রিয়া এবং আংশিক ব্যর্থতা সঠিকভাবে পরিচালনা করে।
মৌলিক টুল ব্যবহারে, একটি মডেল একটি টুলের জন্য জিজ্ঞাসা করে, অ্যাপটি চালায়, ফলাফল প্রদান করে এবং মডেলটি চলতে থাকে। প্রতিটি ধাপে একটি সম্পূর্ণ মডেল রাউন্ড ট্রিপ খরচ হয়. সমান্তরাল ফাংশন কলিংয়ের সাথে, মডেলটি একটি প্রতিক্রিয়ায় একাধিক টুল কল অনুরোধ নির্গত করতে পারে, প্রতিটির নিজস্ব শনাক্তকারী, নাম এবং আর্গুমেন্ট রয়েছে। অ্যাপ্লিকেশনটি প্রায়শই একযোগে সেগুলিকে কার্যকর করে এবং প্রতি কলে একটি ফলাফল ফেরত পাঠায়, প্রতিটি তার শনাক্তকারীর সাথে সংযুক্ত থাকে যাতে মডেলটি জানে কোন ফলাফলটি কোন অনুরোধের অন্তর্গত। OpenAI 2023 সালের শেষের দিকে তার API-তে সমান্তরাল ফাংশন কলিং যোগ করেছে এবং অন্যান্য প্রধান প্রদানকারীরা এক পালা একাধিক টুল কল সমর্থন করে। কিছু API এই আচরণটি বন্ধ করার জন্য একটি সেটিং প্রকাশ করে যখন একটি অ্যাপ্লিকেশনকে একবারে কঠোরভাবে একটি কলের প্রয়োজন হয়। সমান্তরাল কলগুলি নিরাপদ থাকে যখন সেগুলি স্বাধীন থাকে: পড়াগুলি একে অপরকে প্রভাবিত করে না, যেমন বেশ কয়েকটি রেকর্ড খোঁজা বা একাধিক অনুসন্ধান চালানো। যখন একটি কলের জন্য অন্যের আউটপুটের প্রয়োজন হয়, অথবা যখন কলগুলির পার্শ্বপ্রতিক্রিয়া থাকে যা ইন্টারঅ্যাক্ট করে, যেমন দুটি একই রেকর্ডে লেখা বা ফেরত দেওয়ার পরে একটি চার্জ। যে ক্রম অনুসারে মডেল কলগুলিকে তালিকাভুক্ত করে তা একটি গ্যারান্টিযুক্ত কার্যকর করার আদেশ নয় এবং অ্যাপ্লিকেশনটি যে কোনও ক্রমে সেগুলি শেষ করতে পারে৷ একটি সাধারণ ভুল ধারণা হল যে মডেলটি সমান্তরালভাবে সরঞ্জামগুলি চালায়। এটা না; এটা শুধুমাত্র তাদের অনুরোধ. সঙ্গতি, টাইমআউট এবং পুনরায় চেষ্টা অ্যাপ্লিকেশনের দায়িত্ব। আরেকটি ভুল ধারণা হল একটি কল ব্যর্থ হলে পুরো ব্যাচ ব্যর্থ হয়। একটি সু-নির্মিত অ্যাপ ত্রুটি সহ পৃথকভাবে প্রতিটি ফলাফল প্রদান করে, তাই মডেলটি যা সফল হয়েছে তা নিয়ে এগিয়ে যেতে পারে। নির্ভরশীল পদক্ষেপের জন্য, মডেলটিকে প্রথম টুলটি কল করা উচিত, তার ফলাফলের জন্য অপেক্ষা করুন, তারপর পরবর্তীটি কল করুন। ভাল টুলের বর্ণনা এবং সিস্টেম নির্দেশাবলী কখন ব্যাচ করতে হবে এবং কখন সিকোয়েন্স করতে হবে তা পরিচালনা করতে সাহায্য করতে পারে।
একজন ভ্রমণ সহকারী প্যারিস, রোম এবং মাদ্রিদের আবহাওয়া সম্পর্কে জিজ্ঞাসা করেছেন এক পালা করে তিনটি আবহাওয়ার সন্ধান ইস্যু করে এবং অ্যাপটি একই সাথে চালায়।
একটি বিক্রয় ড্যাশবোর্ড এজেন্ট একটি সারসংক্ষেপ লেখার আগে একটি সমান্তরাল ব্যাচে গ্রাহকের অর্ডার, ওপেন সাপোর্ট টিকিট এবং অ্যাকাউন্ট নোট নিয়ে আসে।
একজন এজেন্টকে একটি ফোল্ডার তৈরি করতে এবং তারপরে একটি ফাইল লিখতে বলা হয়, উভয় কলই সমান্তরালভাবে ইস্যু করা উচিত নয়, কারণ লেখাটি বিদ্যমান ফোল্ডারের উপর নির্ভর করে।
একটি গবেষণা এজেন্ট সমান্তরালভাবে পাঁচটি অনুসন্ধান পাঠায়; দুটি সময় শেষ, এবং অ্যাপটি তিনটি ফলাফল এবং দুটি স্পষ্ট ত্রুটি বার্তা প্রদান করে যাতে মডেলটি শুধুমাত্র ব্যর্থ হওয়াগুলিকে পুনরায় চেষ্টা করতে পারে৷
এজেন্টরা যেমন বৃহত্তর কাজগুলি গ্রহণ করে, সমান্তরাল টুলের ব্যবহার লেটেন্সি কমাতে একটি রুটিন উপায় হয়ে উঠছে এবং কোন কলগুলি স্বাধীন তা চিনতে মডেলগুলিকে প্রশিক্ষণ দেওয়া হচ্ছে৷ হারনেসগুলি নির্ভরতা-সচেতন সময়সূচী এবং সংস্থান লকিংয়ের মতো বৈশিষ্ট্যগুলিও যুক্ত করছে যাতে ব্যাচড অনুরোধগুলি নিরাপদে কার্যকর করা যায়। নির্ভরতা সম্পর্কে মডেলের রায় সম্ভবত উন্নত হবে, কিন্তু অ্যাপ্লিকেশনটি পার্শ্ব প্রতিক্রিয়া, সময়সীমা এবং পুনঃপ্রচারের নিরাপত্তা প্রয়োগের জন্য দায়ী থাকবে, যেহেতু সেগুলি বাস্তব সিস্টেমের উপর নির্ভর করে যা মডেলটি দেখতে পারে না।
ফ্রি নিউজলেটার
প্রতি সপ্তাহের কাজের দিন সকালে তিনটি যাচাইকৃত এআই স্টোরি, সহজ ইংরেজিতে লেখা। চিরকালের জন্য ফ্রি, কোনো বিজ্ঞাপন নেই।
প্রতি সপ্তাহের কাজের দিনে একটি ইমেল। এক ক্লিকেই আনসাবস্ক্রাইব করুন। আমরা কখনোই আপনার ঠিকানা বিক্রি বা শেয়ার করি না।
নিজেকে পরীক্ষা করুন
প্রতিটি উত্তরের তাৎক্ষণিক ফিডব্যাক, এবং কোর্স পাস করার পর যাচাইযোগ্য আইডি সহ একটি শেয়ারযোগ্য সার্টিফিকেট।
ফ্রি এআই শিক্ষাকে সমর্থন করুন। AI Understanding একটি 501(c)(3) অলাভজনক প্রতিষ্ঠান — কোনো বিজ্ঞাপন নেই, কোনো পেওয়াল নেই, কখনোই না। একটি দান করুন
সমান্তরাল ফাংশন কলিং হল যখন একটি ভাষা মডেল একটি একক প্রতিক্রিয়ায় একাধিক টুল কলের অনুরোধ করে, যাতে অ্যাপ্লিকেশনটি সেগুলিকে একই সময়ে চালাতে পারে এবং একসাথে সমস্ত ফলাফল ফেরত দিতে পারে। এটি গুরুত্বপূর্ণ কারণ এটি স্বাধীন লুকআপের জন্য রাউন্ড ট্রিপ এবং লেটেন্সি হ্রাস করে, কিন্তু এটি শুধুমাত্র তখনই নিরাপদ যখন কলগুলি একে অপরের উপর নির্ভর করে না এবং যখন অ্যাপ্লিকেশনটি অর্ডার, পার্শ্ব প্রতিক্রিয়া এবং আংশিক ব্যর্থতা সঠিকভাবে পরিচালনা করে।
মডেলটি এক পালা একাধিক টুল কল অনুরোধ নির্গত করে, যা অ্যাপটি একসাথে চালাতে পারে।
মডেল শুধুমাত্র কল অনুরোধ; সঙ্গতি, টাইমআউট এবং পুনরায় চেষ্টা করা হল অ্যাপ্লিকেশনের কাজ।
ফাইল লেখাটি বিদ্যমান ফোল্ডারের উপর নির্ভর করে, তাই কলগুলি অবশ্যই ক্রমানুসারে চলতে হবে।
সমবর্তী কলগুলি অপ্রত্যাশিত ক্রমে শেষ হয়, তাই শনাক্তকারী হল নির্ভরযোগ্য লিঙ্ক।
ত্রুটি সহ পৃথকভাবে প্রতিটি ফলাফল প্রদান করা, মডেলটিকে চালিয়ে যেতে দেয় এবং বেছে বেছে পুনরায় চেষ্টা করতে দেয়।
শিখতে থাকুন
এই বিষয়ের জন্য বাছাই করা আরও গাইড
পরবর্তী আপপরবর্তী গাইড
বার্কলে ফাংশন কলিং লিডারবোর্ড
টেকনিক্যাল