ቅድመ ህትመት የኤልኤልኤም ወኪሎች የበለጠ ጠንከር ያለ እርዳታ ሲፈልጉ እንዲገነዘቡ የBayesia መንገድን ሀሳብ ያቀርባል

ምን ተፈጠረ

በነሀሴ 25 ለarXiv የቀረበው ቅድመ ህትመት ለተዋረድ የኤል.ኤም.ኤም ወኪሎች “ራስን ከፍ ማድረግ” ሀሳብ ያቀርባል፡ አንድ ወኪል አንድን ተግባር የመፍታት እድሉን ገምቶ አሁንም እያሰበ እና የሚጠበቀው ጥቅም ወጪውን ሲያጸድቅ ወደ ጠንካራ ሞዴል ይቆጣጠር። ወረቀቱ ይህንን ከመውለዱ በፊት ከማዘዋወር እና ምላሹ ከተጠናቀቀ በኋላ ከማረጋገጥ ጋር ይቃረናል።

ወረቀቱ በተዋረድ የኤልኤልኤም ኤጀንቶች ውስጥ ያለውን ልዩ ችግር ይመረምራል፡ የትኛው ሞዴል አንድን ተግባር ማስተናገድ እንዳለበት ብቻ ሳይሆን ደካማ ሞዴል ቆም ብሎ ጠንከር ያለ ሞዴል ​​እርዳታ መጠየቅ እንዳለበት መወሰን። የታቀደው አገዛዝ በትውልድ ወቅት ይሠራል. አንድ ወኪል በመስመር ላይ የስኬት ዕድሉ ግምቱን ይመሰርታል እና ግምቱ ከወጪ ሚስጥራዊነት ገደብ በታች ሲወድቅ መልሱን ከማጠናቀቁ በፊት ሊባባስ ይችላል። ይህ በምንጩ የተገለጸው ማዕከላዊ የቴክኒክ አስተዋጽዖ ነው።

ደራሲዎቹ ውሳኔውን እንደ ቤኤዥያ ጥሩ የማቆም ችግር አድርገው ቀርፀዋል። የብቃት ግምቱ ከጥሬ ምርት ኢንትሮፒ ብቻ ሳይሆን በቂ ስታቲስቲክስ ከተሰየሙ ዱካዎች የመጣ የተማረ የኋላ ክፍል ነው። ወረቀቱ ማይዮፒክ የመጨመር ደረጃን በዝግ መልክ ያመጣል እና ጥሩውን ፖሊሲ ለመለየት ተለዋዋጭ ፕሮግራሚንግ ይጠቀማል። በጥሬው ሲግናል ላይ የቅርጽ ግምትን ሳይጭን ፖሊሲው ጊዜን የሚቀይር ገደብ ፖሊሲ ​​ስለመሆኑ ማረጋገጫን ዘግቧል።

ምንጩ በርካታ የንድፈ ሃሳባዊ ውጤቶችን ዘግቧል። የቃል እምነት በቼርኖፍ-የመረጃ ምልክት ምልክቱ በከፍተኛ ደረጃ ይለያል፣ መፀፀት የሚተዳደረው በኋለኛው የካሊብሬሽን ነው፣ እና የተሰኪ ፖሊሲ በ n መለያ የካሊብሬሽን ዱካዎች የሰለጠነ ፀፀት በ1/ስኩዌር (n) ፍጥነት ቀንሷል ይላል። ቁጥጥር የሚደረግበት የማስመሰል ጥናት የንድፈ ሃሳቡን ትንበያዎች እንደሚያረጋግጥ ተዘግቧል፣ ያንን መጠን ጨምሮ። ወረቀቱ Qwen2.5-Coder 1.5B-to-7B cascade በመጠቀም በ257 MBPP ኮድ ስራዎች ላይ የእውነተኛ ሞዴል ማረጋገጫን ያካትታል። ያ ማረጋገጫ ከሦስቱ አስቀድሞ ከተመዘገቡት ትንቢቶች ሁለቱን አረጋግጧል፡ የዕድገት ድንበር ከድህረ-ሆክ መስመር በእኩል ዋጋ ይበልጣል፣ እና ድምር የብቃት እምነት በትውልድ ሂደት የበለጠ አድሎአዊ ሆነ። ምንጩ ሦስተኛውን ትንበያ አልገለጸም ወይም ለምን እንዳልተረጋገጠ በ አብስትራክት ውስጥ አላብራራም።

የምንጭ ዝርዝሮች: arxiv.org ↗

ለምን አስፈላጊ ነው።

አቀራረቡ አጠቃላይ ከሆነ፣ የአቅም፣ የቆይታ እና የሞዴል አጠቃቀም ወጪዎችን ሚዛናዊ ለማድረግ የኤጀንት ስርዓቶችን የበለጠ ወቅታዊ መንገድ ሊሰጥ ይችላል። ማስረጃው አሁንም ገና ነው፡ የወረቀቱ ትክክለኛ ሞዴል ፈተና በ257 MBPP ተግባራት ላይ Qwen2.5-Coder 1.5B-to-7B cascade ተጠቅሟል እና ከሦስቱ አስቀድሞ ከተመዘገቡት ትንበያዎች ሁለቱን አረጋግጧል።

ተግባራዊ ጉዳዩ በ AI ወኪል ውስጥ የሃብት ምደባ ነው። ሁልጊዜ የበለጠ ጠንካራ ሞዴልን የሚጠቀም ስርዓት አቅምን ሊያሻሽል ይችላል ነገር ግን ብዙ የመረጃ ምንጮችን ይጠቀማል። ደካማ ሞዴል እስኪያልቅ ድረስ የሚፈጽም ስርዓት ጊዜን ሊያባክን ወይም ሊወገድ የሚችል ውድቀትን ሊያስከትል ይችላል. እራስን ከፍ ማድረግ ውሳኔውን በምክንያት ሂደት ውስጥ ለማስቀመጥ ይሞክራል ፣ ይህም ስርዓቱ ቀጣይነት ያለው ውጤት የማያመጣ መሆኑን የራሱ ማስረጃዎች ሲያረጋግጡ እንዲቆም እድል ይሰጣል ።

የወረቀቱ አጽንዖት በመለኪያ ላይ ያለው አጽንዖት አስፈላጊ ነው ምክንያቱም መጨመር በብቃት ግምት ጥራት ላይ የተመሰረተ ነው. በደንብ ያልተስተካከለ የመተማመን ምልክት ተወካዩ ብዙ ጊዜ እንዲጨምር፣ ወጪን እንዲጨምር ወይም በጣም አልፎ አልፎ፣ ደካማ መልሶችን እንዲያልፍ ያስችለዋል። የተዘገበው የጸጸት ዋስትና አፈጻጸምን ከመለኪያ ጋር በማገናኘት ማሳደግን እንደ ሁለንተናዊ አስተማማኝ የቋንቋ ሞዴሎች ንብረት ከማቅረብ ይልቅ።

በእውነተኛ ሞዴል ማረጋገጫ ውስጥ ያለው የእኩል ዋጋ ንፅፅር ጠቃሚ ሊሆን ይችላል ምክንያቱም ስርዓቶችን ያልተገደበ ተጨማሪ የሞዴል ጥሪዎችን ከማወዳደር ይልቅ የኮንክሪት ማሰማራት ግብይት ላይ ያነጣጠረ ነው። ይሁን እንጂ ሪፖርት የተደረገው ግምገማ ጠባብ ነው። አንድ ሞዴል ቤተሰብን፣ በምንጩ ላይ እንደተገለጸው አንድ ከትንሽ እስከ መካከለኛ የካስኬድ ውቅር እና 257 MBPP ተግባራትን ይሸፍናል። አጭር መግለጫው ፍጹም የስኬት መጠኖችን፣ ትክክለኛው የወጪ ሂሳብ፣ የትርፍ መጠን፣ ወይም ኮድ ካልሰጡ ተግባራት ማስረጃዎችን አያቀርብም። ስለዚህ በስልቱ ላይ ፍላጎትን ይደግፋል, የሃይሪካዊ ወኪሎች በአጠቃላይ እርዳታ መቼ እንደሚፈልጉ የሚያውቁ መደምደሚያ አይደለም.

ውጤቱም በተወካዮች ዲዛይን ወደ ተለዋዋጭ ስሌት ሰፋ ያለ ለውጥን ይገጥማል፡ ስርዓቶች ለእያንዳንዱ ተግባር ምን ያህል የማመዛዘን፣ የማረጋገጫ ወይም የሞዴል አቅምን መወሰን ያስፈልጋቸው ይሆናል። ይህ ወረቀት ለአንድ የውሳኔው ስሪት መደበኛ ማዕቀፍ ያበረክታል። ህዝባዊ እሴቱ የሚመረኮዘው ማዕቀፉ በአስተማማኝ ክትትል ሊተገበር በሚችልበት ሁኔታ እና የተጨመረው የካሊብሬሽን መረጃ፣ የውሳኔ አሰጣጥ እና የእጅ ማጥፋት ውስብስብነት በተሻለ ውጤት መረጋገጡ ላይ ነው።

ቀጥሎ ምን እንደሚታይ

ዋናው ጥያቄ የተማረው የብቃት ግምት ከወረቀት ቁጥጥር ውጭ በሆኑ ሞዴሎች፣ ተግባራት እና አካባቢዎች ላይ ተስተካክሎ መቆየቱ ነው። ራሱን የቻለ ማባዛት ትልቅ እና የተለያዩ የስራ ጫናዎችን፣ ያልተረጋገጠውን ትንበያ፣ የማሳደግ ስህተቶች እና በትውልድ ጊዜ ቁጥጥርን የማስተላለፍ ተግባራዊ ወጪን መሞከር አለበት።

ማባዛት በድህረ-hoc ማዞሪያ ላይ የተዘገበው ጥቅም ከMBPP ውጪ እና ከQwen2.5-Coder 1.5B-to-7B ካስኬድ ባሻገር መኖሩን ማረጋገጥ አለበት። ጠቃሚ ሙከራዎች የተግባር አስቸጋሪነት፣ የሞዴል ጥንዶች፣ ጎራዎች እና አንጻራዊ ዋጋ ወይም የመጨመር መዘግየት ይለያያሉ። ምንጩ ራሱ እነዚያን ፈተናዎች አይዘግብም, ስለዚህ የእነሱ አለመገኘት ውድቀትን ከማስረጃ ይልቅ ትርጉም ያለው የማይታወቅ ነው.

ያልተረጋገጠው አስቀድሞ የተመዘገበው ትንበያ ልዩ ትኩረት ሊሰጠው ይገባል። ከሦስቱ ትንበያዎች ውስጥ ሁለቱ የተረጋገጡ ናቸው የሚለው ረቂቅ ግን የቀረውን ትንበያ አልጠቀሰም ወይም ውጤቱን አይገልጽም። አንባቢዎች የተሞከረውን፣ ለምን ትንቢቱ እንዳልተሳካ እና አለመሳካቱ በንድፈ ሀሳብ፣ በምልክት ወይም በአፈፃፀሙ ላይ ያለውን ገደብ የሚያመላክት ሙሉውን ወረቀት፣ የተለቀቀውን ኮድ እና መረጃ ወይም የክትትል ስራ መፈለግ አለባቸው።

ወደፊት የሚደረጉ ግምገማዎች በአማካይ የተግባር ስኬት ብቻ ሳይሆን ጎጂ የሆኑ የመመዘኛ ቅርጾችን መለካት አለባቸው። አንድ ወኪል በቀላል ተግባራት ላይ ሳያስፈልግ ሊያድግ ይችላል፣ በአስቸጋሪ ስራዎች ላይ ማሳደግ ይሳነዋል፣ ወይም ጠንካራው ሞዴል እንዲረዳው መቆጣጠሪያውን ዘግይቶ ማስተላለፍ ይችላል። ምንጩ የጸጸት ማዕቀፍ ያስቀምጣል ነገር ግን በአብስትራክት እነዚህን የአሠራር ስህተቶች አይለካም ወይም ዘዴው በስርጭት ፈረቃ ውስጥ እንዴት እንደሚሠራ አያሳይም።

ወረቀቱ ከሥራው ጋር በተገናኘ መልኩ ኮድን እና መረጃዎችን ይዘረዝራል፣ ይህም ራሱን የቻለ ፍተሻ እንዲኖር ሊያደርግ ይችላል፣ ነገር ግን ምንጩ አገናኞችን አያቀርብም ወይም የተለቀቁትን ይዘቶች አይገልጽም። ማረጋገጫው የመለኪያ አሠራሩን፣ የተሰየሙትን ዱካዎች፣ የወጪ ሞዴል፣ ቅድመ-ምዝገባ፣ የማስመሰል ዝግጅት እና በ257-ተግባር ማረጋገጫ ዙሪያ ያለውን እስታቲስቲካዊ እርግጠኛ አለመሆን መመርመር አለበት። እስከዚያ ድረስ፣ በጣም ጠንካራው የተደገፈው መደምደሚያ ቅድመ ህትመቱ መደበኛ፣ ሊሞከር የሚችል አቀራረብን ለመካከለኛው ትውልድ እድገት ተስፋ ሰጪ ነገር ግን በተጨባጭ ማስረጃዎች ያቀርባል።

ተዛማጅ መመሪያዎች እና ጥያቄዎች