የቴክኒክ መመሪያ
ራስ-ሰር ፈጣን ማመቻቸት እና DSPy
አውቶማቲክ ፈጣን ማመቻቸት የተሻሉ መመሪያዎችን ወይም ጥቂት ምሳሌዎችን ለመፈለግ ስልተ ቀመር ይጠቀማል።
በዚህ ገጽ ላይ4 ደቂቃ አንብብ
አጠቃላይ እይታ
በእጅ የተስተካከሉ የቃላት አጻጻፍ ላይ ከመታመን ይልቅ በምሳሌዎች ስብስብ ላይ ባለው መለኪያ ላይ የእጩ ጥያቄዎችን ያስቆጥራል። የታወቁ አቀራረቦች APE፣ Google DeepMind's OPRO እና DSPy፣ የስታንፎርድ ክፍት ምንጭ ማዕቀፍ ያካትታሉ። አንድ ላይ ፈጣን ምህንድስናን ከመገመት ወደ ሚለካ፣ ተደጋጋሚ ሂደት ይለውጣሉ።
ጥልቅ ዳይቭ
በእጅ የተስተካከሉ ማበረታቻዎች የታወቀ ድክመት አለባቸው። ለአንድ ሞዴል፣ የውሂብ ስብስብ ወይም ስሪት የሚሰራ የቃላት አወጣጥ በጸጥታ በሌላ ላይ መስራቱን ሊያቆም ይችላል፣ እና ለውጦች በአብዛኛው የሚወሰኑት በጥቂት ምሳሌዎች ብቻ ነው። ራስ-ሰር ፈጣን ማመቻቸት ያንን ሉፕ በፍለጋ ይተካዋል። ሶስት ነገሮችን ታቀርባላችሁ፡- አንድ ተግባር። - የግብአት ስብስብ፣ በሐሳብ ደረጃ ከሚጠበቁ ውጤቶች ጋር። - መለኪያ፣ እንደ ትክክለኛ ግጥሚያ ወይም በሌላ ሞዴል የተመዘገበ ሩሪክ። አመቻቹ የእጩ ጥያቄዎችን ያመነጫል፣ ያስኬዳል፣ ያስመዘገበው እና አሸናፊዎቹን ያስቀምጣል። ቀደምት ምሳሌዎች ሃሳቡን ተጨባጭ አድርገውታል። APE (አውቶማቲክ ፈጣን መሐንዲስ፣ ዡ እና ሌሎች፣ 2022) አንድ ሞዴል ብዙ መመሪያዎችን ከግቤት-ውፅዓት ምሳሌዎች አቅርቧል፣ ከዚያም ከፍተኛ ነጥብ ያስመዘገቡትን አስቀምጧል። OPRO (ማመቻቸት በፕሮምፕቲንግ፣ ያንግ እና ሌሎች፣ Google DeepMind፣ 2023) LLMን እንደ አመቻች ተጠቅሟል። የሜታ-ፈጣኑ ቀደምት መመሪያዎችን ከውጤታቸው ጋር ዘርዝሯል፣ እና ሞዴሉ አዳዲሶችን አቅርቧል። OPRO ለአንድ የተወሰነ ሞዴል በክፍል-ትምህርት ቤት ሒሳብ ጥሩ ውጤት ያስመዘገበው እንደ " በጥልቀት ይተንፍሱ እና ይህንን ችግር ደረጃ በደረጃ ይስሩ" ያሉ መመሪያዎችን አግኝቷል። የተመቻቸ የቃላት አነጋገር የማይታወቅ እና ለአንድ ሞዴል የተለየ ሊሆን ይችላል። DSPy ፕሮግራሞች እንዴት እንደሚጻፉ በመቀየር የበለጠ ይሄዳል። በስታንፎርድ ኤንኤልፒ የተሰራው በኦማር ኻታብ እና በተባባሪዎች ነው እና በ2023 አስተዋወቀ። እያንዳንዱ እርምጃ በፊርማ የሚያደርገውን እንደ "ጥያቄ፣ አውድ -> መልስ" ያውጃሉ እና እንደ Predict ወይም ChainOfThought ያሉ ሞጁሎችን ያጣምሩ። እንደ BootstrapFewShot ወይም MIPROv2 ያሉ አመቻች (ቀደም ሲል ቴሌፕሮምፕተር ተብሎ የሚጠራው)፣ በመቀጠል የእርስዎን መለኪያ ከፍ ለማድረግ ለእያንዳንዱ ሞጁል ማሳያዎችን እና መመሪያዎችን በመምረጥ ፕሮግራሙን “ያጠናቅራል። ሶስት የተሳሳቱ አመለካከቶች መታረም አለባቸው: - እነዚህ መሳሪያዎች የሰውን ፍርድ ያስወግዳል. አያደርጉትም፣ ምክንያቱም መለኪያው እና ምሳሌዎች "የተሻለ" ይገልፃሉ። - የተመቻቹ ጥያቄዎች ለማመን አስተማማኝ ናቸው። እነሱ ትንሽ የውሂብ ስብስብን ሊያሟሉ ይችላሉ. - ማመቻቸት ነፃ ነው። እውነተኛ የኤፒአይ ጥሪዎችን ያስከፍላል፣ አንዳንዴ ብዙ።
ስልታዊ ተጽእኖ
ወጪ እና በጀት
የስነ-ህንፃ ውሳኔዎች ለዓመታት አፈጻጸምን እና የሥራ ማስኬጃ ወጪዎችን ያንቀሳቅሳሉ.
ግልጽ ውሳኔዎች
የቴክኒክ ትምህርት ቡድኖች አዲሱን ብቻ ሳይሆን ትክክለኛውን ቁልል እንዲመርጡ ይረዳል።
የጥራት ቁጥጥር
የተሻሉ የምህንድስና ምርጫዎች በምርት ውስጥ አስተማማኝነት ክስተቶችን ይቀንሳሉ.
የወደፊት ራስ-ሰር ፈጣን ማመቻቸት እና DSPy
ፈጣን ማመቻቸት ከምርምር ጉጉት ይልቅ ከግምገማ ስብስቦች ጎን ለጎን የኤልኤልኤም ምህንድስና መደበኛ አካል እየሆነ ነው። ክፍት ጥያቄዎች ይቀራሉ። የተመቻቹ ጥያቄዎች በአምሳያዎች መካከል ምን ያህል በደንብ ይተላለፋሉ? እንደ ድምጽ ወይም አጋዥነት ለገዥ ባህሪያት መለኪያዎችን እንዴት ይጽፋሉ? ትንንሽ የውሂብ ስብስቦችን ከመጠን በላይ መግጠም የሚቻለው እንዴት ነው? አንዳንድ ጥናቶች ፈጣን ማመቻቸትን ከቀላል ክብደት ማስተካከያ ጋር ያጣምራሉ፣ እና DSPy ሁለቱንም ይደግፋል። ሞዴሎች ብዙ ጊዜ ይለወጣሉ፣ ስለዚህ በተረጋጋ የሙከራ ስብስብ ላይ በራስ-ሰር የማመቻቸት ችሎታ ከማንኛውም ብልህ ጥያቄ የበለጠ አስፈላጊ ሊሆን ይችላል። ጥሩ መለኪያዎችን እና ምሳሌዎችን መግለጽ የሰው ስራ ሆኖ ይቆያል።
የእውነተኛ-ዓለም አተገባበር
የድጋፍ ትኬት ክላሲፋየር የሚገነባ ቡድን የDSPy ፊርማ "ትኬት -> ምድብ" ይጽፋል እና 200 ምልክት የተደረገባቸው ትኬቶችን እና የትክክለኛነት መለኪያ ያቀርባል። አንድ አመቻች የተሻለ ውጤት ያስመዘገቡትን ጥቂት የተኩስ ማሳያዎችን ይመርጣል።
አንድ ኩባንያ ከአንድ LLM አቅራቢ ወደ ሌላ ሲዘዋወር፣ ለአዲሱ ሞዴል የDSPy አመቻችውን እንደገና ያስኬዳል። ለቀድሞው ሞዴል የተስተካከሉ ጥያቄዎችን በእጅ አይጽፍም።
አንድ ተመራማሪ የOPRO አይነት loopን ያካሂዳል። አንድ ሞዴል ለትምህርት አዲስ የቃላት አገባብ ሃሳብ ያቀርባል፣ እያንዳንዱ የቃላት አወጣጥ በሂሳብ ቤንችማርክ ላይ ይመሰረታል፣ እና ምርጥ ውጤት ያስመዘገበው ታሪክ ወደ ቀጣዩ የውሳኔ ሃሳቦች ይመለሳል።
መልሶ ማግኛ የጨመረው የጥያቄ-መልስ ቧንቧ ከጫፍ እስከ ጫፍ ተመቻችቷል፣ በመለኪያ አማካኝነት የመጨረሻ መልሶችን ከማጣቀሻ መልሶች ጋር የሚፈትሽ ነው። ሁለቱም የመጠይቅ-መፃፍ ደረጃ እና የመልስ ደረጃው አብረው ይሻሻላሉ።
አደጋዎች እና የጥበቃ መንገዶች
አንድ ቤንችማርክን ማሳደግ ሰፋ ያሉ የስርዓት ድክመቶችን ሊደብቅ ይችላል።
የመሠረተ ልማት እና የጥገና ወጪዎች ብዙ ጊዜ ዝቅተኛ ናቸው.
ስርዓቶች ይበልጥ ውስብስብ ሲሆኑ የደህንነት እና የታዛቢነት ክፍተቶች ሊያድጉ ይችላሉ።
የትግበራ ፍኖተ ካርታ
ከመተግበሩ በፊት የቆይታ፣ የጥራት እና የወጪ ግቦችን ይግለጹ።
ቤንችማርክ በእውነተኛ ጭነት እና የውሂብ ሁኔታዎች።
ለስህተቶች፣ ተንሸራታች እና የተጠቃሚ ተጽእኖ የመሳሪያ ክትትል።
ከመጠኑ በፊት የመመለሻ እና የአደጋ ምላሽ መንገዶችን ያዘጋጁ።
ማሰስዎን ይቀጥሉ
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Automatic Prompt Optimization and DSPy quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
በተደጋጋሚ የሚጠየቁ ጥያቄዎች
አውቶማቲክ ፈጣን ማመቻቸት እና DSPy ምንድን ነው?
አውቶማቲክ ፈጣን ማመቻቸት የተሻሉ መመሪያዎችን ወይም ጥቂት ምሳሌዎችን ለመፈለግ ስልተ ቀመር ይጠቀማል። በእጅ የተስተካከሉ የቃላት አጻጻፍ ላይ ከመታመን ይልቅ በምሳሌዎች ስብስብ ላይ ባለው መለኪያ ላይ የእጩ ጥያቄዎችን ያስቆጥራል። የታወቁ አቀራረቦች APE፣ Google DeepMind's OPRO እና DSPy፣ የስታንፎርድ ክፍት ምንጭ ማዕቀፍ ያካትታሉ። አንድ ላይ ፈጣን ምህንድስናን ከመገመት ወደ ሚለካ፣ ሊደገም የሚችል ሂደት ይለውጣሉ።
እንዲሰራ አውቶማቲክ ፈጣን ማመቻቸት ምን ማቅረብ አለቦት?
የእጩ ጥያቄዎችን እንዲያስመዘግብ እና ምርጦቹን እንዲይዝ አመቻቹ ተግባር፣ ምሳሌዎች እና ልኬት ያስፈልገዋል።
በOPRO ውስጥ የአመቻች ሚና ምን ይጫወታል?
OPRO የቋንቋ ሞዴልን እንደ አመቻች ይጠቀማል። ያለፉ መመሪያዎችን በውጤታቸው አይቶ አዳዲሶችን ያቀርባል።
የOPRO "በረጅሙ ይተንፍሱ እና በዚህ ችግር ላይ ደረጃ በደረጃ ይስሩ" ውጤት ምን ያሳያል?
ትምህርቱ ለአንድ የተለየ ሞዴል በክፍል-ትምህርት-ቤት ሂሳብ ላይ ጥሩ ውጤት አስመዝግቧል። በፍለጋ የተገኙ ቃላቶች አስገራሚ ሊሆኑ ይችላሉ እና ወደ ሌሎች ሞዴሎች ላይተላለፉ ይችላሉ.
የ DSPy ፊርማ ምንድን ነው?
ፊርማዎች አንድ ሞጁል ከግብአት እና ከውጤት መስኮች አንፃር ምን ማድረግ እንዳለበት ያውጃል። ከዚያ DSPy መጠየቂያውን ይሠራል።
የDSPy's BootstrapFewShot ማሳያዎቹን እንዴት ያገኛል?
የተሳካላቸው ዱካዎች ጥቂቶች ምሳሌዎች ይሆናሉ፣ ለውስጣዊ እርምጃዎች እርስዎ እራስዎ ለይተው የማያውቁትን ጨምሮ።
መማርዎን ይቀጥሉ
ተዛማጅ መመሪያዎች
ለዚህ ርዕስ ተጨማሪ መመሪያዎች ተመርጠዋል