GUIDE teknik

Optimisation otomatik ak DSPy

Optimisation otomatik dafay jëfandikoo algorithm ngir seet tegtal yu gëna baax wala misaal yu néew.

Déglul tegtal biiIA-nettali · ~3 min

Ci xët wii4 simili jàng
  1. Résumé
  2. Plongeur bu xóot
  3. Doxal ci àdduna dëgg
  4. Ëlëgu Optimisation Prompt Otomatik ak DSPy
  5. Teg ko ci jëf
  6. Weyal di banneexu
  7. Laaj yi ñuy faral di laaj

Résumé

Dafay joxe poñ yi kàndidaa yi laaj ci benn metric ci misaal yu bari, du wéeru ci kàddu yuñ defaree loxo. Xeetu xam-xam yiñ gëna xam ñooy APE, OPRO bu DeepMind ak DSPy, di kaadar bu ubbeeku bu bawoo ci Stanford. Ñoom ñaar ñépp ñu ngi soppi ingenieur bu gaaw bi joge ci xalaat dem ci liggéey buñ mëna natt, baamtu.

Plongeur bu xóot

Prompt yiñ defaree loxo amnañu luñu xamee ci ñakk kattan. Baatu-baatu yiy dox ci benn model, dataset wala version mën nañu bàyyi liggéey ci beneen model, te coppite yi dañuy faral di àtte ci misaal yu néew. Optimisation otomatik mooy wecci loop bi ak seetlu. Yaa ngi joxe ñatti mbir: - Liggéey. - Ay dugal, gëna wóor ak ay génne yuñ seentu. - Benn metric, lu melni match exact wala rubrique bu beneen model joxe poñ. Optimiser bi dafay defar ay prompt ci kàndidaa yi, def leen poñ, ba noppi tëye ñi jël raw-gàddu gi. Ay misaal yu njëkk dañu wane xalaat bi. APE (Ingénieur Prompt Otomatik, Zhou et al., 2022) amoon na xeetu tegtal bu bari ci misaali dugal-génn, ba noppi denc yi gëna am poñ. OPRO (Optimisation par Prompting, Yang et al., DeepMind, 2023) jëfandikoo LLM ngir gëna xéewale. Meta-prompt bi dafa lim tegtal yu njëkk ya ak seeni poñ, ba noppi model bi dafa tànn yeneen yu bees. OPRO gisna ay tegtal yu melni "Noyyil bu baax nga liggéey ci jafe-jafe bii jéego par jéego," mu am poñ yu baax ci benn xeetu math ci daara yu mag yi. Baatu-kàddu yiñ gëna defar mën nañu baña yomb te mën nañu nekk lu jëm ci benn model. DSPy demna lu gëna sori ci soppi ni ñuy bindee prograam yi. Omar Khattab ak ay naataangoom ñoo ko defar ci Stanford NLP, ñu dugal ko ci 2023. Yaa ngi wax li jéego bu nekk di def ak siife, lu melni "laaj, muy tekki -> tontu," nga boole ay modle yu melni Predict wala ChainOfThought. Benn optimisatër (bu ñu njëkka woowe teleprompter), lu melni BootstrapFewShot wala MIPROv2, dafay "dajale" prograam bi ci tànnee ay wane ak ay tegtal ngir modle bu nekk ngir gëna mëna yokk sa metric. Ñatti gis-gis yu jaarul yoon ñoo wara jubbanti: - Jumtukaay yooyu dañuy dindi àtteb nit. Duñu ko def ndax metrik bi ak misaal yi dañuy fësal "gën." - Laajte yiñ gëna defar mën nañu ko wóolu. Mën nañu boole ay done yu ndaw. - Optimisation amul fayda. Dafay njëg woote API dëgg, yenn saa mu bari.

Doxal ci àdduna dëgg

Benn ekip buy tabax benn xeetu këyit buy jàppale dafay bind benn siife DSPy "tiket -> kategori" ba noppi joxe 200 këyit yuñ etikete ak benn metric bu dëggu. Suko defee optimiser bi dafay tànn demonstration yu néew yi gëna am poñ.

Su benn kompiñi jogee ci benn furnisër LLM dem ci beneen, dafay defaraat DSPy optimizer ngir model bu bees bi. Du binndaat ak loxo ay laaj yuñ defaroon ngir model bu yàgg bi.

Gëstukat bi dafay doxal benn loop bu nuroo ak OPRO. Benn model dafay proposer ay baat yu bees ngir benn njàngale, baat bu nekk ñu ngi koy jox poñ ci benchmark math, ba noppi taarixu poñ yi gëna baax dafay dellu ci rond bu ci topp ci proposition yi.

Ab pipeline laaj-tontu buñu yokk ci seet gi ñu ngi ko jagleel ci njeexte gi ba ci njeexte li, ak benn metric buy saytu tontu yu mujj yi ak tontu yiñ joxe ci royuwaay bi. Jéego bind laaj ak tontu ñoom ñaar ñu ngi gëna baax.

Ëlëgu Optimisation Prompt Otomatik ak DSPy

Optimisation bu gaaw mingi nekk lu jaadu ci ingenieur LLM, ci wetu suites evaluation, gëna nekk curiosité gëstu. Laaj yu ubbeeku des nañu. naka lay def ba mëna toxal ay laaj yu baax ci diggante model yi? naka ngay bindee metrics ngir jikko yu subjectif yu melni ton wala ndimbal? naka ngay moytu def ay done yu ndaw yu bari? Yenn gëstu dañu boole optimisation bu gaaw ak fine-tuning bu woyof, te DSPy dafay jàppale ñoom ñaar. Modèle yi dañuy faral di soppeeku, kon mëna defaraat ci saasi ci test bu dëgër mën na gëna am solo benn laaj bu am xel. Mandargal metrics ak misaal yu baax nekk na liggéeyu nit.

Teg ko ci jëf

Lu tax mu am solo

  • Njëgg ak budget. Dogal yi architecture di jël dañuy indi njariñ ak njëgu liggéey bi ay at ci ginaaw.
  • dogal yu gëna leer. Njàngalem xarala yi dafay jàppale ekip yi ñu tànn li gën, te baña yam ci li gëna bees daal.
  • Xool kalite. Tanneef yu gëna baax ci wàllu ingeñër dina wàññi jafe-jafe yi ci wàllu wóor ci liggéey bi.

Moytul

  • Optimize benn benchmark mën na nëbb ñakk kattan yu gëna yaatu ci sistem bi.
  • Njëg li ñuy fay ci infrastructure yi ak ci toppatoo dañuy faral di suufeel.
  • Bu sistem yi di gëna xawa jafee xam, jafe-jafe yi am ci wàllu kaaraange ak seetlu mën nañu gëna bari.

Jéego yi ci topp

  1. Mandargal latency, kalite, ak njëg yi laata ngay jëfandikoo.
  2. Benchmark ci biir sargal ak done yu dëggu.
  3. Jumtukaay bi di saytu njuumte yi, derive bi ak njeextalu jëfandikukat bi.
  4. Waajal rollback ak yooni tontu ci jafe-jafe yi laata ngay eskale.

Weyal di banneexu

Bulletin bu amul fayda

Jàngal xibaar AI bu bes

Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.

Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.

Nattal sa bopp

Take the Automatic Prompt Optimization and DSPy quiz

Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.

Tambalil quiz

Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax

Laaj yi ñuy faral di laaj

Luy Optimisation Prompt Otomatik ak DSPy?

Optimisation otomatik dafay jëfandikoo algorithm ngir seet tegtal yu gëna baax wala misaal yu néew. Dafay joxe poñ yi kàndidaa yi laaj ci benn metric ci misaal yu bari, du wéeru ci kàddu yuñ defaree loxo. Xeetu xam-xam yiñ gëna xam ñooy APE, OPRO bu DeepMind ak DSPy, di kaadar bu ubbeeku bu bawoo ci Stanford. Ñoom ñaar ñépp ñu ngi soppi ingenieur bu gaaw bi joge ci xalaat dem ci liggéey buñ mëna natt, baamtu.

Lan ngay wara joxe ngir optimisation automatique bi mëna dox?

Optimiser bi soxla liggéey, misaal ak metric suko defee mu mëna am poñ ci laaj kàndidaa yi ba noppi tëye yi gëna baax.

Ci OPRO, lan mooy liggéeyu optimisatër bi?

OPRO dafay jëfandikoo xeetu làkk ngir gëna xéewale. Dafay xool tegtal yu njëkk ya ak seeni poñ ba noppi tànn yeneen yu bees.

Lan la OPRO's "Noyyil bu baax nga liggéey ci jafe-jafe bii jéego par jéego" di wane?

Jàngale bi dafa am poñ yu baax ci benn model ci math ci daara yu mag yi. Baatu-baatu yiñ gis ci seetlu mën nañu yéeme te mën nañu baña dem ci yeneen xeeti baat.

Luy siife DSPy?

Siñaale yi dañuy wax li modle bi wara def ci wàllu dugal ak genn. DSPy dafay liggéey ci laaj bi.

naka la BootstrapFewShot bu DSPy di ​​amee ay firndeem?

Topp yu am ndam dañuy nekk misaal yu néew, ba ci jéego yu biir yi nga musul joxe etiketu sa bopp.