GUIDE teknik

NVIDIA Barrail NeMo

NVIDIA NeMo Guardrails jumtukaay la bu ubbeeku ngir tabb saytu ak waxtaan ci aplikaasioŋu LLM.

Déglul tegtal biiIA-nettali · ~3 min

Ci xët wii3 simili jàng
  1. Résumé
  2. Plongeur bu xóot
  3. Doxal ci àdduna dëgg
  4. Ëlëgu NVIDIA NeMo
  5. Teg ko ci jëf
  6. Weyal di banneexu
  7. Laaj yi ñuy faral di laaj

Résumé

Dokumentaasioŋ yi mu am leegi dañuy boole ay dugal, seet, waxtaan, def, ak génne, loolu dafay tax ekip yi mëna def ay njiit ci barab bi ñu leen wara jox, boole ci tëye seen wareef ci saytu ak doolel.

Plongeur bu xóot

NeMo Guardrails dafay joxe ab layer buñu mëna tabb ci ab aplikaasioŋ buy defar. Duñu jàppee benn sistem buy wax ni benn yoon kese lañuy saytu, waaye ekip bi mën na saytu ci pàcc yu bari ba noppi wax ni waxtaan wi wara doxee. Këyitu NVIDIA yi fi nekk dañuy fësal juróomi xeeti rail. Rail yiy dugal dañuy saytu wala raxas dugal jëfandikukat bi laataa ñuy woo model. Retrieval rail yi dañuy segg ba noppi di saytu xam-xam biñ jëlee. Rail dialog yi dañuy tere waxtaan yu bari yi dem. Rail yiy jëfandikoo dañuy saytu ak saytu jumtukaay wala woote fonction, boole ci seeni argument ak seeni resultaa. Rail yiy génne dañuy saytu te mën nañu segg wala toppatoo tontu yiñ defar balaa jëfandikukat bi di leen gis. Jumtukaay bi dafay jëfandikoo fichier tabb ak Colang ngir fësal doxalinu guardrail, te mën na amaale jëfi Python yuñ jagleel. Ekip yi mën nañu boole ay mekaniism yuñ tabax ci biir, ay model yu bawoo ci biti, ay sarwis yu nekk ci digante yenen, wala logique buñ jagleel benn aplikaasioŋ; ban jëfandikoo giy dox mingi aju ci tabb giñ tànn. Flexibilite bi dafay tax mu am solo lool ñu saytu yoon wiñ configuré ci dëgg, moo gën ñuy xalaat ni tur wi dafay tekki benn classifier, model call, wala garanti enforcement. Rail yi mën nañu yokk calcul wala latency, rawatina suñuy woo model wala serwiis yu sori, waaye njëg bi mingi aju ci configuration bi. Design bu am njariñ mingi tàmbali ci modelu menace ak flow done. Xalaatal li mëna dugg ci aplikaasioŋ bi, ban mbir lañu jëlee ci model bi, ban jumtukaay lañu mëna woowe, ak ban génnekaay lañu wara xoolaat. Defal saytu ci yooyu pegg te nga def ndigalu jumtukaay bi mën nañu ko jëfandikoo ci aplikaasioŋ bi ci boppam. Ginaaw loolu natt senaario yi ñu nangu ak yi ñu baña nangu, lu ci melni argumentu jumtukaay yu jaarul yoon, ay pàcci retrieval yu amul njariñ, jéem yu bari ngir doxal waxtaan wi, ak ay jafe-jafe ci serwiis bi. Guardrails mën na wàññi risk yi ba noppi gëna leerloo ni nit ki bindoo; mënuñu garanti dëggug dëgg, tere bepp song, wala wecci surveillance ak escalation nit fépp fu stakes ko soxla.

Doxal ci àdduna dëgg

Aplikaasioŋ dafay yokk benn raay ngir saytu wala raxas mesaas yiy dugg laataa ñuy woote model, ba noppi natt ndax xëcc bu gëna bari dafay tere sàq yu ​​baax yi.

Rail retrieval dafay segg wala di saytu këyit yi ak ay pàcc balaa ñuy dugg ci contexte generation buy yokk retrieval.

Jàppalekat biy jëfandikoo jumtukaay dafay jëfandikoo ay rail execution ngir saytu fonction biñ laaj ak ay argumentam balaa operation bi ci biti di dox.

Benn ekip dafay tabb waxtaan yi ak Colang ak jëfi Python yuñ personaalise bu baax, ba noppi jàngat tabb bi ci yoon yiñ may ak yiñ bañ yépp.

Ëlëgu NVIDIA NeMo

Bibliothèque Guardrail yi dañuy gëna yokk, joge ci filtre yu gaaw yi ak tontu yi, dem ci seytu yiy muur seet, jumtukaay, tolluwaayu waxtaan, ak jëfandikoo gi. Boobu surface bu gëna yaatu mën na jàppale ekip yi ñu fësal seeni politik yu gëna jege risk yi ñuy wax, ci noonu lañuy yokk liggéeyu configuration ak evaluation. Jëf ju yàgg ji mooy soppi misaali rail, natt leen ci senaario aplikaasioŋ, ba noppi xoolaat leen saa yu model yi, jumtukaay yi, wala balluwaayi done yi soppeekoo. Couverture rail war nañu ko leeral ci wetu dessitu yooni sistem bi. Ekip yi war nañu waajal itam ni ñuy seetlu ak defar ay kontre yu jaarul yoon.

Teg ko ci jëf

Lu tax mu am solo

  • Njëgg ak budget. Dogal yi architecture di jël dañuy indi njariñ ak njëgu liggéey bi ay at ci ginaaw.
  • dogal yu gëna leer. Njàngalem xarala yi dafay jàppale ekip yi ñu tànn li gën, te baña yam ci li gëna bees daal.
  • Xool kalite. Tanneef yu gëna baax ci wàllu ingeñër dina wàññi jafe-jafe yi ci wàllu wóor ci liggéey bi.

Moytul

  • Optimize benn benchmark mën na nëbb ñakk kattan yu gëna yaatu ci sistem bi.
  • Njëg li ñuy fay ci infrastructure yi ak ci toppatoo dañuy faral di suufeel.
  • Bu sistem yi di gëna xawa jafee xam, jafe-jafe yi am ci wàllu kaaraange ak seetlu mën nañu gëna bari.

Jéego yi ci topp

  1. Mandargal latency, kalite, ak njëg yi laata ngay jëfandikoo.
  2. Benchmark ci biir sargal ak done yu dëggu.
  3. Jumtukaay bi di saytu njuumte yi, derive bi ak njeextalu jëfandikukat bi.
  4. Waajal rollback ak yooni tontu ci jafe-jafe yi laata ngay eskale.

Weyal di banneexu

Bulletin bu amul fayda

Jàngal xibaar AI bu bes

Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.

Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.

Nattal sa bopp

Defal quiz bu NVIDIA

Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.

Tambalil quiz

Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax

Laaj yi ñuy faral di laaj

Luy NVIDIA NeMo Barrails?

NVIDIA NeMo Guardrails jumtukaay la bu ubbeeku ngir tabb saytu ak waxtaan ci aplikaasioŋu LLM. Dokumentaasioŋ yi mu am leegi dañuy boole ay dugal, seet, waxtaan, def, ak génne, loolu dafay tax ekip yi mëna def ay njiit ci barab bi ñu leen wara jox, boole ci tëye seen wareef ci saytu ak doolel.

Ban etape rail NeMo lañu nara saytu li jëfandikukat bi dugal balaa ñuy woo benn model?

NVIDIA dafay màndargaal raay yi ñuy dugal ni saytu yuñ def laataa ñuy woo LLM ngir saytu wala raxas mesaas yiy dugg.

Fan la rail yiy jëlaat di doxee ci aplikaasioŋ buñ yokk ngir jëlaat?

Këyit dañuy leeral raay yi ñuy jëlee ci segg ak saytu xam-xam biñ jëlee ak ay pàcc.

Ban xeetu rail mooy saytu jumtukaay wala woote fonction ak seeni argument?

Rail yiy jëfandikoo dañuy saytu woote yi, argument yi ak resultaa yi ci peggu jumtukaay bi.

Ban liggéey la rail dialog di def ci NeMo Guardrails?

NVIDIA dafay leeral rail dialog yi ni ñuy doxal ak di tënk waxtaan yu bari yi.

naka la YAML ak Colang di mëna jaar ci jumtukaay yiñ bind?

Resumé bi dafa wax ni YAML mooy leeral model yi, laaj yi, rail yi, ak jekkal runtime, fekk Colang mooy leeral flow ak logique guardrail.