Résumé
IA konstitusioneel mooy Anthropic's anam ngir méngale ay xeetu jëfandikoo ay njàngale yuñ bind - ab 'sàrtu konstitution' - kon IA dafay ŋàññi ak xoolaat tontu boppam ludul wéeru ci nit rek ngir joxe etiketu ëmbiit bu lore. Li muy fexe mooy defar ay model yu am njariñ te baña lore, te nit ñi duñu ci liggéey lu bari.
IA konstitusioneel bokk na ci lakk-IA stack bi ñuy jëfandikoo ngir jàng, defar, xaaj, ak soppi mbind ak wax ci eskaal.
Plongeur bu xóot
Liggéeyu cosaan mingi aju ci jàng bu am doole ci feedback nit (RLHF), fu nit ñi di rang model yu bari yu génn, boole ci yiy jaaxal, ngir jàngal model bi li ñu wara moytu. IA bu sàrtu ndayu réew mi wàññi na coono bi ci joxe model bi limu njàngale yu leer yu juge ci ay balluwaay yu melni Deklarasioŋ bu Mbootaayu Xeet yi ci Yelleefi Doomi Aadama ak jëf yu gëna baax ci wóolu ak kaaraange. Tàggat yaram amna ñaari pàcc. Bi njëkk mooy etape buñuy saytu : model bi dafay defar tontu, ginaaw ga mu ŋàññi ko ci sàrtu ndayi réew mi, ba noppi binndaat ko ngir gëna baax; tontu yooyu ñu defar seen bopp lañuy jëfandikoo ngir gëna suqali ko. Ñaareel ba mooy jàngat buy dooleel, RLAIF, fu model bi ci boppam rang ñaari tontu yu méngoo ak sàrtu ndayi réew mi, ba noppi done yiñ taamu yu IA defar dañuy tàggat xeetu neexal. Njàngale yi dañu leer te mën nañu leen soppali, moo tax valeur yi jiite model bi mën nañu ko saytu, duñu nëbb ci biir etiketu nit yu opaque.
Gis-gis xarala
Ñaari fase yooyu ñu ngi leen di faral di woowe SL-CAI ak RL-CAI. Ci jàngat buñ saytu, ab bouclage 'critique-and-revise' dafay laaj model bi mu xool fi tontu boppam jaarul yoon ci misaal bi, ba noppi binndaat ko, defar ay done tàggat te du am benn etiketu gaañ-gaañu ci nit. Ci wàllu RL, ñaareelu xeetu àtte ban ci ñaari tontu yi moo gëna topp sàrtu ndayu réew mi, defar etiketu tànneef IA (RLAIF) yuy tàggat xeetu neexal bu ñuy jëfandikoo ci RL buñ miin. Sàrtu ndayi réew mi dafay nekk tegtal bu leer buñ dugal ci ay laaj, kon soppi doxalinu xeetu mën na nekk lu direct ni soppali njàngale yi.
Mastering IA bu sàrtu ndayu réew
IA konstitusioneel mooy Anthropic's anam ngir méngale ay xeetu jëfandikoo ay njàngale yuñ bind - ab 'sàrtu konstitution' - kon IA dafay ŋàññi ak xoolaat tontu boppam ludul wéeru ci nit rek ngir joxe etiketu ëmbiit bu lore. Li muy fexe mooy defar ay model yu am njariñ te baña lore, te nit ñi duñu ci liggéey lu bari. IA konstitusioneel bokk na ci lakk-IA stack bi ñuy jëfandikoo ngir jàng, defar, xaaj, ak soppi mbind ak wax ci eskaal. Ngir tabax xam-xam bu xóot, jàppal IA konstitusioneel ni xeetu liggéey, du benn man-man: leeral njariñ yi nga bëgg, leeral xalaat yi, ak tàqale li sistem bi mëna def ci anam wu wóor ak li ba leegi soxla àtteb kàngam.
Ci jëf, ekip yu dëgër yiy jëfandikoo sàrtu IA jëmmal, seet, ak xoolaat loop ni benn sistem jokkoo buñ boole. Dañuy bind kritër yu leer ngir am ndam, natt leen ci done yu dëggu ak def liggéey, ba noppi ñu baamtu ci anamu ñàkka mëna seetlu, du ci benn yoon benchmark wins. Mooy barab bi xam-xam theorie bi di soppiku nekk kàttan buy yàgg ci produit yi, ci politik yi ak ci liggéey yi.
Liggéeyukaay yi ci làkk yi mën nañu gëna gaaw te duñu yàq deggoo gi. Ci jamano jooju, mbiri Hallucinated mën nañu dugg ci rapoor yi, jàppale flow yi, wala gëstu yi génne. Xeetu jëf bi gëna dëgër mooy boole gaawaayu jàngat ak disipline nguur: doxal pilote, jàpp firnde, siiwal dogal yi, ak wéy di yeesal kaaraange gi ci anam wi ñuy doxalee, li jëfandikukat bi di xaar, ak sàrti sàrt yi di jëm kanam.
njeextalu pexe
Liggéeyukaay yi ci làkk yi mën nañu gëna gaaw te duñu yàq deggoo gi.
Liggéeyukaay yi ci làkk yi mën nañu gëna gaaw te duñu yàq deggoo gi. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Dafay yaatal jëfandikoo gi ci làkk yi ak ci anam yi ñuy jokkoo.
Dafay yaatal jëfandikoo gi ci làkk yi ak ci anam yi ñuy jokkoo. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Ekip yi mën nañu gëna yàgg ci àtte ci jamono ji otomatisation di liggéey ci baamtu.
Ekip yi mën nañu gëna yàgg ci àtte ci jamono ji otomatisation di liggéey ci baamtu. Ci jëfandikoo yu am kalite bu kawe, loolu dañu koy tekki ci sàrti liggéey yuñ mëna natt, ay peggu boroom, ak ay xew-xewu xoolaat yu bari suko defee ekip yi mëna yokk wóolu seen bopp ci barabu yokk lu jaxasoo.
Doxal ci àdduna dëgg
Taggat benn chatbot ngir mu baña jàppale ci tabax benn ngannaay ci fexe bamu ŋàññi tontu boppam ci njàngalem moytu gaañ-gaañu ba noppi binndaat ko
Wecci etiketu ekip xonk bu nit ñi ci génne toxic yi ak done yuñ taamu yu IA defar (RLAIF) te sàrtu ndayu réew mi jiite ko
Soppi ab njàngale buñ bind ngir méngale ni ab xeetu moytu di doxee, ba noppi xool coppite yi ci doxalin te doo joxaat ay junni misaal
Doxal ay tàggat-yaram yu mbooloo, fu askan wi digle ay njàngale yuy tëral sàrtu ndayu réew mi
Modèlu jëfandikoo
IA konstitusioneel ci jëf
Taggat chatbot ngir baña jàppale ci tabax benn ngannaay ci fexe bamu ŋàññi tontu boppam ci njàngalem moytu loraange ba noppi binndaat ko.
Taggat chatbot ngir baña jàppale tabax benn ngannaay ci fexe ba mu ŋàññi tontu boppam ci benn yoon buy moytu gaañ-gaañu te binndaat ko.
IA konstitusioneel ci jëf
Wecci etiketu ekip xonk bu nit ñi ci génne toxic yi ak done yuñ taamu yu IA defar (RLAIF) yu sàrtu ndayu réew mi jiite.
Wecci etiketu ekip xonk bu nit bu seer ci génnug toxic ak done yuñ taamu yu AI-generated (RLAIF) yu sàrtu ndayu réew mi jiite. Ekip yi dañuy faral di am njariñ yu gëna baax suñu leeralee threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit yi ak njëgu njuumte yi ci diir bi.
IA konstitusioneel ci jëf
Soppi ab njàngale buñ bind ngir méngale ni ab xeetu moytu di doxee, ba noppi xool coppite yi ci doxalin te doo joxewaat ay junni misaal.
Soppi benn njàngale buñ bind ngir méngale ni xeetu model bi di moytu, ba noppi xool coppite yi ci doxalin te baña joxewaat ay junni misaal. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee ay threshold yu baax ci kanam, tëye yoonu escalation nit ngir jafe-jafe yi, ba noppi topp njariñu produit yi ak njuumte yi ci diir bi.
IA konstitusioneel ci jëf
Doxal ay tàggat-yaram yu mbooloo, fu askan wi digle njàngale yuy tëral sàrtu ndayi réew mi.
Doxal ay tàggat yu mbooloo fu askan wi digle ay njàngale yuy jëmmal sàrtu ndayi réew mi. Ekip yi dañuy faral di am njariñ yu gëna baax suñu joxee ay pursàntaasu kalite ci kanam, tëye yoonu eskalaasioŋ nit ngir jafe-jafe yi, ba noppi topp njariñu liggéey bi ak njëgu njuumte yi ci diir bu gàtt.
Risk yi ak balustrade yi
Lépp lu jaarul yoon mën na dugg ci rapoor yi, jàppale ci liggéey bi, wala ci njariñu gëstu bi.
Sensibilite bu gaaw mën na jur njariñ yu wuute ci laajte yu noonu mel.
Done yu am solo mën nañu feeñ sudee seytu jëfandikoo gi néew doole.
Roadmap ngir samp gi
Mandargal formaa génne gi, melokaan bi, ak standard kalite yi laata ngay dugal ko.
Mandargal formaa génne gi, melokaan bi, ak standard kalite yi laata ngay dugal ko. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Tontu yu am solo ak balluwaay yu wóor saa yu dëggu bi di am solo.
Tontu yu am solo ak balluwaay yu wóor saa yu dëggu bi di am solo. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Fexeel am barabu xool nit ñi ngir am njariñ yu am solo.
Fexeel am barabu xool nit ñi ngir am njariñ yu am solo. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.
Toppal anami gacce yi ak di faral di tàggataat ay laaj wala def-liggéey.
Toppal anami gacce yi ak di faral di tàggataat ay laaj wala def-liggéey. Japp jéego bu nekk ni buntu firnde: sudee mattul kritër yi, noppali génne gi, tëj bërëb bi, ba noppi nga yaatal jëfandikoo gi.