IA bu sàrtu ndayu réew
IA konstitusioneel mooy Anthropic's anam ngir méngale ay xeetu jëfandikoo ay njàngale yuñ bind - ab 'sàrtu konstitution' - kon IA dafay ŋàññi ak xoolaat tontu boppam ludul wéeru ci nit rek ngir joxe etiketu ëmbiit bu lore.
Résumé
It aims to make models helpful and harmless with far less human labor.
Plongeur bu xóot
Liggéeyu cosaan mingi aju ci jàng bu am doole ci feedback nit (RLHF), fu nit ñi di rang model yu bari yu génn, boole ci yiy jaaxal, ngir jàngal model bi li ñu wara moytu. IA bu sàrtu ndayu réew mi wàññi na coono bi ci joxe model bi limu njàngale yu leer yu juge ci ay balluwaay yu melni Deklarasioŋ bu Mbootaayu Xeet yi ci Yelleefi Doomi Aadama ak jëf yu gëna baax ci wóolu ak kaaraange. Tàggat yaram amna ñaari pàcc. Bi njëkk mooy etape buñuy saytu : model bi dafay defar tontu, ginaaw ga mu ŋàññi ko ci sàrtu ndayi réew mi, ba noppi binndaat ko ngir gëna baax; tontu yooyu ñu defar seen bopp lañuy jëfandikoo ngir gëna suqali ko. Ñaareel ba mooy jàngat buy dooleel, RLAIF, fu model bi ci boppam rang ñaari tontu yu méngoo ak sàrtu ndayi réew mi, ba noppi done yiñ taamu yu IA defar dañuy tàggat xeetu neexal. Njàngale yi dañu leer te mën nañu leen soppali, moo tax valeur yi jiite model bi mën nañu ko saytu, duñu nëbb ci biir etiketu nit yu opaque.
Gis-gis xarala
Ñaari fase yooyu ñu ngi leen di faral di woowe SL-CAI ak RL-CAI. Ci jàngat buñ saytu, ab bouclage 'critique-and-revise' dafay laaj model bi mu xool fi tontu boppam jaarul yoon ci misaal bi, ba noppi binndaat ko, defar ay done tàggat te du am benn etiketu gaañ-gaañu ci nit. Ci wàllu RL, ñaareelu xeetu àtte ban ci ñaari tontu yi moo gëna topp sàrtu ndayu réew mi, defar etiketu tànneef IA (RLAIF) yuy tàggat xeetu neexal bu ñuy jëfandikoo ci RL buñ miin. Sàrtu ndayi réew mi dafay nekk tegtal bu leer buñ dugal ci ay laaj, kon soppi doxalinu xeetu mën na nekk lu direct ni soppali njàngale yi.
njeextalu pexe
Gaawaay ak yaatuwaay
Liggéeyukaay yi ci làkk yi mën nañu gëna gaaw te duñu yàq deggoo gi.
Dugg ak yegg
Dafay yaatal jëfandikoo gi ci làkk yi ak ci anam yi ñuy jokkoo.
dogal yu gëna leer
Ekip yi mën nañu gëna yàgg ci àtte ci jamono ji otomatisation di liggéey ci baamtu.
Ëlëgu IA bu sàrtu ndayu réew
IA bu sartu réew mi defay wone 'ciytu bu muna eskale,' fu IA di jappale ci saytu IA ginnaaw bi ay xeetu juntuwaay yu magg ba nit ñi munuñu xool beppu gennup. Xaarandil sàrtu ndayu réew yu gëna riis, yu gëna nuance, ay done yu ñépp bokk ak bokk ci njàngale yi ñuy tànnee (Anthropic amal na 'jàngat IA bu sàrtu ndayu mbootaay'), ak jegewaale yu boole xalaati nit ak ŋàññi boppam IA. Leer gi am ci njàngale yiñ bind moo tax lii nekk luy xëcc njiit yi ak auditeur yi bëgga gis valeur yi sistem bi di kode. Lu modelu frontiere yi di gëna dem, pexe yiy may model yi ñu mëna ŋàññi ak gëna suqali seen bopp ci wàllu sàrt yu leer, dina nekk lu am solo ci kaaraange.
Doxal ci àdduna dëgg
Taggat benn chatbot ngir mu baña jàppale ci tabax benn ngannaay ci fexe bamu ŋàññi tontu boppam ci njàngalem moytu gaañ-gaañu ba noppi binndaat ko
Wecci etiketu ekip xonk bu nit ñi ci génne toxic yi ak done yuñ taamu yu IA defar (RLAIF) te sàrtu ndayu réew mi jiite ko
Soppi ab njàngale buñ bind ngir méngale ni ab xeetu moytu di doxee, ba noppi xool coppite yi ci doxalin te doo joxaat ay junni misaal
Doxal ay tàggat-yaram yu mbooloo, fu askan wi digle ay njàngale yuy tëral sàrtu ndayu réew mi
Risk yi ak balustrade yi
Lépp lu jaarul yoon mën na dugg ci rapoor yi, jàppale ci liggéey bi, wala ci njariñu gëstu bi.
Sensibilite bu gaaw mën na jur njariñ yu wuute ci laajte yu noonu mel.
Done yu am solo mën nañu feeñ sudee seytu jëfandikoo gi néew doole.
Roadmap ngir samp gi
Mandargal formaa génne gi, melokaan bi, ak standard kalite yi laata ngay dugal ko.
Tontu yu am solo ak balluwaay yu wóor saa yu dëggu bi di am solo.
Fexeel am barabu xool nit ñi ngir am njariñ yu am solo.
Toppal anami gacce yi ak di faral di tàggataat ay laaj wala def-liggéey.
Weyal di banneexu
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Constitutional AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Gis bi ci topp
Tegtal yi tuning
Laaj yi ñuy faral di laaj
What is Constitutional AI?
IA konstitusioneel mooy Anthropic's anam ngir méngale ay xeetu jëfandikoo ay njàngale yuñ bind - ab 'sàrtu konstitution' - kon IA dafay ŋàññi ak xoolaat tontu boppam ludul wéeru ci nit rek ngir joxe etiketu ëmbiit bu lore. Li muy fexe mooy defar ay model yu am njariñ te baña lore, te nit ñi duñu ci liggéey lu bari.
Luy 'sàrtu ndayu réew' ci IA bu sàrtu ndayu réew?
Sàrtu ndayu réew mi dafay leer ci ay sàrt yuñ bind, yu bawoo ci ay balluwaay yu melni këyitu yelleefi doomi aadama yi, te xeetu sàrt bi dafay jëfandikoo ngir jàngat ak gëna suqali tontu yi.
Ban jafe-jafe bu mag la ci RLHF buñ miin bi IA konstitusioneel bëgga wàññi?
Su amee model buy ŋàññi boppam ci njàngalem, IA konstitusioneel dafay wàññi liggéeyu nit ñi ci xoolaat ak etiketu génne yuy yàq wala yuy lore.
Ci etap bi ñuy saytu ci IA konstitusioneel, lan la model bi di def ci génne boppam?
Modèle bi dafay doxal benn bouclage critique-and-revise: dafay xàmmee fi projet bi jaarul yoon ci misaal, ba noppi binndaat tontu bi, sos ay done yu gëna mëna tàggat boppam.
Lan mooy RLAIF ci wàllu jàng-jàngat buy dooleel?
RLAIF moy Jàngale bu am doole ci IA Feedback: ab xeetu rang tontu bu méngoo ak sàrtu ndayi réew mi, defar ay done yuñ taamu yu IA defar ci barabu etiketu nit.
Lan moo waral ñu jàpp ni jëfandikoo njàngale yuñ bind lu am solo la ci wàllu leer?
Ndax dañu bind valeur yiy tegtal, mën nañu leen saytu, saytu, ak soppali ci saasi, wuute na ak tànneef yiñ kode ci note yu tasaaroo ci nit ñi.