Dastuuriga ah AI
Dastuuriga ah AI waa habka Anthropic ee isku toosinta moodooyinka iyadoo la adeegsanayo mabaadi' qoran - 'dastuur' - markaa AI waxay naqdiyaa oo dib u eegtaa jawaabaheeda halkii ay ku tiirsanaan lahayd oo keliya bini'aadamka si ay u calaamadiyaan waxyaabaha waxyeellada leh.
Dulmar
It aims to make models helpful and harmless with far less human labor.
quusid qoto dheer
Isku toosinta dhaqameedku waxay ku tiirsan tahay xoojinta barashada jawaab celinta aadanaha (RLHF), halkaas oo dadku ku qiimeeyaan wax soo saar badan oo moodeel ah, oo ay ku jiraan kuwa dhibaya, si loo baro tusaalaha waxa laga fogaado. Dastuuriga ah AI wuxuu yareeyaa culeyskaas isagoo siinaya tusaalaha liis cad oo mabaadi'da qoran oo laga soo qaatay ilo sida Baaqa Qaramada Midoobay ee Xuquuqda Aadanaha iyo kalsoonida-iyo-badbaadada dhaqamada ugu wanaagsan. Tababarku wuxuu leeyahay laba marxaladood. Marka hore, marxalad la kormeero: qaabku wuxuu keenaa jawaab, ka dibna wuxuu dhaleeceeyaa mabda'a dastuuriga ah oo dib u qoraa si uu u fiicnaado; jawaabahaas is-hagaajinta ayaa loo adeegsadaa si loo hagaajiyo. Marka labaad, heerka xoojinta-waxbarashada, RLAIF, halkaas oo moodeelka laftiisa uu ku qiimeeyay lammaanaha jawaabaha sida uu qabo dastuurka, iyo in xogta doorbidida AI-abuurtay ay tababarto qaab abaal-marineed. Mabaadi'da waa daah-furan oo la tafatiran karo, taasoo ka dhigaysa qiyamka haga tusaalaha mid la baari karo halkii ay ku qarsoonaan lahaayeen sumadaha bini'aadamka ee mugdiga ah.
Aragtida Farsamada
Labada weji waxaa badanaa loo yaqaan SL-CAI iyo RL-CAI. Barashada la kormeero, loop 'naqdi-iyo-dib-u-eegis' ayaa ku dhiirigelisa moodeelka in uu helo halka ay jawaabta u gaar ah ku xad-gudbi doonto mabda'a la soo xulay oo dib u qorto, iyada oo soo saari doonta xogta tababarka iyada oo aan lagu calaamadin waxyeellada aadanaha. Marxaladda RL, qaabka labaad ayaa xukumaya labada jawaabood ee sida wanaagsan u raacaya dastuurka, iyagoo soo saaraya summadaha doorbidida AI (RLAIF) ee tababara moodelka abaal-marinta ee loo isticmaalo heerka RL. Dastuurku waa hagitaan qoraal-cad ah oo lagu duray dardar-gelin, markaa beddelidda hab-dhaqanka moodeelku waxay noqon kartaa mid toos ah sida tafatirka mabaadi'da.
Saamaynta Istiraatijiyadeed
Xawaaraha iyo miisaanka
Socodka shaqada luqaddu si dhakhso leh ayay u socon kartaa iyada oo aan la hurayn joogteynta.
Helitaanka iyo gaarsiinta
Waxay balaadhisaa gelitaanka luqadaha iyo qaababka isgaarsiinta.
Go'aamo cad
Kooxuhu waxay waqti badan ku qaadan karaan xukunka halka otomaatiggu uu qabanayo ku celcelinta.
Mustaqbalka Dastuurka AI
Dastuuriga ah AI wuxuu tilmaamayaa 'kormeer la qiyaasi karo', halkaasoo AI ay ka caawiso kormeerka AI iyadoo moodooyinka u koraan si aad u awood u leh aadanaha si ay u hubiyaan wax soo saar kasta. Filo qani, dastuuro badan, fikrado dadweyne iyo ka qaybqaadasho kuwaaso mabaadi'da la doortay (Anthropic waxay samaysay tijaabooyin 'dastuurka guud AI'), iyo habab isku dhafan oo ku daraya jawaab-celinta bini'aadamka iyo is-naqdinta AI. Daah-furnaanta mabaadi'da qoran ayaa tan ka dhigaysa mid soo jiidasho leh maamulayaasha iyo hanti-dhawrka doonaya inay arkaan qiyamka nidaamku qeexayo. Sida moodooyinka xuduudaha u soo hormaraan, hababka u ogolaanaya moodooyinka si lagu kalsoonaan karo u naqdiyaan oo ay horumariyaan iyaga oo ka soo horjeeda xeerarka cad waxay u badan tahay inay udub dhexaad u noqdaan badbaadada.
Dhaqangelinta Adduunka-dhabta ah
Tababarka chatbot-ka si uu u diido in uu gacan ka geysto dhisidda hubka isaga oo naqdiyay jawaabtiisa qabyada ah ee ka soo horjeeda mabda'a ka fogaanshaha waxyeelada oo dib u qoro
Beddelka calaamadaynta kooxda-cas ee bini'aadamka ee qaaliga ah ee wax soo saarka sunta iyadoo lagu beddelayo xogta doorbidida AI-abuuray (RLAIF) ee uu hagayo dastuurku
Tafatirka mabda'a qoran si loo hagaajiyo sida taxadarku u leeyahay tusaaluhu, ka dibna u fiirsashada isbeddelka dabeecadda iyada oo aan la calaamadin kumanaan tusaale
Layliyada talo-wadaagga ah ee socodsiinta halka dadweynuhu ay soo jeediyaan mabaadi'da qaabeeya dastuurka moodeelka
Khatarta & Dariiqyada Ilaalada
Xaqiiqooyinka dhalanteed waxay si deggan u geli karaan warbixinnada, taageerada socodka, ama natiijooyinka cilmi-baarista.
Dareenka degdega ahi wuxuu abuuri karaa natiijooyin aan iswaafaqayn codsiyada la midka ah.
Xogta qoraalka xasaasiga ah ayaa laga yaabaa in la kashifo haddii kontaroolada gelitaanka ay daciif yihiin.
Qorshe Hawleedka Dhaqangelinta
Qeex qaabka wax soo saarka, codka, iyo heerarka tayada ka hor inta aan la baahin.
Jawaabaha salka ku haya ilo lagu kalsoon yahay mar kasta oo saxnidu ay muhiim tahay.
Hayso isbaarada dib u eegista bini aadamka ee wax soo saarka sare.
Lasoco qaababka guuldarada oo dib u leyli dardargelinta ama socodka shaqada si joogto ah.
Sii wad Sahaminta
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Constitutional AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hagaha xiga
Dajinta Tilmaamaha
Su'aalaha soo noqnoqda
What is Constitutional AI?
Dastuuriga ah AI waa habka Anthropic ee isku toosinta moodooyinka iyadoo la adeegsanayo mabaadi' qoran - 'dastuur' - markaa AI waxay naqdiyaa oo dib u eegtaa jawaabaheeda halkii ay ku tiirsanaan lahayd oo keliya bini'aadamka si ay u calaamadiyaan waxyaabaha waxyeellada leh. Waxay ujeedadeedu tahay inay ka dhigto moodallo waxtar leh oo aan waxyeello lahayn iyadoo ay aad uga yar tahay shaqada aadanaha.
Waa maxay 'dastuur' ee ku jira AI?
Dastuurku waa mabaadi'da qoran oo hufan, laga soo qaatay ilo ay ka mid yihiin dukumeentiyada xuquuqul insaanka, oo qaabku u isticmaalo si uu u qiimeeyo oo u hagaajiyo jawaabihiisa.
Waa maxay dhibaatada muhiimka ah ee heerka RLHF ee Dastuurku AI ujeedkiisu yahay inuu yareeyo?
Marka la haysto qaabka laftiisa laftiisa naqdin ka dhanka ah mabaadi'da, Dastuuriga ah AI wuxuu hoos u dhigayaa shaqada aadanaha ee dib u eegista iyo calaamadeynta natiijooyinka dhibka leh ama waxyeellada leh.
Marxaladda la kormeerayo ee Dastuuriga ah ee AI, muxuu qaabku ku sameeyaa wax soo saarkiisa?
Qaabku waxa uu wadaa naqdin iyo dib-u-eegis loop: waxa uu tilmaamayaa halka qabyo-qoraalka ahi ku xad-gudbo mabda'a muunadaysan, ka dibna dib buu u qoraa jawaabta, isaga oo abuuraya xog tababar is-horumariyay.
Maxay RLAIF u taagan tahay marxaladda xoojinta-waxbarashada?
RLAIF macneheedu waa Xoojinta Barashada Jawaabcelinta AI: moodeelku waxa uu darajo u dhigaa jawaabaha marka loo eego dastuurka, isaga oo soo saaraya xogta doorbidida AI-soo saartay beddelka sumadaha aadanaha.
Waa maxay sababta isticmaalka mabaadi'da qoran loogu tixgeliyo faa'iidada daahfurnaanta?
Sababtoo ah qiyamka hagaya waa la qoray, waa la baari karaa, la baari karaa, oo si toos ah ayaa loo tafatiran karaa, si ka duwan dookhyada sida tooska ah loogu qeexay qiimeynta aadanaha ee baahsan.