Kikatiba AI
AI ya Kikatiba ni mbinu ya Anthropic ya kuoanisha miundo kwa kutumia kanuni zilizoandikwa - 'katiba' - kwa hivyo AI inakosoa na kurekebisha majibu yake badala ya kutegemea wanadamu pekee kutambulisha maudhui hatari.
Muhtasari
It aims to make models helpful and harmless with far less human labor.
Dive ya kina
Mpangilio wa kitamaduni hutegemea mafunzo ya uimarishaji kutoka kwa maoni ya binadamu (RLHF), ambapo watu huorodhesha matokeo mengi ya modeli, ikijumuisha yale yanayosumbua, ili kufundisha modeli kile cha kuepuka. AI ya Kikatiba inapunguza mzigo huo kwa kuipa kielelezo orodha ya wazi ya kanuni zilizoandikwa kutoka kwa vyanzo kama vile Azimio la Umoja wa Mataifa la Haki za Kibinadamu na kanuni bora za uaminifu-na-usalama. Mafunzo yana hatua mbili. Kwanza, hatua inayosimamiwa: mtindo hutoa jibu, kisha huikosoa kinyume na kanuni ya kikatiba na kuiandika upya kuwa bora zaidi; majibu haya yaliyojiboresha hutumika kuirekebisha. Pili, hatua ya uimarishaji-kujifunza, RLAIF, ambapo modeli yenyewe inaweka jozi za majibu kulingana na katiba, na kwamba data ya upendeleo inayozalishwa na AI hufunza mfano wa zawadi. Kanuni hizo ni wazi na zinaweza kuhaririwa, na hivyo kufanya maadili yanayoongoza kielelezo kuchunguzwa badala ya kufichwa ndani ya lebo zisizo wazi za binadamu.
Ufahamu wa Kiufundi
Awamu mbili mara nyingi huitwa SL-CAI na RL-CAI. Katika ujifunzaji unaosimamiwa, kitanzi cha 'kukosoa na kusahihisha' huelekeza modeli kutafuta ambapo jibu lake linakiuka kanuni iliyochukuliwa na kuiandika upya, ikitoa data ya mafunzo bila kuweka lebo ya madhara ya binadamu. Katika awamu ya RL, modeli ya pili inatathmini ni jibu gani kati ya mawili linalofuata vyema katiba, likitoa lebo za upendeleo za AI (RLAIF) zinazofunza muundo wa zawadi unaotumiwa katika RL ya kawaida. Katiba ni mwongozo wa maandishi wazi ulioingizwa katika vidokezo, kwa hivyo kubadilisha tabia ya kielelezo kunaweza kuwa moja kwa moja kama kuhariri kanuni.
Athari za kimkakati
Kasi na kiwango
Mitiririko ya kazi ya lugha inaweza kusonga kwa kasi zaidi bila kuacha uthabiti.
Kufikia na kufikia
Inapanua ufikiaji katika lugha na mitindo ya mawasiliano.
Maamuzi ya wazi zaidi
Timu zinaweza kutumia muda mwingi kufanya uamuzi huku otomatiki ikishughulikia marudio.
Mustakabali wa AI ya Kikatiba
AI ya Kikatiba inaelekeza kwenye 'usimamizi mbaya,' ambapo AI husaidia kusimamia AI kadiri miundo inavyokua na uwezo wa binadamu kuangalia kila matokeo. Tarajia katiba tajiri zaidi, zilizoboreshwa zaidi, mchango wa umma na shirikishi ambamo kanuni huchaguliwa (Anthropic imeendesha majaribio ya 'AI ya pamoja ya kikatiba'), na mbinu mseto zinazochanganya maoni ya binadamu na kujikosoa kwa AI. Uwazi wa kanuni zilizoandikwa hufanya hili kuvutia kwa wadhibiti na wakaguzi wanaotaka kuona maadili ambayo mfumo husimba. Miundo ya mipaka inaposonga mbele, mbinu zinazoruhusu wanamitindo kujikosoa kwa kutegemewa na kujiboresha dhidi ya sheria zilizo wazi huenda zikawa msingi wa usalama.
Utekelezaji wa Ulimwengu Halisi
Kufundisha chatbot kukataa kusaidia kuunda silaha kwa kuifanya ihakiki jibu lake la rasimu dhidi ya kanuni ya kuepuka madhara na kuiandika upya.
Kubadilisha uwekaji alama wa gharama wa timu nyekundu ya binadamu kwa matokeo ya sumu na data ya upendeleo inayozalishwa na AI (RLAIF) inayoongozwa na katiba.
Kuhariri kanuni iliyoandikwa ili kurekebisha jinsi mtindo ulivyo wa tahadhari, kisha kuangalia mabadiliko ya tabia bila kuweka maelfu ya mifano.
Kuendesha mazoezi ya pembejeo ya pamoja ambapo umma unapendekeza kanuni zinazounda katiba ya mtindo
Hatari & Walinzi
Mambo ya ukweli yanaweza kuingiza ripoti kwa utulivu, mitiririko ya usaidizi, au matokeo ya utafiti.
Usikivu wa haraka unaweza kuunda matokeo yasiyolingana katika maombi sawa.
Data nyeti ya maandishi inaweza kufichuliwa ikiwa vidhibiti vya ufikiaji ni dhaifu.
Ramani ya Utekelezaji
Bainisha umbizo la towe, toni na viwango vya ubora kabla ya kusambaza.
Majibu ya msingi na vyanzo vinavyoaminika wakati wowote usahihi ni muhimu.
Weka ukaguzi wa ukaguzi wa kibinadamu kwa matokeo ya juu.
Fuatilia mifumo ya kushindwa na fundisha tena vidokezo au mtiririko wa kazi mara kwa mara.
Endelea Kuchunguza
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Constitutional AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Mwongozo unaofuata
Urekebishaji wa Maelekezo
Maswali yanayoulizwa mara kwa mara
What is Constitutional AI?
AI ya Kikatiba ni mbinu ya Anthropic ya kuoanisha miundo kwa kutumia kanuni zilizoandikwa - 'katiba' - kwa hivyo AI inakosoa na kurekebisha majibu yake badala ya kutegemea wanadamu pekee kutambulisha maudhui hatari. Inalenga kufanya mifano ya usaidizi na isiyo na madhara na kazi ndogo sana ya binadamu.
Je, ni 'katiba' gani katika AI ya Kikatiba?
Katiba ni seti iliyo wazi ya kanuni zilizoandikwa, zinazotolewa kutoka vyanzo kama hati za haki za binadamu, ambazo mtindo huo hutumia kutathmini na kuboresha majibu yake.
Je, ni tatizo gani kuu la kiwango cha RLHF ambalo AI ya Kikatiba inalenga kupunguza?
Kwa kuwa na mtindo wa kujikosoa wenyewe dhidi ya kanuni, AI ya Kikatiba inapunguza kazi ya binadamu ya kukagua na kuweka lebo matokeo yanayosumbua au hatari.
Katika hatua inayosimamiwa ya AI ya Kikatiba, mtindo huo hufanya nini kwa matokeo yake yenyewe?
Muundo huu huendesha kitanzi cha kukosoa na kusahihisha: hubainisha pale ambapo rasimu yake inakiuka kanuni ya sampuli, kisha huandika jibu upya, na kuunda data ya mafunzo iliyojiboresha.
Je, RLAIF inasimamia nini katika hatua ya uimarishaji-kujifunza?
RLAIF ina maana ya Kuimarisha Mafunzo kutoka kwa Maoni ya AI: kielelezo kinaorodhesha majibu kulingana na katiba, na kutoa data ya mapendeleo inayozalishwa na AI badala ya lebo za kibinadamu.
Kwa nini matumizi ya kanuni zilizoandikwa huchukuliwa kuwa faida kwa uwazi?
Kwa sababu thamani elekezi zimeandikwa, zinaweza kukaguliwa, kukaguliwa na kuhaririwa moja kwa moja, tofauti na mapendeleo yaliyosimbwa kwa njia isiyo dhahiri katika ukadiriaji uliotawanyika wa binadamu.