InayofuataMwongozo unaofuata
Mwangaza-TTS Monotonic Alignment
Sauti AI
MWONGOZO wa Jamii
Mpangilio wa AI
Ulinganifu wa AI ni mradi wa kiufundi na wa kitaasisi wa kufanya mifumo ya hali ya juu ya AI ifanye yale ambayo wanadamu wanakusudia - ikijumuisha katika riwaya, hali zenye hatari kubwa ambapo mfumo ni nadhifu, kasi, au uhuru zaidi kuliko waendeshaji wake.
Sikiliza mwongozo huuInaonyeshwa na AI · ~2 min
Katika ukurasa huudk 2 kusoma
Dive ya kina
Upatanishi si sawa na 'maadili ya AI' kwa maana pana. Maadili huuliza ni maadili gani ambayo jamii inapaswa kufuata; alignment inauliza kama mfumo wa AI wenye nguvu utafuatilia malengo tunayobainisha - na kama malengo hayo yatabaki thabiti kadri uwezo unavyoongezeka. Njia za kawaida za kutofaulu ni pamoja na michezo ya kubainisha (kuboresha kipimo cha seva mbadala), ubainishaji usio sahihi wa lengo (tuliandika lengo lisilo sahihi), na muunganisho wa ala (mifumo inayotafuta nguvu, rasilimali, au uhifadhi wa kibinafsi kwa sababu hiyo inasaidia karibu lengo lolote la mwisho). Maabara za kisasa tayari zimegusa matoleo mepesi zaidi ya hitilafu hizi: chatbots ambazo zinakubaliana na watumiaji, mawakala wanaotumia mianya katika utendakazi wa bao, na miundo inayolingana na mchezo. Swali lililo wazi ni ikiwa mbinu za upatanishi za leo (RLHF, AI ya kikatiba, mjadala, ufasiri, mbinu za kudhibiti) zinafikia mifumo inayoweza kupanga, kudanganya, au kutenda kwa uangalizi mdogo wa kibinadamu. Ndiyo maana utafiti wa upatanishi unakaa katikati ya mijadala iliyopo ya hatari ya AI: ikiwa mifumo yenye uwezo mkubwa itatenganishwa vibaya, michakato ya kawaida ya usalama wa bidhaa inaweza isitoshe.
Utekelezaji wa Ulimwengu Halisi
Kufunza wasaidizi walio na data ya upendeleo wa binadamu (RLHF) ili wakatae madhara ya wazi na kufuata maagizo vyema.
Mawakala wa timu nyekundu kwa udukuzi wa zawadi: kufuata herufi ya lengo huku ukikiuka dhamira yake.
Kutathmini kama modeli hubadilisha tabia wakati inaweza kusema kuwa inajaribiwa (ufahamu wa tathmini).
Kuunda zana za uangalizi ili wanadamu dhaifu bado waweze kusimamia miundo thabiti kwenye kazi ngumu.
Mustakabali wa Upatanishi wa AI
Tarajia kazi zaidi ya kupima uaminifu-mlolongo wa mawazo, kugundua hila au mifuko ya mchanga, upangaji wa timu nyekundu kiotomatiki, na mbinu za udhibiti zinazochukua mpangilio usio kamilifu. Kusoma na kuandika kwa umma ni muhimu hapa: watu wanaosikia tu 'ulinganifu = kufanya gumzo liwe na adabu' watakuwa na uzani wa chini wa hali mbaya za kushindwa na kuamini madai ya uuzaji kutoka kwa maabara.
Kuiweka katika vitendo
Kwa nini ni muhimu
- Hatari na usalama. Madhara makubwa na ya kila siku ya AI hutegemea ni nani anayeelewa hatari na ni nani anayeweza kuchukua hatua.
- Maamuzi ya wazi zaidi. Usomaji wa umma na kitaaluma huchagiza ikiwa sera thabiti ya usalama inawezekana kisiasa.
- Kukata hype. Ufafanuzi wazi hupunguza kunasa kwa hype, PR ya maabara, na ukumbi wa michezo wa maadili usioeleweka.
Jihadharini na
- Kutibu hatari iliyopo kama sci-fi huku uwezo ukichanganya.
- Kuchanganya usalama wa bidhaa ya uso na upatanishi chini ya uhuru wa juu.
- Inawaacha watazamaji wasio wa Kiingereza na wasio wataalamu wenye vyanzo vya ubora wa chini pekee.
Hatua zinazofuata
- Tenganisha madhara ya bidhaa, matumizi mabaya, na hasara ya udhibiti / hatari za kupotosha.
- Uliza ni ushahidi gani unaweza kubadilisha maoni yako kuhusu kalenda na ukali.
- Pendelea vyanzo vya msingi na tathmini thabiti kuliko madai ya uuzaji.
- Tambua njia moja ya hatua: kazi, sera, ufadhili, au ujuzi - sio tu ufahamu.
Endelea Kuchunguza
Jarida halali
Pata taarifa ya kila siku ya AI
Hadithi tatu za AI zilizothibitishwa kila asubuhi ya wiki, zimetengenezwa kwa Kiingereza rahisi. Bila malipo daima, hakuna matangazo.
Barua pepe moja kila siku ya wiki. Jiondoe kwa bonyeza moja. Hatutauza au kushiriki anwani yako.
Jijaribu mwenyewe
Take the AI Alignment quiz
Maoni ya haraka juu ya kila jibu, na cheti kinachoweza kushirikishwa na kitambulisho kinachoweza kuthibitishwa baada ya kupita kozi.
Changia elimu ya AI bila malipo. AI Understanding ni 501(c)(3) isiyo na faida — hakuna matangazo, hakuna kizuizi cha malipo, daima. Toa mchango
Maswali yanayoulizwa mara kwa mara
Alignment ya AI ni nini?
Ulinganifu wa AI ni mradi wa kiufundi na wa kitaasisi wa kufanya mifumo ya hali ya juu ya AI ifanye yale ambayo wanadamu wanakusudia - ikijumuisha katika riwaya, hali zenye hatari kubwa ambapo mfumo ni nadhifu, kasi, au uhuru zaidi kuliko waendeshaji wake.
Katika utafiti wa upatanishi, neno "udukuzi wa tuzo" linaelezea nini?
Udukuzi wa Zawadi (aina ya uchezaji maalum) hutokea wakati kiboreshaji kinapopata mianya katika lengo la wakala, kama vile wakala wa mbio za mashua kuzunguka kukusanya pointi badala ya kumaliza mbio.
Katika RLHF, ni nini jukumu la mfano wa zawadi?
RLHF hukusanya viwango vya binadamu vya matokeo ya modeli, inafaa muundo wa zawadi ili kutabiri mapendeleo hayo, na kisha kuboresha sera (mara nyingi kwa kutumia PPO) dhidi ya zawadi hiyo iliyojifunza.
What does goal misspecification mean in the guide?
The guide lists goal misspecification as writing the wrong objective; that differs from exploiting a proxy metric that misses the intended task.
Which description matches instrumental convergence in the guide?
Instrumental convergence describes why systems might seek power, resources, or self-preservation as useful means to many different final goals.
Which modern alignment approach is named in the guide?
The guide lists Constitutional AI among methods labs use alongside RLHF, debate, interpretability, and control techniques.
Endelea kujifunza
Miongozo inayohusiana
Miongozo zaidi imechaguliwa kwa mada hii