t'olofin AI
AI t'olofin jẹ ọna Anthropic fun tito awọn awoṣe nipa lilo awọn ipilẹ ti a kọ silẹ — 'Orilẹede' kan - nitorinaa AI ṣe atako ati ṣe atunwo awọn idahun tirẹ dipo gbigbekele eniyan nikan lati ṣe aami akoonu ipalara.
Akopọ
O ni ero lati ṣe awọn awoṣe ti o wulo ati laiseniyan pẹlu iṣẹ eniyan ti o kere ju.
Jin Dive
Titete aṣa da lori ikẹkọ imuduro lati inu esi eniyan (RLHF), nibiti eniyan ṣe ipo ọpọlọpọ awọn abajade awoṣe, pẹlu awọn idamu, lati kọ awoṣe kini lati yago fun. AI t’olofin dinku ẹru yẹn nipa fifun awoṣe ni atokọ ti o fojuhan ti awọn ipilẹ kikọ ti a fa lati awọn orisun bii Ikede UN ti Awọn Eto Eda Eniyan ati awọn iṣe igbẹkẹle-ati-aabo ti o dara julọ. Ikẹkọ ni awọn ipele meji. Ni akọkọ, ipele ti a ṣe abojuto: awoṣe ṣe agbejade esi, lẹhinna ṣofintoto rẹ lodi si ilana t’olofin kan ati tun kọwe si dara julọ; awọn idahun ti o ni ilọsiwaju ti ara ẹni ni a lo lati ṣe atunṣe daradara. Ni ẹẹkeji, ipele ikẹkọ-imuduro, RLAIF, nibiti awoṣe funrararẹ ṣe ipo awọn orisii awọn idahun ni ibamu si ofin, ati pe data yiyan ti AI ti ipilẹṣẹ kọ awoṣe ere kan. Awọn ilana jẹ ṣiṣafihan ati ṣiṣatunṣe, ṣiṣe awọn iye idari awoṣe ni ayẹwo kuku ju ti o farapamọ inu awọn aami eniyan akomo.
Imọ-imọ-ẹrọ
Awọn ipele meji naa ni a npe ni SL-CAI ati RL-CAI nigbagbogbo. Ninu ẹkọ ti a ṣe abojuto, ‘ariwo-ati-atunṣe’ loop tọ awoṣe naa lati wa nibiti idahun tirẹ ba tako ilana ti a ṣe ayẹwo ki o tun kọ, ṣiṣe data ikẹkọ laisi isamisi ipalara eniyan. Ni ipele RL, awọn onidajọ awoṣe keji eyiti ninu awọn idahun meji dara julọ tẹle ofin t’olofin, ti n ṣe agbejade awọn aami ayanfẹ AI (RLAIF) ti o ṣe ikẹkọ awoṣe ere ti a lo ni boṣewa RL. Orileede naa jẹ itoni-ọrọ ti o ni itasi ti abẹrẹ sinu awọn itasi, nitorinaa yiyipada ihuwasi awoṣe le jẹ taara bi ṣiṣatunṣe awọn ipilẹ.
Ipa Ilana
Iyara ati iwọn
Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
Wiwọle ati arọwọto
O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
Awọn ipinnu diẹ sii
Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ojo iwaju ti t'olofin AI
AI t’olofin tọka si “abojuto iwọn,” nibiti AI ṣe iranlọwọ lati ṣe abojuto AI bi awọn awoṣe ti dagba ni agbara pupọ fun eniyan lati ṣayẹwo gbogbo iṣelọpọ. Reti ni oro sii, awọn ilana ofin nuanced diẹ sii, ti gbogbo eniyan ati igbewọle ikopa ninu eyiti awọn ipilẹ ti yan (Anthropic ti ṣiṣẹ awọn adanwo 'collective constitutional AI'), ati awọn isunmọ arabara ni idapọ awọn esi eniyan pẹlu asọye ara-ẹni AI. Itumọ ti awọn ipilẹ kikọ jẹ ki eyi wuni si awọn olutọsọna ati awọn aṣayẹwo ti nfẹ lati rii awọn iye ti eto n ṣe koodu. Bi awọn awoṣe aala ti nlọsiwaju, awọn ọna ti o jẹ ki awọn awoṣe ṣe ibawi ti o gbẹkẹle ati ilọsiwaju ara wọn lodi si awọn ofin ti o han gbangba yoo jẹ aringbungbun si ailewu.
Real-World imuse
Ikẹkọ chatbot kan lati kọ lati ṣe iranlọwọ lati kọ ohun ija kan nipa jijẹ ki o ṣe ibawi idahun ti ara rẹ lodi si ilana yago fun ipalara ki o tun kọ
Rirọpo iye owo iye owo pupa-ẹgbẹ eniyan ti awọn abajade majele pẹlu data ayanfẹ ti AI ti ipilẹṣẹ (RLAIF) ni itọsọna nipasẹ ofin
Ṣiṣatunṣe ilana kikọ lati ṣatunṣe bawo ni awoṣe ṣe ṣọra, lẹhinna akiyesi iyipada ihuwasi laisi isọdọtun ẹgbẹẹgbẹrun awọn apẹẹrẹ
Ṣiṣe awọn adaṣe igbewọle akojọpọ nibiti gbogbo eniyan ṣe gbero awọn ipilẹ ti o ṣe agbekalẹ ofin awoṣe
Awọn ewu & Awọn ọna iṣọ
Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Ilana Ilana imuse
Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Constitutional AI quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Ilana Tuning
Awọn ibeere ti a beere nigbagbogbo
Kini Constitutional AI?
AI t'olofin jẹ ọna Anthropic fun tito awọn awoṣe nipa lilo awọn ipilẹ ti a kọ silẹ — 'Orilẹede' kan - nitorinaa AI ṣe atako ati ṣe atunwo awọn idahun tirẹ dipo gbigbekele eniyan nikan lati ṣe aami akoonu ipalara. O ṣe ifọkansi lati jẹ ki awọn awoṣe ṣe iranlọwọ ati laiseniyan pẹlu iṣẹ eniyan ti o kere pupọ.
Kini 'ofin' ni AI t'olofin?
Orileede naa jẹ ipilẹ ti o han gbangba ti awọn ipilẹ kikọ, ti a fa lati awọn orisun bii awọn iwe aṣẹ ẹtọ eniyan, ti awoṣe nlo lati ṣe iṣiro ati ilọsiwaju awọn idahun rẹ.
Iṣoro bọtini wo pẹlu boṣewa RLHF ṣe ero t’olofin AI lati dinku?
Nipa nini ibawi awoṣe funrararẹ lodi si awọn ipilẹ, AI t’olofin ge idinku lori iṣẹ eniyan ti atunwo ati isamisi idamu tabi awọn abajade ipalara.
Ni ipele abojuto ti AI t’olofin, kini awoṣe ṣe si iṣelọpọ tirẹ?
Awoṣe naa n ṣiṣẹ atako-ati-atunyẹwo lupu: o ṣe idanimọ ibi ti akọwe rẹ ti ṣẹ ilana apẹẹrẹ, lẹhinna tun ṣe idahun, ṣiṣẹda data ikẹkọ ti ara ẹni ilọsiwaju.
Kini RLAIF duro fun ni ipele imuduro-ẹkọ?
RLAIF tumọ si Ẹkọ Imudara lati Idahun AI: awoṣe kan ṣe awọn idahun ni ibamu si ofin t’olofin, ti n ṣe agbejade data ayanfẹ AI ti ipilẹṣẹ dipo awọn aami eniyan.
Kini idi ti lilo awọn ilana ti a kọ silẹ jẹ anfani fun akoyawo?
Nitoripe awọn iye itọsọna ti kọ jade, wọn le ṣe ayẹwo, ṣayẹwo, ati ṣatunkọ taara, ko dabi awọn ayanfẹ ti a fi koodu pamọ sinu awọn iwọntunwọnsi eniyan tuka.