Lu xew
OpenAI xamlena ni Paul Christiano, njiitu gëstub juntuwaayu juntuwaay yu bees yi, mungi duggu ci konsilu njiit yi. Christiano mooy bokk ci kuréel gi yor kaaraange ak kaaraange, mooy yor sañ-sañ biy mujjee génne model yi. Mu wax ni dafay duggu ndax dafa gëm ni OpenAI mën na wàññi bu baax risku ñàkka mëna yor liggéey bi sudee dafa jël dogal, ci noonu mu xamle ni liggéey bi nekkul ci yoonu def loolu.
OpenAI siiwalna ci Alarba ni Paul Christiano ap gëstukat bu am doole ci juntuwaay yu bees yi ñu xame ci ligeeyam ci yamale ak saytu, mungi duggu ci kurelu OpenAI. Christiano ab defarkat bu mag la ci njàngum dooleel ci feedback nit (RLHF), ab pexem bu am solo ngir tàggat ay xeetu lakk yu mag, bimu defar bi muy liggéey ci OpenAI balaa muy dem ci 2021 ngir sos Centre Research Alignment.
Ci benn yeglekaay ci enternet bi, Christiano fësalna njaxxareem ci ni gaawaay bu gaaw ci juntuwaay yu bees yi defay jur 'risk bu am solo' bu musiiba bu rëy te munul delluwaat ci lu yaggul dara. Neena gëmul ni liggéeyukaay IA yi, boole ci OpenAI, ñu ngi ci yoon ngir wàññi risk bi ba ci dayo bu ñuy nangu, waaye dugg na ci konsilu bi ndax dafa gëm ni OpenAI mën na wàññi bu baax risk yooyu su amee jot.
Christiano dina bokk ci komite bu kaaraange ak kaaraange bu konsilu bi, ki ko jiite mooy janngalekat bu Daara bu kawe bu Carnegie Mellon Zico Kolter. Komite bii mooy mujjee wax ndax OpenAI dina génne ay model yu bees, boole ci modelu Astra biñ jota dugal. Christiano xamlena ni jafe-jafe yi xew ci jamono yii, lu ci melni ay ndawu juntuwaay yu bees yu génn ci ay tënk, duggu ci sistem yu biti te gëstukat yi xamu ñu ko, loolu dafay firndeel ni risku theorique yi ci njuumte ñu ngi gëna am solo.
Christiano mingi wéy di am lëkkaloo ak santar bu nguuru Etats Unis ngir IA Standard ak Innovation, foofu lay jàppale ci jàngat xeetu IA yu frontiere yi. Sunu sukkandikoo ci OpenAI, dina wéy di digal nguur gi ci diiru liggéeyam ci njiitu mbootaay gi waaye dina baña bokk ci mbir yu jëm ci OpenAI ak ci jàngat yi ngir moytu ay jafe-jafe ci ay entere.
Ay leeral ci cosaan: techcrunch.com ↗
Lu tax mu am solo
Randewu bii dafay màndargaal coppite bu am solo ci doxalinu nguuru OpenAI, muy tektale ŋàññikat yu mag yi ci yooni yokkuteg IA ci position bu am doole ci genne model yi. Li Christiano nekk ci njiitu liggéeykat yi, rawatina ci komite biy xool ndax model yu melni Astra dina ñu ko dugal, dafay wane ni amna ñu nangu ci biir liggéeyukaay bi ni jafe-jafe kaaraange lu am solo la ci liggéeyu liggéeyukaay bi. Muy wane itam ni jafe-jafe biy gëna yokk ci diggante yokkuteg kàttan bu gaaw ak soxla pexe yu am doole ngir saytu, ndax Christiano dafay lëkkale bu baax jafe-jafe yi xew ci agent yi ak risku theorique yu ñàkka méngoo.
Nominaasioŋ bu mag bu 'IA doomer' ci benn komite bu am kàttan weto ci genne model yi jéego bu am solo la ngir boole ay seytu kaaraange yu dëgër ci liggéey yu mag yi ci OpenAI. Dafay wane ni liggéeyukaay bi mingi tontu ci fitnaal bi ci biir ak biti ngir saafara jafe-jafe kaaraange yi ci anam wu gëna jubal, moo gën ñu jàppee leen ni ay periferik ci defar produit.
Li Christiano wara def ci komite bu kaaraange ak kaaraange mooy moom mooy jël dogal ci kañ lañuy génne model yi. Loolu munna tax ñu gina moytu ci ay jeego mbaa ay sartu kaaraange yu gina tar ngir ay model yu ëllëk, te loolu munna am njeexital ci gaawaayu sos lu bees ak am ay juntuwaay yu bees yu juntuwaay yu bees yi ci jëfandikukat yi ak ligeeyukaay yi.
Demaas bi dafay wone itam ni gëstukat yi ci kaaraange juntuwaay yu bees yi ñungi am njeriñ ci joxe leeral ci yoonu liggey bi. Su OpenAI inndi benn ŋàññikat ci mbooloo mi, mën na nekk muy jéema legalise jeegoowam ci wàllu kaaraange ak wane ni dafay liggéey ci yokkute bu am njariñ, te loolu mën na nekk lu am solo ngir mëna wéy di wóolu nit ñi ak bëgg-bëgg bu baax ci wàllu yamale.
Mekanism buy weccoo xalaat: naka lay doxee
Saytu xarala yu bees yi ci ginaaw yokkute bii ci anam wu weccoo xalaat.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Li nga wara seetaan ci topp
Xoolal ni nekkinu Christiano di amee njeexital ci dogal yi komite kaaraange ak kaaraange jël ci model yiy ñëw, rawatina lu jëm ci model Astra. Saytu bépp kàddu bu ñépp bokk bu bawoo ci Christiano wala OpenAI lu jëm ci coppite yi am ci protokolu kaaraange wala sàrti génne. Rax ci dolli, xoolal li yeneen gëstukat ci kaaraange juntuwaay yu bees yi ak defarkati politik yi toppatoo doxalin bii, ndax mënna doon ap royukaay ci ni labo frontier yi di boole ay saytu kaaraange ci seen nguur.
Saytu dogal yi komite kaaraange ak kaaraange jël ci model yiy ñëw, rawatina bepp yeexal wala yeneen sàrti kaaraange yuñ tëral ci model yu melni Astra. Li Christiano mëna def ci liggéey bi mën na tax ñu gëna leer ci rapoor yi ci wàllu kaaraange wala ñu gëna tar ci wàllu kaaraange balaa ñu koy dugal ci liggéey bi.
Seetal kàddu yu ñépp bokk yu bawoo ci Christiano ak yeneen ndaw yi bokk ci njiitu liggéeyukaay bi, lu jëm ci ni liggéeyukaay bi di doxalee ci wàllu kaaraange ak saytu. Beppu coppite ci politik mbaa jokkoo mboolo ci wallu risku IA dina doon ap firnde bu am solo ci njeextalu konsilu bi.
Seetal li askanu kaaraange IA ak ñiy tëral politik di tontu. Nominaasioŋ bi mën nañu ko jàppee ni jéego bu baax, waaye mën nañu ko xoolaat itam su fekke ni doyul wala su fekke ni ay jafe-jafe ci ay entere yu juge ci ñaari cër yu Christiano ak nguuru Amerik.