Kini o ṣẹlẹ
BBC sọ pe Jacob Coxon, ti tẹlẹ Anthropic ati oluwadi OpenAI, kilo pe awọn oluwadi AI bẹru iyara ti idagbasoke ati awọn ipa ti o ṣeeṣe lori eda eniyan. O ṣe atilẹyin awọn ipe fun idagbasoke ti o lọra, ilana ati ibojuwo ominira, lakoko ti Anthropic ṣe aabo iṣẹ aabo rẹ. Ijabọ naa ṣafikun awọn aati tuntun si Anthropic CEO Dario Amodey ti wa tẹlẹ ipe fun iṣọra nla.
BBC sọ pe Coxon, 27, sọ pe awọn oniwadi AI ni "ẹru nitootọ" ti ilọsiwaju ti ilọsiwaju lọwọlọwọ ati jiyan pe eda eniyan le dojuko ewu ti o ga julọ ti ku ni ọjọ iwaju ti o sunmọ ti idagbasoke ko ba fa fifalẹ. O ṣe itẹwọgba imọran Amodey fun ihamọ ile-iṣẹ jakejado ṣugbọn sọ pe China yoo nilo lati kopa lati yago fun ere-ije kariaye. Iwọnyi jẹ awọn iwo Coxon bi BBC ṣe royin, kii ṣe awọn asọtẹlẹ ti a fi idi mulẹ ni ominira.
Ijabọ naa so awọn asọye Coxon si arosọ nipasẹ Anthropic CEO Dario Amodey, ti a tẹjade lori 12th ni ibamu si orisun naa, eyiti o jiyan pe idagbasoke AI funrararẹ kii ṣe iṣoro ṣugbọn awọn ile-iṣẹ ati awọn ijọba nilo akoko lati koju awọn ewu pataki. BBC tun ṣe ijabọ atilẹyin fun idinku idagbasoke, ilana tabi ibojuwo ominira lati ọdọ OpenAI CEO Sam Altman ati Alakoso xAI Elon Musk.
Anthropic sọ fun BBC News pe o ti jẹwọ nigbagbogbo awọn anfani pataki mejeeji ati awọn eewu airotẹlẹ lati ọdọ AI. Agbẹnusọ rẹ sọ pe ile-iṣẹ n dagbasoke awọn aabo to lagbara, ṣiṣe iwadii bii awọn awoṣe ṣe n ṣiṣẹ, awọn awoṣe idanwo fun awọn eewu aiṣedeede ati awọn abajade atẹjade. Orisun ko pese igbelewọn ominira ti awọn aabo wọnyẹn.
BBC ṣe ijabọ awọn ikilọ afikun lati ọdọ onimọ-jinlẹ Anthropic Evan Hubinger ati onimọ-jinlẹ kọnputa Geoffrey Hinton, ti ọkọọkan fun awọn iṣiro ti ara ẹni nipa iṣeeṣe iparun eniyan. O tun ṣe ijabọ ibawi lati ọdọ Hugging Face CEO Clément Delangue ati Alakoso Oluko Marc Warner, ti o sọ pe iru awọn iṣeeṣe bẹẹ nira lati fi idi mulẹ. Orisun naa ko ni ẹri imọ-ẹrọ ti n fọwọsi eyikeyi awọn iṣiro wọnyi.
Kini idi ti o ṣe pataki
Ijabọ naa ṣe pataki nitori pe o ṣe akosile ariyanjiyan gbogbo eniyan ti o pọ si inu ati ni ayika awọn ile-iṣẹ AI ti o darí boya idagbasoke n lọ ni iyara ju iṣẹ aabo ati abojuto ijọba lọ. Awọn igbero ti o wulo ti a ṣapejuwe jẹ imuṣiṣẹ losokepupo ti awọn awoṣe ti o lagbara, ibojuwo ominira ati isọdọkan kariaye, pẹlu pẹlu China. Sibẹsibẹ, awọn iṣeduro ti o nira julọ jẹ awọn asọtẹlẹ tabi awọn iṣiro ti ara ẹni, kii ṣe awọn awari ti a fihan ni ominira. Orisun naa ko fi idi rẹ mulẹ pe iparun ti sunmọ, ṣe iwọn eewu ti a rii daju, tabi fihan pe eyikeyi ijọba tabi ile-iṣẹ ti gba awọn ihamọ tuntun.
Eyi jẹ idagbasoke AI-aabo ti o nilari nitori akọọlẹ gbogbo eniyan ti oṣiṣẹ tẹlẹ ti gbekalẹ lẹgbẹẹ ipe oludari ile-iṣẹ kan fun idagbasoke ti o lọra ati awọn aabo. Papọ, awọn alaye fihan pe awọn ifiyesi ko ni opin si awọn alariwisi ita, botilẹjẹpe ijabọ naa ko ṣe iwọn bi aṣoju awọn iwo wọnyi ṣe wa laarin awọn oniwadi AI.
Itumọ iṣe iṣe ni pe awọn ariyanjiyan ailewu le ni ipa siwaju si iṣakoso idasilẹ, ilana ati isọdọkan kariaye. Awọn abajade wọnyẹn wa ni ifojusọna: orisun ko ṣe ijabọ ofin tuntun, adehun, idaduro imuṣiṣẹ tabi isẹlẹ ti o jẹrisi ominira. Ko si awọn ipo iraye si ọja tabi idiyele ti o wulo tabi ti ni akọsilẹ.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
Why can ethical evaluation not be reduced to one model score?
Kini lati wo tókàn
Ṣọra eto imulo ti o nipọn tabi awọn iṣe ile-iṣẹ ti o tẹle awọn ipe fun ihamọ: awọn ibeere ibojuwo deede, awọn opin imuṣiṣẹ, awọn adehun kariaye, tabi awọn iyipada si awọn ilana itusilẹ awoṣe. Orisun naa ko ṣe akọsilẹ ọja tuntun, iyipada wiwọle, idiyele, abajade idanwo ailewu tabi eto imulo abuda. Ko tun ṣe idaniloju ominira awọn iṣeeṣe iparun ti o tọka nipasẹ awọn olufokansi tabi fi idi akoko ti awọn ifọrọwanilẹnuwo ti o royin ni ibatan si window 96-wakati lọwọlọwọ.
Boya Anthropic tabi awọn ile-iṣẹ AI miiran tan awọn ipe fun ihamọ sinu awọn iṣe iṣeṣe, gẹgẹbi ibojuwo awoṣe ominira, awọn iloro igbelewọn ti a tẹjade tabi awọn idasilẹ lọra.
Boya awọn ijọba dahun pẹlu awọn ofin kan pato tabi awọn ijiroro kariaye ju awọn alaye gbogbogbo nipa idije AI ati eewu.
Boya iwadii imọ-ẹrọ ominira ṣe atilẹyin, dín tabi koju awọn iṣiro eewu eewu ti o sọ ninu ijabọ naa. Orisun naa ko pese ẹri ti o to lati yanju ariyanjiyan yẹn.
Ọrọ orisun naa ko pẹlu ọjọ titẹjade, nitorinaa isọdọtun ti awọn ifọrọwanilẹnuwo ti o wa ni ipilẹ ko le jẹri ni ominira lati ohun elo ti a pese.