Kini o ṣẹlẹ
The Guardian Ijabọ pe iwe kan ti akole “Kini ti adaṣe AI R&D ba nfa bugbamu oye” ni a kọwe nipasẹ awọn aṣáájú-ọnà AI Geoffrey Hinton ati Yoshua Bengio, pẹlu Jack Clark ti Anthropic ati Jakub Pachocki ti OpenAI. Awọn onkọwe ṣe apejuwe “bugbamu ọgbọn” bi isare iyalẹnu ti ilọsiwaju AI, fisinuirindigbindigbin awọn ọdun ti idagbasoke sinu awọn oṣu tabi kere si, ti o ni idari nipasẹ awọn eto AI ti o le mu ara wọn dara laisi titẹ eniyan — ilana kan ti wọn pe ni ilọsiwaju ara-ẹni atunṣe. Iwe naa jiyan pe ni kete ti awọn eto AI ba de agbara ipele-iwé ni iwadii AI, olupilẹṣẹ kan le paṣẹ fun oṣiṣẹ kan ti o dọgba si “awọn miliọnu” ti awọn oniwadi eniyan ti o ga julọ. O kilọ pe iru oju iṣẹlẹ le ṣe idẹruba iṣakoso eniyan, ba awọn sọwedowo agbara jẹ, ati ki o jẹ ki idagbasoke iyara ti isedale tabi awọn irokeke ori ayelujara ṣiṣẹ. Lati dinku awọn ewu wọnyi, awọn onkọwe ṣeduro awọn pataki eto imulo mẹta: (1) nilo awọn ijabọ ilọsiwaju sihin lori R&D ti o ni ibatan AI ati ifibọ awọn aṣayẹwo ominira ni awọn ile-iṣẹ AI; (2) wiwa awọn ọna lati ṣe idiwọ iyara ti idagbasoke AI, pẹlu awọn opin lori bii iyara AI ṣe le mu dara; ati (3) ngbaradi awọn eto idahun pajawiri fun bugbamu oye. Anthropic ati OpenAI ti gba tẹlẹ si awọn igbelewọn ominira ti awọn awoṣe wọn, ati pe awọn ile-iṣẹ mejeeji ṣe akiyesi pe AI ni bayi ṣe ipin nla ti koodu tirẹ ati lo awọn aṣoju adase fun ikẹkọ awoṣe.
Ijabọ naa, ti a kọ nipasẹ Geoffrey Hinton, Yoshua Bengio, Jack Clark, Jakub Pachocki, ati awọn oluranlọwọ afikun, ṣe agbekalẹ bugbamu oye bi iyara, imudara ilọsiwaju ti AI ti o le fun awọn ọdun idagbasoke sinu awọn oṣu. O tẹnumọ ilọsiwaju ti ara ẹni loorekoore bi ẹrọ akọkọ, nibiti awọn eto AI ṣe imudara awọn agbara tiwọn.
Awọn onkọwe tọka si awọn aṣa lọwọlọwọ: Anthropic Ijabọ pe AI bayi kọ nipa 80% ti koodu tirẹ, lakoko ti OpenAI gba awọn aṣoju adase fun awọn iṣẹ ṣiṣe bii ikẹkọ awọn awoṣe tuntun. Awọn apẹẹrẹ wọnyi ṣe apejuwe agbara dagba fun AI lati ṣe iwadii laisi abojuto eniyan taara.
Awọn iṣeduro eto imulo fojusi lori awọn ọwọn mẹta: ijabọ sihin pẹlu awọn oluyẹwo ominira ti a fi sinu awọn ile-iṣẹ AI; awọn ihamọ lori iyara ti ilọsiwaju AI (fun apẹẹrẹ, awọn bọtini lori idagbasoke iṣiro tabi iṣiro awoṣe); ati idagbasoke awọn ero idahun pajawiri fun awọn oju iṣẹlẹ nibiti bugbamu oye kan bẹrẹ.
Mejeeji Anthropic ati OpenAI ti ṣe adehun tẹlẹ si awọn igbelewọn ominira ti awọn awoṣe wọn, ti n ṣe afihan ifẹ lati ṣe alabapin pẹlu ipe iwe fun abojuto ita.
Awọn alaye orisun: theguardian.com ↗
Kini idi ti o ṣe pataki
Iwe naa gbe ireti dide pe adaṣe adaṣe ti AI ti iwadii le Titari awọn agbara si awọn ipele ti o ju eniyan lọ ni iyara ju awọn ilana iṣakoso lọwọlọwọ le ṣe deede. Ti bugbamu oye ba waye, window fun idasi eto imulo ti o munadoko le sunmọ ni iyara, nlọ awọn ipinlẹ, awọn ile-iṣẹ, ati awọn awujọ jẹ ipalara si awọn iṣipopada agbara ti a ko ṣayẹwo ati awọn irokeke aabo aramada. Awọn onkọwe n tẹnuba pe botilẹjẹpe akoko akoko ko ni idaniloju, agbara fun iyara, idagbasoke AI adase jẹ ki abojuto alaapọn ṣe pataki. Nipa pipe fun ijabọ sihin ati awọn iṣayẹwo ominira, ijabọ naa n wa lati ṣẹda awọn ọna ṣiṣe iṣiro ṣaaju ki imọ-ẹrọ to de aaye kan nibiti abojuto eniyan di alaiṣe. Ikilọ naa tun ṣe afihan pe awọn ọna aabo ti o wa tẹlẹ le ko to, bi mejeeji Anthropic ati OpenAI jẹwọ ipa ti ndagba ti AI ni awọn opo gigun ti ara wọn.
Bugbamu oye le yipada ni ipilẹṣẹ iwọntunwọnsi agbara laarin awọn ipinlẹ, awọn ile-iṣẹ, ati awọn ẹni-kọọkan, ṣiṣe awọn ẹya ijọba ti o wa tẹlẹ ti atijo.
Iyara, idagbasoke AI adase le kọja agbara awọn olutọsọna lati ṣe ayẹwo ati dinku awọn eewu ti o nwaye, pẹlu ṣiṣẹda awọn ohun ija ti ara ẹni tabi awọn ohun ija cyber.
Itọkasi iwe naa lori ijabọ sihin ati awọn iṣayẹwo ominira ni ifọkansi lati ṣẹda igbasilẹ ijẹrisi ti ilọsiwaju AI, eyiti o le ṣe pataki fun isọdọkan ati igbẹkẹle kariaye.
Paapaa ti akoko aago fun bugbamu kan ba wa ni idaniloju, awọn onkọwe jiyan pe igbese ni kutukutu jẹ pataki nitori window fun idasi imunadoko le tii ni kiakia ni kete ti awọn eto AI ilọsiwaju ti ara ẹni ba de opin pataki kan.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Kini lati wo tókàn
Awọn olupilẹṣẹ eto imulo yoo ṣe ariyanjiyan bii wọn ṣe le ṣe imuse awọn iṣeduro iwe, pẹlu ofin ti n paṣẹ awọn ifitonileti ilọsiwaju AI-R&D deede ati ṣiṣẹda awọn ẹgbẹ iṣayẹwo ominira. Ṣọra fun awọn alaye lati awọn ọfiisi igbimọ AI ti orilẹ-ede, ni pataki ni Amẹrika, Yuroopu, ati China, lori boya wọn yoo gba awọn ilana “idaduro” tabi awọn opin iyara fun idagbasoke AI. Awọn idahun ile-iṣẹ yoo jẹ pataki: Anthropic, OpenAI, ati awọn ile-iṣẹ aṣaaju miiran le faagun abojuto inu tabi ṣatunṣe awọn akoko imuṣiṣẹ wọn. Lakotan, ṣe abojuto eto-ẹkọ ati awọn itupale ero-ojò ti o ṣe agbero iṣeeṣe ti bugbamu itetisi ati daba awọn aabo imọ-ẹrọ, nitori iwọnyi le ṣe apẹrẹ awọn iṣedede ilana ọjọ iwaju.
Awọn igbero isofin ni awọn agbegbe pataki ti o ṣafikun ijabọ AI-R&D dandan ati awọn ibeere iṣayẹwo.
Awọn ikede ile-iṣẹ lati OpenAI, Anthropic, ati awọn ile-iṣẹ aṣaaju miiran nipa awọn ilana aabo inu inu tuntun tabi da duro lori awọn ọna iwadii kan.
Awọn apejọ kariaye, gẹgẹbi Apejọ Ijọba AI Agbaye, nibiti awọn ijọba le jiroro awọn opin ipoidojuko lori iyara idagbasoke AI.
Iwadi ile-ẹkọ ti boya ṣe atilẹyin tabi koju iṣeeṣe ti bugbamu itetisi igba isunmọ, ti o ni ipa awọn ijiyan eto imulo.