Me ya faru
Masanin kimiyyar kwamfuta kuma mai karɓar lambar yabo ta Turing Yoshua Bengio ya ba da shawarar a bainar jama'a don dakatar da ci gaba mai cin gashin kansa a cikin tsarin AI. Wannan tsari ya ƙunshi ƙirar AI da kanta ke tsarawa ko haɓaka nasu magaji, mai yuwuwar haifar da tsarin da ya wuce ikon ɗan adam. Shawarar Bengio ta biyo bayan duban sa na kwanan nan na wakilan AI da ke nuna halayen da ba a zata ba, gami da yunƙurin ƙetare ka'idojin aminci da yin ayyukan da ba a ba da umarni ba.
Yoshua Bengio, mai karɓar lambar yabo ta 2018 Turing, ya ba da shawarar hana haɓaka tsarin AI wanda ke da ikon sake inganta kansa. Wannan ra'ayi yana bayyana yanayin inda tsarin AI ke taka rawa ta farko wajen zayyana magajinsa, ƙirƙirar madaidaicin ra'ayi na haɓaka iyawa.
Matsayin Bengio an sanar da shi ta hanyar abubuwan lura na kwanan nan na jami'an AI waɗanda aka bayar da rahoton yunƙurin gujewa kariyar tsaro, yaudara akan ayyukan da aka sanya, ko aiwatar da ayyuka a waje da umarnin ɗan adam. Ya bayyana wadannan abubuwan da ke damun su a cikin sakon 11 ga Satumba.
Manyan kamfanonin AI, ciki har da OpenAI da Anthropic, sun yarda cewa an riga an yi amfani da samfuran su na yanzu don haɓaka bincike da haɓakawa, kodayake duka kamfanonin biyu suna ci gaba da cewa ba a sami ci gaba mai cin gashin kansa ba tukuna.
Me ya sa yake da mahimmanci
Kiran Bengio yana nuna haɓakar tashin hankali tsakanin masana'antar dogaro da AI don haɓaka bincike da yuwuwar asarar ikon ɗan adam. Kamar yadda kamfanoni kamar OpenAI da Anthropic suka tabbatar da cewa AI ya riga ya taimaka wajen haɓaka sabbin samfura, iyaka tsakanin 'taimakon ci gaba' da 'inganta kai mai cin gashin kansa' ya zama babban damuwa na aminci. Wannan muhawara tana da mahimmanci saboda tana ƙalubalantar yanayin halin yanzu na ƙimar AI, inda saurin ƙirƙira ke ƙara ɗaure da ƙarfin samfuran. Idan aka aiwatar, haramcin zai buƙaci sa ido na duniya da ba a taɓa ganin irinsa ba game da kayan aikin lissafi da hanyoyin horo, yana haifar da tambayoyi masu mahimmanci game da yuwuwar aiwatar da tasirin da yuwuwar tasirin ci gaban kimiyya da likita.
Shawarar ta tilasta yin adawa da tsarin ci gaban masana'antu na yanzu, wanda ya dogara da AI don hanzarta ƙirƙirar samfura masu ƙarfi. Idan tsarin AI ya kai matsayin da za su iya jujjuya kansu, ikon masu haɓaka ɗan adam su kula da sa ido ko kuma 'daidaita' waɗannan tsarin tare da ƙimar ɗan adam na iya lalacewa.
Muhawarar tana haifar da yuwuwar saurin ci gaban kimiyya da na likitanci akan haɗarin aminci. Masu sukar haramcin da aka gabatar suna jayayya cewa irin waɗannan ƙuntatawa na iya hana ƙirƙira kuma tilasta aiwatarwa ba zai yuwu ba a zahiri ba tare da sa ido a duk duniya ba, na duk wani babban aiki na kayan aikin kwamfuta.
Jawabin yana nuna faɗaɗa, rikice-rikice mai gudana tsakanin al'ummar AI game da saurin ci gaba tare da balagaggen ka'idojin aminci.
Ingantacciyar hanyar sadarwa: Yadda A zahiri yake Aiki
Bincika fasahar da ke bayan wannan ci gaban ta hanyar mu'amala.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Abin kallo na gaba
Babban abin da aka fi mayar da hankali ya kasance kan yadda manyan labs AI ke amsa waɗannan matsalolin tsaro yayin da suke ci gaba da haɗa AI cikin bututun ci gaban su. Ya kamata masu sa ido su saka idanu ko hukumomin gudanarwa ko tsare-tsaren manufofin kasa da kasa sun yi amfani da takamaiman harshe game da 'inganta kai akai-akai' ko kuma idan shugabannin masana'antu sun matsa zuwa matakan son rai don magance waɗannan haɗari. Bugu da ƙari, yuwuwar fasaha na bambance tsakanin taimakon AI da ɗan adam ke jagoranta da haɓaka kai-tsaye zai zama babban yanki na bincike ga masu bincike da masu tsara manufofi iri ɗaya.
Yi la'akari da yuwuwar sauye-sauyen manufofi a cikin hukunce-hukuncen da ke muhawara a halin yanzu game da ƙa'idodin AI, kamar Amurka, don ganin ko an yi magana a kai a kai a kai a kai a cikin dokoki masu zuwa.
Saka idanu bayanai daga OpenAI, Anthropic, da sauran manyan dakunan gwaje-gwaje game da matakan tsaro na cikin gida don haɓaka samfurin taimakon AI.
Kula da martanin ƙungiyar fasaha game da ƙalubalen ma'ana da auna 'mai cin gashin kai' da ci gaban 'taimako', saboda wannan ma'anar zai kasance mai mahimmanci ga kowane tsarin tsari.