Mtafiti wa zamani wa Anthropic anaambia watafiti wa BBC AI wanahofia mustakabali wa wanadamu

Nini kilitokea

BBC inaripoti kwamba Jacob Coxon, mtafiti wa zamani wa Anthropic na OpenAI, alionya kwamba watafiti wa AI wanahofia kasi ya maendeleo na athari zake zinazoweza kutokea kwa ubinadamu. Aliunga mkono wito wa maendeleo polepole, udhibiti na ufuatiliaji huru, wakati Anthropic ilitetea kazi yake ya usalama. Ripoti inaongeza maoni mapya kwa Mkurugenzi Mtendaji wa Anthropic Dario Amodey wito uliopo wa tahadhari zaidi.

BBC inaripoti kwamba Coxon, 27, alisema watafiti wa AI "wanaogopa kikweli" kasi ya sasa ya maendeleo na alisema kuwa ubinadamu unaweza kukabiliwa na hatari kubwa ya kufa katika siku za usoni ikiwa maendeleo hayatacheleweshwa. Alikaribisha pendekezo la Amodey la kujizuia kwa tasnia nzima lakini akasema China ingehitaji kuhusika ili kuepusha mbio za kimataifa. Haya ni maoni ya Coxon kama ilivyoripotiwa na BBC, sio utabiri ulioanzishwa kwa kujitegemea.

Ripoti hiyo inaunganisha maoni ya Coxon na insha ya Mkurugenzi Mtendaji wa Anthropic Dario Amodey, iliyochapishwa tarehe 12 kulingana na chanzo, ambacho kilisema kuwa maendeleo ya AI yenyewe sio tatizo lakini kwamba makampuni na serikali zinahitaji muda wa kushughulikia hatari kubwa. BBC pia inaripoti msaada wa kupunguza kasi ya maendeleo, udhibiti au ufuatiliaji huru kutoka kwa Mkurugenzi Mtendaji wa OpenAI Sam Altman na Mkurugenzi Mtendaji wa xAI Elon Musk.

Anthropic aliiambia BBC News kwamba imekuwa ikikubali faida kuu na hatari ambazo hazijawahi kushuhudiwa kutoka kwa AI. Msemaji wake alisema kampuni hiyo inaunda ulinzi dhabiti, kutafiti jinsi modeli zinavyofanya kazi, mifano ya majaribio ya hatari za kupotosha na kuchapisha matokeo. Chanzo hakitoi tathmini huru ya ulinzi huo.

BBC inaripoti maonyo ya ziada kutoka kwa mwanasayansi wa Anthropic Evan Hubinger na mwanasayansi wa kompyuta Geoffrey Hinton, ambao kila mmoja alitoa makadirio ya kibinafsi kuhusu uwezekano wa kutoweka kwa binadamu. Pia inaripoti ukosoaji kutoka kwa Mkurugenzi Mtendaji wa Hugging Face Clément Delanggue na Mkurugenzi Mtendaji wa Kitivo Marc Warner, ambao walisema uwezekano kama huo ni ngumu kubaini. Chanzo hakina ushahidi wa kiufundi unaothibitisha yoyote ya makadirio haya.

Maelezo ya chanzo: bbc.com ↗

Kwa nini ni muhimu

Ripoti hiyo ni muhimu kwa sababu inaandika kuongezeka kwa kutokubaliana kwa umma ndani na karibu na kampuni zinazoongoza za AI kuhusu kama maendeleo yanakwenda kwa kasi zaidi kuliko kazi ya usalama na uangalizi wa serikali. Mapendekezo ya vitendo yaliyoelezewa ni uwekaji polepole wa miundo yenye nguvu, ufuatiliaji huru na uratibu wa kimataifa, ikijumuisha na Uchina. Hata hivyo, madai makali zaidi ni utabiri au makadirio ya kibinafsi, si matokeo yaliyoonyeshwa kwa kujitegemea. Chanzo hakithibitishi kuwa kutoweka kumekaribia, kubainisha hatari iliyothibitishwa, au kuonyesha kuwa serikali au kampuni yoyote imepitisha vikwazo vipya.

Huu ni maendeleo yenye maana ya usalama wa AI kwa sababu akaunti ya umma ya mfanyakazi wa zamani inawasilishwa pamoja na wito wa kiongozi wa kampuni wa maendeleo na ulinzi wa polepole. Kwa pamoja, taarifa zinaonyesha kwamba wasiwasi hauko kwa wakosoaji wa nje tu, ingawa ripoti haipimi jinsi maoni haya yanawakilisha kati ya watafiti wa AI.

Maana ya vitendo ni kwamba hoja za usalama zinaweza kuathiri zaidi utawala wa kutolewa, udhibiti na uratibu wa kimataifa. Matokeo hayo yanasalia kuwa tarajiwa: chanzo hakiripoti sheria mpya, makubaliano, kusitisha utumaji au tukio lililothibitishwa kwa kujitegemea. Hakuna masharti ya upatikanaji wa bidhaa au bei ni muhimu au kumbukumbu.

Nini cha kutazama baadaye

Tazama sera madhubuti au vitendo vya kampuni kufuatia wito wa vizuizi: mahitaji rasmi ya ufuatiliaji, vikomo vya kusambaza, makubaliano ya kimataifa, au mabadiliko ya michakato ya kutoa modeli. Chanzo hakiandiki bidhaa mpya, mabadiliko ya ufikiaji, bei, matokeo ya mtihani wa usalama au sera ya kisheria. Pia haithibitishi kwa kujitegemea uwezekano wa kutoweka uliotajwa na waliohojiwa au kubainisha muda wa mahojiano yaliyoripotiwa kuhusiana na dirisha la sasa la saa 96.

Iwapo Anthropic au makampuni mengine ya AI yanageuza wito wa kujizuia kuwa mbinu zinazoweza kuthibitishwa, kama vile ufuatiliaji wa modeli huru, viwango vya juu vya tathmini vilivyochapishwa au matoleo ya polepole.

Iwapo serikali hujibu kwa sheria maalum au majadiliano ya kimataifa badala ya kauli za jumla kuhusu ushindani na hatari ya AI.

Iwe utafiti huru wa kiufundi unaunga mkono, kupunguza au kutoa changamoto kwa makadirio ya hatari yaliyonukuliwa katika ripoti. Chanzo hakitoi ushahidi wa kutosha kutatua mzozo huo.

Maandishi asilia hayajumuishi tarehe ya kuchapishwa, kwa hivyo urejeshaji wa mahojiano ya kimsingi hauwezi kuthibitishwa kivyake kutoka kwa nyenzo iliyotolewa.

Miongozo & maswali yanayohusiana