Nini kilitokea
Kulingana na BBC, mwanzilishi mwenza wa Anthropic Jack Clark alisema kampuni zinaweza kuhitajika hatimaye kudumisha AI "kuua swichi" ambazo zinaweza kuangaliwa na watu wengine huru. Clark alisema maabara nyingi za AI, pamoja na Anthropic, tayari zina njia za kufunga mifumo, lakini hakuelezea muundo wao wa kiufundi au kutoa ushahidi wa uthibitishaji huru.
BBC inaripoti kwamba Jack Clark, mmoja wa waanzilishi saba wa Anthropic, alisema jamii inaweza hatimaye kutaka sheria zinazohitaji kampuni za AI kuwa na njia ya kuzima programu kabisa ikiwa itakuwa hatari sana. Aliweka suala hilo kama sehemu ya mjadala mpana wa sera badala ya kutangaza bidhaa au sera mpya ya Anthropic.
Clark aliiambia BBC kwamba "maabara nyingi zina njia tofauti za kuweza kuvuta plagi," ikiwa ni pamoja na Anthropic. Alihoji haswa ikiwa kampuni zinapaswa kuhitajika kuwa na swichi ya kuua na ikiwa swichi hiyo inapaswa kuthibitishwa na mtu wa tatu. Ripoti haitoi maelezo ya kiufundi ya vidhibiti vya Anthropic, hakuna tathmini huru, na hakuna kiwango kilichopendekezwa cha uthibitishaji.
Maoni hayo yalikuja huku kukiwa na mjadala mpya wa umma kuhusu hatari kubwa za AI na baada ya mtendaji mkuu wa Anthropic Dario Amodei kutoa wito kwa kasi ya maendeleo ya AI kupungua na kwa maendeleo kufuatiliwa kwa karibu zaidi. BBC pia inabainisha kuwa wabunge wa Marekani wamependekeza Sheria ya Kill Switch ambayo itahitaji njia za kuzima zana zenye matatizo za AI na kuyapa mashirika fulani ya serikali mamlaka ya kutaka zana kuzimwa au kuwekewa vikwazo.
Ripoti hiyo inasema Rais wa Marekani Donald Trump amekataa majaribio ya kupunguza kasi ya maendeleo ya AI. Pia inabainisha kuwa baadhi ya takwimu za sekta zinaamini kuwa hofu kuhusu kutoweka kwa binadamu kutoka kwa AI imezidishwa au inaweza kuwa na nia ya kuleta kishindo. Maoni hayo yanatoa muktadha, lakini ripoti ya BBC haisuluhishi maswali ya msingi ya kiufundi au sera.
Kwa nini ni muhimu
Utaratibu wa kuzima wa lazima, uliothibitishwa kwa kujitegemea ungegeuza mazoezi ya usalama wa ndani kwa kiasi kikubwa kuwa hitaji la udhibiti linalowezekana. Pendekezo hilo linashughulikia swali la vitendo kuhusu udhibiti wa mifumo ya AI inayozidi kuwa na uwezo, lakini ripoti haibainishi ikiwa swichi za kuua zilizopo zitafanya kazi dhidi ya kila hali ya kutofaulu, zingeweza kufanya kazi kwa haraka kiasi gani, au ni nani angekuwa na mamlaka ya kuzianzisha.
Pendekezo hili ni muhimu kwa sababu linaangazia udhibiti unaotekelezeka badala ya rufaa ya jumla kwa AI salama. Ikikubaliwa, uthibitishaji huru unaweza kuhitaji makampuni kuonyesha kwamba mbinu za kuzima zipo, zinaweza kufikiwa na wahusika walioidhinishwa, na haziwezi kuzimwa kimya kimya. Chanzo hakisemi ikiwa mfumo wowote wa sasa unakidhi masharti hayo.
Swichi ya kuua haingeweza kushughulikia kila hatari ya AI. Ripoti haibainishi ikiwa kuzima kunaweza kukomesha uzani wa muundo ulionakiliwa, mifumo inayofanya kazi kwa watoa huduma wengi, miundo iliyosambazwa ndani ya nchi au mawakala ambao tayari wamechukua hatua za nje. Pia haibainishi jinsi wadhibiti wangesawazisha uingiliaji kati wa dharura dhidi ya matumizi mabaya au kuzimwa bila idhini.
Swali la sera linazidi kuzingatiwa pamoja na hoja pana kuhusu kama maendeleo ya AI ya mipaka inapaswa polepole. Clark alipinga kuacha AI kama "sekta isiyodhibitiwa kabisa," lakini BBC inaripoti hakuna msimamo wa tasnia uliokubaliwa, dhamira ya serikali, ratiba ya utekelezaji, makadirio ya gharama, au ushahidi kwamba sheria itasonga mbele.
Mbinu shirikishi: Jinsi Inavyofanya Kazi Kweli
Chunguza teknolojia msingi nyuma ya ukuzaji huu kwa maingiliano.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
Nini cha kutazama baadaye
Maendeleo muhimu yanayofuata yatakuwa lugha madhubuti ya kutunga sheria, viwango vya kiufundi vya uthibitishaji, na ushahidi kuhusu jinsi vidhibiti vya kuzima kinavyofanya kazi katika majaribio ya kweli. Haijulikani pia ikiwa watunga sera watatumia mahitaji kama haya kwa wasanidi wa muundo, wasambazaji, watoa huduma za wingu, au zote tatu.
Tazama maandishi na maendeleo ya Sheria ya US Kill Switch inayopendekezwa, ikijumuisha mifumo ambayo itashughulikia na mashirika gani yanaweza kuagiza kufungwa. Chanzo hakithibitishi kwamba mswada umepitishwa au kwamba sheria zinazolingana zipo mahali pengine.
Viwango vya kiufundi vitafaa zaidi kuliko lebo ya "kuua swichi." Maelezo muhimu yatajumuisha majaribio ya kujitegemea, uthibitishaji wa mamlaka ya kuzima, ulinzi dhidi ya kuchezewa, nyakati za majibu, rekodi za ukaguzi na jinsi vidhibiti vinavyofanya kazi mifumo inaposambazwa kwenye watoa huduma za wingu au zana zilizounganishwa.
Ufichuzi wenyewe wa Anthropic unaweza kufafanua ni vidhibiti gani inavitumia kwa sasa, ni vitisho gani wanashughulikia, na kama wakadiriaji kutoka nje wamevijaribu. Hakuna hati kama hiyo au matokeo ya jaribio yametolewa katika ripoti ya BBC.
Ripoti hiyo inaunganisha matamshi ya Clark na mjadala mpana wa usalama, lakini haidhibitishi kwa uhuru madai kwamba AI inaweza kuua wanadamu wote au kuanzisha uwezekano uliotajwa na watafiti wa Anthropic. Makadirio hayo ya hatari yanaendelea kupingwa na hayafai kuchukuliwa kama matokeo ya ripoti hii.