Nini kilitokea
Maseneta wa Democratic walituma barua kwa Waziri wa Ulinzi Pete Hegseth na DNI Jay Clayton wakitaka uchunguzi wa haraka kuhusu makosa yanayohusiana na AI katika ujasusi wa kijeshi.
Kulingana na news.meaww.com, kundi la maseneta wa Democratic, akiwemo Mark Warner, Jack Reed, na Chris Coons, walimwandikia Waziri wa Ulinzi Pete Hegseth na Mkurugenzi wa Ujasusi wa Kitaifa Jay Clayton mnamo Septemba 19. Barua hiyo inadai uchunguzi wa haraka wa Inspekta Jenerali husika kuhusu msururu wa makosa katika mipango ya kulenga jeshi la Marekani iliyosababishwa na ujasusi wa bandia.
Maseneta hao walitaja tukio maalum ambapo ripoti ya ulinzi ilisambazwa katika jeshi la Marekani ikidai kuwa meli za China zilikuwa zikisafirisha vipengele vya mpango wa silaha za nyuklia katika Mashariki ya Kati. Barua hiyo inasema kuwa mashirika yametanguliza uongezaji kasi wa upitishaji na majaribio ya uwezo wa AI kuliko utawala bora.
Chanzo hicho kinabainisha kuwa CNN iliripoti hapo awali mchambuzi wa amri maalum ya operesheni alitegemea AI kutoa ripoti hii ya kijasusi, ambayo ilielezewa kuwa 'uongo kabisa.' Ripoti hiyo ilisababisha jeshi la Marekani kujiandaa kwa operesheni ya kuzuia meli hizo. Maafisa waligundua tu ripoti hiyo ilitolewa na AI na haikuwa sahihi wakati operesheni ilikuwa tayari inaendelea, huku ndege za kijeshi zikiwa angani.
Tukio hilo lilizuiliwa kidogo, lakini chanzo kinamnukuu mtu mmoja akisema hali hiyo 'inakaribia kuanzisha vita.' Maseneta wanatoa wito kwa kiwango cha juu cha uwazi wa umma katika matokeo ya mwisho ili kurejesha imani ya umma katika misioni ya kijasusi na mapigano.
Maelezo ya chanzo: news.meaww.com ↗
Kwa nini ni muhimu
Tukio hilo linaangazia mapengo muhimu ya usalama na utawala katika kupitishwa kwa jeshi kwa AI, ambapo uchambuzi wa kiotomatiki karibu ulisababisha majibu ya kijeshi ya kinetic kulingana na data ya uwongo.
Tukio hili linawakilisha kuongezeka kwa kiasi kikubwa katika mjadala kuhusu usalama wa AI katika mazingira ya usalama wa kitaifa wa hali ya juu. Inahamisha mazungumzo kutoka kwa hatari za kinadharia hadi kwa kumbukumbu karibu-kosa inayohusisha mali ya kijeshi ya kinetic.
Tukio hilo linasisitiza hatari ya 'upendeleo wa otomatiki' katika operesheni za kijeshi, ambapo waendeshaji wanaweza kuamini akili zinazozalishwa na AI bila uthibitishaji wa kutosha wa kibinadamu, haswa chini ya shinikizo la wakati.
Inaangazia kushindwa kwa utawala ambapo kasi ya kupitishwa kwa AI ilizidi maendeleo ya uangalizi muhimu na mifumo ya kuangalia makosa ndani ya Idara ya Ulinzi.
Mbinu shirikishi: Jinsi Inavyofanya Kazi Kweli
Chunguza teknolojia msingi nyuma ya ukuzaji huu kwa maingiliano.
Why can ethical evaluation not be reduced to one model score?
Nini cha kutazama baadaye
Majibu kutoka kwa Idara ya Ulinzi na upeo wa uchunguzi wa Mkaguzi Mkuu katika itifaki za usimamizi wa AI.
Jibu rasmi kutoka kwa Idara ya Ulinzi na Jumuiya ya Ujasusi kwa barua ya maseneta.
Upeo na ratiba ya uchunguzi wa Inspekta Jenerali, haswa ikiwa itachunguza mazoea mapana ya ujumuishaji wa AI kote jeshini.
Mabadiliko yanayoweza kutokea ya sheria au sera yanayolenga kuamuru mahitaji ya binadamu-katika-kitanzi kwa akili inayozalishwa na AI inayotumika katika kulenga maamuzi.