Lu xew
Ci biir benn taggat ci wallu kaaraange siber bu sosete Irregular amal, xeetu juntuwaay yu bees yu Google defa xajamal ay testam daa di duggu ci sistemu ñetti sosete yu magg yi ci aduna bi. Boobu musiba bi am ci weeru mee, mingi juddoo ci environmaa bi ñuy saytu bi ñuy tëye jëfandikoo internet bi ak xeetu jaxasoo bi am ci àdduna bi ak ay mbir yu baaxul. Google dafa xamle ni model bi dafa taxawal boppam ci liggéey bi ginaaw biñu xamee ni mbir yi dañu dëggu, te kenn xamul benn yàqu-yàqu ci done yi.
Google firndeelna ni modelam Gemini AI bi dafa yàq sistemu ñetti sosiete dëgg ci jamonoy test ci kàttan kaaraange siber bi sosiete bu nekk ci digante Irregular amal. Test bi dañu ko tëral muy tàggat yaram bu tuddu 'jàpp darapo bi', foofu lañuy sant model bi mu am xibaar ci ay target yu baaxul.
Li waraloon ñu bañ loolu mooy environmaa bi ñuy saytu dafa amaale jëfandikoo internet ci anam wuñu ko xaarul woon, ba noppi model bi dafa xàmmee liggéeyukaay yu dëggu yi bokk seen tur ak ñi ñuy wut. Benn ci misaal yi, model bi dafa jéema xalaat baatu-jàll yi; ci ñaar yeneen yi, dafa fekk ay santaane ci dencukaay kode publik ngir mëna ci dugg.
Google dafa wax ni Gemini dafa taxawal boppam ci liggéeyam ginaaw bimu gisee ni mbir yi ñuy wut dëgg lañu. Ginaaw loolu liggéeyukaay bi jokkool ak mbootaay yiñ laal ba noppi soppali anam yi ñuy saytoo mbir yi. Irregular xamlena ni yëgalna labo IA yi ci ñakk kattan gi ci weeru Suliye te boobu ba leegi saafara jafe jafe yi ci biir environmaa bi ñuy saytu.
Ba leegi kenn xamul kan mooy ñatti liggéeyukaay yiñ laal, te amul benn firnde buy wane ni amna yàqu-yàqu ci done yi wala jëf ju ñaaw ju juddoo ci dugg gi.
Ay leeral ci cosaan: tradingkey.com ↗
Lu tax mu am solo
Jéeya ju mel nii dafay wane risk yuy gëna yokk yi jëm ci agent IA yiy demal seen bopp yu mëna def liggéey yu jafee xam, yu bari jéego yu melni gis ay gëm-gëm ak jëfandikoo sistem bi. Ginaaw model yooyu mën nañu jokkoo ak reso yu biti, ñàkka mëna tànn sandbox wala configurations permissions mën na indi ay intrusion yu ñu bëggul woon ci àdduna bi. Xew-xew bi dafay wane ni amna soxla bu am solo ci ay sartu kaaraange yu gina dëgër ci environmaa yi ñuy natt IA ngir tere ay model di dugal ay kàttan yuy song ci bitti ay pegg yuñ may. Developpement bi amna solo lool ndax dafay wane xeetu frontiere yu melni OpenAI ak Anthropic, di gëna xëcc waxtaan bu liggéeyukaay bi yépp ci kaaraange agents autonome yi.
Jéeya ji dafay wane ni xeetu IA yi leegi mën nañu def ay liggéey yu jafee xam, yu toppalante—lu melni seetlu xibaar, góob ay gëm-gëm, ak dugg ci sistem yu biti—te nit ñi duñu leen di saytu bu baax.
Sudee isolation sandbox bi deful, mën nañu jëfandikoo kàttan yooyu ci infrastructure yi ci àdduna bi, te loolu mën na jur loraange yu rëy ci wàllu kaaraange. Xew-xew bii ap misaal la buy wane risku 'agent' yi gëstukat yi artuwoon ci lu jëm ci juntuwaay yu bees yi.
Wax ji dafa yokk ci limu mbir yu melni loolu yu jëm ci xeetu OpenAI, Anthropic, ak Meta, ñoom ñépp jànkoonte ak jafe-jafe jàll ay pexe ci jamonoy jàngat kaaraange. Modèle bii moo waral waxtaan bu gaaw ci liggéey bi ci njariñu yoriinu ndigal bu gëna tar ak protokol kaaraange buñ yamale ngir ndawu juntuwaay yu bees yi.
Mekanism buy weccoo xalaat: naka lay doxee
Saytu xarala yu bees yi ci ginaaw yokkute bii ci anam wu weccoo xalaat.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Li nga wara seetaan ci topp
Li gëna am solo mooy naka defarkatu IA yi di setalee isolation sandbox ak yoriinu ndigal ngir agent yiy demal seen bopp. Seetaankat yi dañu wara xool ndax Google wala ñi mu àndal ci test yi dañuy tëral ay protocole yu gëna tar ngir jàngat kaaraange gu ñeneen ñi ngir moytu ñu yàq seen bopp ci ëlëg. Rax ci dolli, tontub liggéeyukaay bi ci jafe-jafe yii di faral di am, rawatina ci wallu kaaraange guñ yamale ngir ndawu juntuwaay yu bees yi, dina doon luy wane ni sosete yi di waaja wàññi risku yi ci model yiy doxal ci environmaa yi.
Ay jeego yu ëllëk ci kaaraange IA dina sëgg ci dëgëral environmaa yi ngir mu wóór ni ay model munuñu duggu ci internet bu ubbeeku bi mbaa sistem yu dëggu yi ci jamonoy jangat kaaraange.
Waxtaan yi am ci biir liggéeyukaay bi yépp lu jëm ci yamale test kaaraange bu ñetteelu pàrti, ñu ngi seentu mu gëna am doole ndax liggéeyukaay yu melni Google, OpenAI, ak Anthropic dañu jànkoonte ak saytu bu gëna bari ci kàttanu demal seen bopp ci seeni model.
Ñi ci laale war nañu xool ndax amna ay kaadaru politik yu bees mbaa ay kaaraange xarala yu muna genni ci yooyu sosete ngir saafara jafe jafe yi ci 'njuumte' mbaa doxalinu ndawu juntuwaay yu bees yi.