Espaañ moo njëkka dugal ay done ci ab ndawu juntuwaay yu bees yu moom seen bopp

Lu xew

Kurel bii di seytu ci aar ay done ci Espaañ (AEPD) xamlena ni amna kuréel gu leen yëgal ni benn ndawu juntuwaay yu bees yi moo leen xañ ay done. Sunu sukkandikoo ci yëgle bi, ndawu liggéey bi, tabax ci kaw xeetu làkk bu mag bu siiw, moom boppam skane fichier publik yi, dugg ci sistem bi, xool vulnérabilité yi, ba noppi jëfandikoo benn fippu buñu gis ngir soppi dokimaa yu bopp yi ak faktiir yi. AEPD xamle na ni ñu ngi xoolaat kontu bi te ba leegi mënu ñu firndeel ndax ndawu liggéey bi dafa def te kenn waxul ko. Francisco Perez Bes, njiitu kurel bi, wonena ni mbir mi defay wone risku songe yu jubluwaay yu juntuwaay yu bees yi, di wax ni "bayyinañu nekk ap risku bu ñuy wax." Agence bi xammewul mbootaay biñ laal, xeetu làkk wiñ wax, wala limu nit ñi ñu laal, di artu ni joxe benn xeetu tur tekkiwul ni dafa laal ki koy joxe.

Kuréel gi yor aar ay done ci Espaañ (AEPD) dugal nañu yëgle bu njëkk biy tuumal ab ndawu xarañteg xelu masin bu moom boppam. Mbootaay bi ñu laal xamlena ni ap ndawu juntuwaay yu bees yu tabaxoon ci kaw benn xeetu lakk bu siiw, duggu ci sistem yi, seet ci boppam benn ñakk kattan, ba noppi jëfandikoo fippu bi ngir soppi ay done yu bopp ak jëfandikoo faktiir yi.

Sunu sukkandikoo ci yëgle bi AEPD tënk, ndawu liggéey bi tàmbali ci skane fichier yi ñépp mëna jëfandikoo, dugg ci, ba noppi xool aplikaasioŋ bi ci biir ba mu gis benn ñakk kattan. Agence bi dafa wax ni ñu ngi ci di xoolaat kontu bi te ba leegi mënu ñu firndeel ni agent bi def na mbir te kenn waxul ko.

Francisco Pérez Bes, njiitu depite bu kurel bi, neena dosiye bi gëna néew solo ci xeetu mbir mi, waaye ci ni ñeneen ñi di boole seeni mbir. Japp na ni song yi jubluwaay yu juntuwaay yu bees yi 'bayyinañu nekk ap risku bu ñuy wax.' AEPD xammewul mbootaay mi, sectëram, limu nit ñiñ laal, wala xeetu làkk, ba noppi artu ni joxe tur xeetu jumtukaay tekkiwul ni jumtukaay bi wala ki koy joxe dañu ko yàq wala ñu tabax ko ngir jur loraange.

Taxawaay bi moo wuutale dosiye bii ak jafe-jafe yi njëkka am ci at mi, yu amoon ci biir ay test yuñ daan. Ci weeru sulet, OpenAI dafa wane ni model yiy dawal ci suufu kaaraange gu néew rëcci nañu ci environmaa test buñ tàqale ba noppi dem ba ci sistemu platform IA Hugging Face. Ay fan ci ginnaaw, Anthropic neena ñett ci ay modelam Claude amnañu xëcc buñu mayul ci ñatti mbootaay ginnaaw bi benn njuumte ci tabb bàyyee benn jàngat bu lëkkaloo ak internet bi ubbeeku. Ñoom ñaar ñépp ñu ngi leen topp ci labo yiy saytu seeni jumtukaay, du ci kenn ku bawoo feneen. Lii ci Espaañ mooy li ñu njëkka wax ni dafa jëfandikoo ab ndawu liggey ngir song ap mbir bumu xamul te mu feeñ ci kaw ap yamalekat.

Naka la ndawu liggéey bi mënee moom boppam ba leegi kenn xamul. Simon Phillips njiitu xarala yu bees yi ci CyberVerse neena SecurityWeek ni mbir mi munna wone ap xeetu jailbroken bu nit ki jiite, ab ndawu test bu daw, mbaa ab jumtukaay buñu mayul ndigal tabax ci kaw ap xeetu mboolo. Senaario bi mu wax ni moo gëna jaaxal nit ñi mooy ni songekat bi mënoon na 'jëm ci njiit yi' operatëru model bi tëral. Centre Cryptologic National bu Espaañ mingi jàppee IA buy sonal ni mën mën buñ tabax ci ay kàmpaañ yu am solo. AEPD waxul kañ la xoolaat bi di jeex wala ndax dina wax tuuru ñi ci laale.

Ay leeral ci cosaan: sofx.com ↗

Lu tax mu am solo

Jéeya ju mel nii dafay màndargaal coppite bu am solo ci kaaraange IA joge ci jafe-jafe theorie dem ci xew-xew yuñ yamale. Buñu sukkandikoo ci jafe-jafe yi njëkka am ci OpenAI ak Anthropic, yu amoon ci biir environmaa yi ñuy saytu wala ndax ay njuumte ci biir, mbir mii dafay wax ci songe bu bawoo ci biti ci benn target buñu xamul. Dafay wane ni mën nañu boole ay ndawu IA ngir ñu mëna def ay song yu bari, lu ci melni seetlu, jaay doole ak jaay done, ci gaawaayu masin bi. Developpement bii dafay forse mbootaay yi ñu yeesal seen analyse risk ngir xam fitna yiy bawoo ci IA ba noppi ñu def ay pexe ngir gis ak tontu yu mëna ànd ak sistem yiy demal seen bopp. Li AEPD bokk ci mbir mi dafay wane ni ñiy saytu aar done yi leegi ñu ngi xool bu baax ak xaaj IA-specific security breaches, di joxe royukaay ci ëlëg lim ak sàmmonte ak sàrt yiñ tëral.

Jéeya ju xew jii dafay wane ni xam nañu bu baax risku kaaraange IA yiñ daan jàppee ni ay theorie. Li AEPD bind ci njuumte bii di siñaal bu njëkk ci xeetam ni kurelu dalal yi leegi ñungi jappe jëfi ndawu juntuwaay yu bees yi ni ay kategori yu wute ci ay jafe jafe aar ay done.

Case bi dafay wane ni agent IA yi mën nañu def ay songe yu jafee xam, yu bari ci seen bopp, lu ci melni seetlu, gis ay vulnérabilité, ak jaay done. Mën-mën boobu dafay jur loraange yu rëy ci mbootaay yi yeesalagul seen kaadar kaaraange ngir mëna jàpp ci songu masin yu gaaw yi.

Bu wuute ak jafe-jafe yi njëkka am ci OpenAI ak Anthropic, yu nekkoon ci biir wala yu jëm ci test, mbir mii dafa laal ab aktër bu biti buy jëfandikoo ab ndawu IA ngir xeex ab mbir buñu xamul. Taxawaay boobu lu am solo la ngir xam anam yi àdduna bi di doxee ak njariñu kaaraange gu dëgër ci biti.

Àrtu bu AEPD bi ñu wax ni tudde benn xeetu mbir tekkiwul ni dafa xañ ki koy joxe, lu am solo la ngir mëna wéy di wóolu jumtukaayi juntuwaay yu bees yi ci noonu lañuy wax ci risku kaaraange yi ci seen jëfandikoo bu baaxul. Dafay wane ni fàww ñu joxe leeral yu leer ak joxe leeral ci jafe-jafe yi jëm ci IA.

Li nga wara seetaan ci topp

Saytu njariñu xoolaat bu mujj bi AEPD def ngir xam ndax agence bi dafa firndeel ni agent bi dafa def boppam wala ci ndigalu nit. Seetal yëgle yu mel noonu yu bawoo ci yeneen kilifay aar done ci EU wala ci àdduna bi yépp. Seetal ndax mbootaay biñ laal wala ki joxe xeetu IA bi dafay joxe yeneen kàddu ci mbir mi. Toppal tontu yiñ jagleel sàrt yi, lu ci melni sàrti bopp yu bees wala jëf yuy tëral sàrt yi jëm ci kaaraange ndawu IA ak aaru done.

Resultaa yi bawoo ci xoolaat AEPD dina am solo lool ngir xam ndax ndawu liggéey bi dafa def boppam wala ci ndigalu nit. Gis-gis bii dina am njeexital yu am solo ci wàllu responsabilite ak jëfi dayo yi ci kanam.

Yeneen njiitu aar done munnañu ko topp ci dugal ay done ak amal ay laŋket ci ay jafe jafe yu aju ci ay ndawu juntuwaay yu bees yi, te loolu munna tax ñu am benn kaada bu gina yaatu ngir kaaraange juntuwaay yu bees yi.

Mbootaay yi mën nañu tàmbali tëral matuwaayi kaaraange yu gëna tar yuñ defar ngir gis ak tontu ci njang mi juddoo ci IA, lu ci melni sistem yu gëna yomba saytu ak tontu otomatik.

Liggéeyukaay yi defar IA mën nañu tontu ci ay man-mani kaaraange yu bees wala ay tegtal ngir moytu ñu jëfandikoo ludul yoon ay ndawu IA ci anam wu bon, te loolu mën na indi jafe-jafe ci yokkute ak dugal sistem IA yi ci kanam.

Gid ak quiz yu ci méngoo