Kini o ṣẹlẹ
Iwadii kan ti Calcalistech ṣe ti awọn alamọja iwadii aabo aabo Israeli 30 tọka pe AI n dinku idena pataki si titẹsi fun awọn ikọlu cyber fafa. Awọn oniwadi jabo pe awọn iṣẹ iṣaaju ti o nilo awọn oṣu ti igbiyanju nipasẹ awọn oṣere orilẹ-ede-gẹgẹbi idagbasoke Imudaniloju Imudaniloju (PoC) iṣẹ ṣiṣe-le ti pari ni awọn ọjọ. Awọn awari ṣe afihan iyipada kan ni ilẹ-ilẹ irokeke nibiti a ti lo AI lati ṣe adaṣe adaṣe ailagbara, ṣe afọwọyi awọn aṣoju AI ti o ni igbẹkẹle, ati ṣe awọn ikọlu eto-ọrọ nipa ṣiṣe awọn isunawo ami ami AI ile-iṣẹ ti o rẹwẹsi.
Iwadi na ṣe afihan pe awọn irinṣẹ AI ti iṣowo ti di awọn akoko akoko fun iwadii aabo, gbigba awọn oniwadi kọọkan lati ṣii awọn abawọn odo-ọjọ ni awọn iru ẹrọ pataki bi Zoom, Google Cloud, ati Microsoft Copilot. Awọn amoye ṣe afiwe iyipada yii si 'akoko AFL fuzzing' ti ọdun 2013, ṣe akiyesi pe lakoko ti AI jẹ doko ni wiwa eso ti o wa ni idorikodo, o wa ni itara si awọn ipadanu ati ipadanu ọrọ-ọrọ, ti o jẹ dandan lati tẹsiwaju abojuto eniyan.
Apa pataki ti iwadii naa dojukọ lori iyipada lati awọn ikọlu orisun-ẹri si ifọwọyi ti awọn aṣoju AI ti o ni igbẹkẹle. Nipa ilokulo abẹrẹ kiakia aiṣe-taara, awọn ikọlu le ni agba awọn aṣoju si awọn olumulo aṣiri tabi ṣe alaye data ifura lai nilo awọn ọrọ igbaniwọle ibile. Ọpọlọpọ awọn ile-iṣẹ royin awọn ifihan aṣeyọri ti iru awọn gbigbe nipasẹ awọn iwe aṣẹ pinpin ati awọn imeeli.
Ijabọ naa ṣe idanimọ aramada ikọlu aramada: ogun eto-ọrọ si awọn SOC. Nipa ikunomi awọn eto aabo adaṣe adaṣe pẹlu ariwo, awọn ikọlu fi ipa mu awọn awoṣe AI ti o wa labẹ ilana data ti ko wulo, ni imunadoko ti o rẹwẹsi iṣuna owo-iṣoro ti ile-iṣẹ ati ti o le fa ki eto naa kuna tabi di idinamọ gbowolori lati ṣiṣẹ.
Awọn oludahun tẹnumọ pe awọn ikun ailagbara ailagbara ti o ya sọtọ ti di ti igba atijọ. Dipo, wọn ṣe agbero fun itupalẹ 'pq ikọlu', nibiti ọpọlọpọ awọn atunto aiṣedeede kekere-kekere ni a wo bi ẹyọkan, ọna ti o lewu si adehun iṣakoso.
Awọn alaye orisun: calcalistech.com ↗
Kini idi ti o ṣe pataki
Tiwantiwa ti awọn agbara ikọlu ilọsiwaju tumọ si pe awọn ailagbara ninu sọfitiwia iṣowo jẹ idanimọ ati ilokulo pẹlu iyara airotẹlẹ. Nipa yiyi idojukọ lati ole jija ijẹrisi aṣa si ifọwọyi ti awọn aṣoju AI ati ilokulo ti awọn igbẹkẹle ẹnikẹta, awọn ikọlu n kọja awọn aabo agbegbe agbegbe. Pẹlupẹlu, ifarahan ti 'ogun ọrọ-aje' - nibiti awọn ọta ti nkún awọn eto aabo pẹlu ariwo lati fa awọn isuna-iṣoro ami AI-ṣafihan eewu iṣẹ ṣiṣe tuntun fun awọn ile-iṣẹ ti o gbẹkẹle awọn ile-iṣẹ aabo adaṣe adaṣe (SOCs). Awọn idagbasoke wọnyi daba pe awọn metiriki ailagbara ti aṣa, gẹgẹ bi awọn ikun CVE, ti di aipe fun iṣiro eewu gidi-aye, bi awọn ikọlu ti n pọ si papọ awọn abawọn kekere, awọn abawọn ti ko ṣe pataki lati ṣaṣeyọri ifaramọ eto ni kikun.
Awọn awari ṣe afihan iyipada ipilẹ ni agbegbe aabo. Bi awọn ile-iṣẹ ṣe ṣepọ awọn aṣoju AI sinu ṣiṣan iṣẹ wọn, 'aṣoju igbẹkẹle' di ibi-afẹde akọkọ. Ti o ba jẹ pe aṣoju kan ti gbogun, o le ṣe bi afara si awọn eto inu, ti n ṣe wiwa wiwa opin ibilẹ ibile ati awọn irinṣẹ esi (EDR) ti ko munadoko.
Ipa ọrọ-aje ti awọn ikọlu ti AI-ṣiṣẹ ṣafihan iwọn tuntun si cybersecurity. Awọn katakara gbọdọ ni bayi ṣe akọọlẹ idiyele idiyele ti ero AI bi ailagbara ti o pọju, bi awọn ikọlu le ṣe ohun ija eto idiyele ti awọn irinṣẹ aabo ti o da lori LLM lati da awọn iṣẹ run.
Igbẹkẹle awọn igbẹkẹle AI ẹni-kẹta, gẹgẹbi awọn amugbooro ẹrọ aṣawakiri ati awọn olupin MCP, ṣẹda eewu pq ipese ti o wa labẹ abojuto lọwọlọwọ. Iwadi na ni imọran pe ile-iṣẹ lọwọlọwọ wa ni ipele ti isọdọmọ iyara ti o kọja idagbasoke ti awọn iṣakoso aabo to ṣe pataki.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Kini lati wo tókàn
Awọn alamọdaju aabo n ni aniyan pupọ si nipa awọn 'awọn aaye afọju' ti a ṣẹda nipasẹ isọdọmọ iyara ti awọn amayederun AI, pẹlu awọn irinṣẹ orisun ṣiṣi bii Ollama ati Awọn afara Awujọ Awoṣe (MCP). Bii awọn igbẹkẹle wọnyi ṣe di iṣọpọ sinu ṣiṣan iṣẹ ile-iṣẹ, wọn ṣe aṣoju eewu pq ipese ti ndagba ti ko ni abojuto to lagbara lọwọlọwọ. Ile-iṣẹ naa ni a nireti lati lọ si awọn awoṣe igbelewọn eewu ọrọ-ọrọ diẹ sii ti o ṣe akọọlẹ fun wiwa nẹtiwọọki ati awọn ẹwọn ikọlu, dipo gbigbekele awọn ikun ailagbara ti o ya sọtọ. Awọn alafojusi yẹ ki o ṣe abojuto boya awọn ile-iṣẹ bẹrẹ lati ṣe imuse iṣakoso ti o muna lori awọn igbanilaaye aṣoju AI ati awọn ilolupo ohun itanna ẹni-kẹta lati dinku eewu ti abẹrẹ aiṣe-taara ati imukuro data laigba aṣẹ.
Ṣọra fun iyipada ni bii awọn ẹgbẹ aabo ṣe ṣe pataki awọn ailagbara. Gbigbe kuro ni awọn awoṣe CVE-centric si ọna ọrọ-ọrọ, igbelewọn eewu ti nẹtiwọọki-nẹtiwọọki ṣee ṣe lati di adaṣe boṣewa fun awọn ẹgbẹ aabo ti o dagba.
Ṣe abojuto idagbasoke ti awọn irinṣẹ aabo ni pataki ti a ṣe apẹrẹ lati ṣayẹwo awọn igbanilaaye aṣoju AI ati rii awọn igbiyanju abẹrẹ aiṣe-taara, nitori iwọnyi ni a ṣe idanimọ lọwọlọwọ bi awọn ela pataki ninu akopọ aabo ile-iṣẹ.
Ṣakiyesi bii awọn ajo ṣe n ṣakoso awọn 'awọn aaye afọju' ti o ni nkan ṣe pẹlu awọn amayederun orisun-ìmọ AI. Ile-iṣẹ naa le rii titari fun awọn ilana ṣiṣe ayẹwo lile diẹ sii fun awọn afikun AI ati awọn igbẹkẹle ti o jọra si awọn iṣedede aabo pq ipese sọfitiwia ti o wa.