Kini o ṣẹlẹ
SecurityBrief Australia ṣe ijabọ pe Aiṣedeede AI ti ṣe ifilọlẹ Aabo awọsanma AI, ọja awotẹlẹ ikọkọ fun awọn alabara ti o yan. Iṣẹ naa jẹ apẹrẹ lati ṣe awoṣe ihuwasi deede kọja awọn olumulo eniyan, awọn akọọlẹ iṣẹ, awọn bọtini API, awọn ẹru iṣẹ ati awọn aṣoju AI, lẹhinna ṣe idanimọ iṣẹ ṣiṣe dani ati atilẹyin awọn idahun ti a ti pinnu tẹlẹ gẹgẹbi ipinya awọn ẹru iṣẹ tabi fifagilee awọn iwe-ẹri.
SecurityBrief Australia ṣe ijabọ pe Aiṣedeede AI ti ṣe ifilọlẹ Aabo awọsanma AI ati gbe si awotẹlẹ ikọkọ fun awọn alabara ti a yan. Ile-iṣẹ naa n fa ọna aabo ti o da lori ihuwasi rẹ kọja imeeli, idanimọ ati ibojuwo inu-irokeke sinu awọn amayederun awọsanma, pẹlu iṣẹ aṣoju AI bi idojukọ aarin.
Gẹgẹbi SecurityBrief Australia, ọja naa kọ awọn awoṣe ihuwasi fun awọn idamọ kọja agbegbe alabara, pẹlu awọn olumulo eniyan, awọn akọọlẹ iṣẹ, awọn bọtini API ati awọn aṣoju AI. O ti pinnu lati fi idi awọn ipilẹ silẹ fun iṣẹ ṣiṣe deede ati awọn iyapa asia fun iwadii.
Ijabọ naa sọ pe awọn alabara le tunto awọn iṣe esi asọye, pẹlu ipinya ẹru iṣẹ kan, fagile iwe-ẹri ati awọn orisun ti o kan ninu. Awọn alabara le yan iṣe adaṣe tabi atunyẹwo eniyan da lori bibi iṣẹlẹ. Ijabọ naa ko pese idiyele, akoko wiwa gbogbogbo, agbegbe olupese-awọsanma tabi awọn abajade idanwo ominira.
SecurityBrief Australia ṣe ijabọ pe awọn awoṣe Oju-ọjọ OpenAI ṣe itupalẹ awọn akọọlẹ ati awọn ifihan agbara ihuwasi lakoko iwadii, ṣe iranlọwọ fun awọn oludahun lati loye iṣẹlẹ kan, ṣe ayẹwo iwọn rẹ ati yan awọn igbese idahun. Ijade naa ṣe iyatọ si lilo iwadii yii lati eto ihuwasi ti a gbekalẹ bi ẹrọ wiwa ọja naa.
Awọn alaye orisun: securitybrief.com.au ↗
Kini idi ti o ṣe pataki
Awọn aṣoju AI le ṣiṣẹ kọja awọn ọna ṣiṣe awọsanma ni iyara ti o le kọja awọn ilana atunyẹwo aabo aṣa. SecurityBrief Australia ṣe ijabọ pe Aiṣedeede AI n fa wiwa ti o da lori ihuwasi si awọn idanimọ ti kii ṣe eniyan, ti o le fun awọn ẹgbẹ aabo ni ọna lati ṣe idanimọ iṣẹ ṣiṣe ti ko baamu awọn ibuwọlu irokeke ti a mọ. Iye iṣeṣe yoo dale lori deede wiwa, awọn aabo idahun, agbegbe iṣọpọ ati boya awọn alabara le ṣe iyatọ ni igbẹkẹle ihuwasi irira lati adaṣe to tọ.
SecurityBrief Australia ṣe ifilọlẹ ifilọlẹ bi idahun si iṣeeṣe ti ndagba pe awọn aṣoju sọfitiwia adase le ṣajọpọ awọn ailagbara, wọle si awọn orisun awọsanma ati ṣiṣẹ ni iyara ju awọn atunnkanka eniyan le ṣe iwadii awọn itaniji. Iyẹn ṣẹda iṣoro iṣiṣẹ bi daradara bi imọ-ẹrọ kan: awọn ẹgbẹ le nilo awọn idari ti o le tumọ ihuwasi idanimọ ati ṣiṣe awọn igbesẹ ifisilẹ asọye ni kiakia.
Abojuto ti o da lori ihuwasi le wulo nibiti awọn iṣe aṣoju kan jẹ aramada ati nitorinaa ko ni awọn afihan ifẹsẹmulẹ ti adehun. Ṣugbọn ijabọ naa ko pese ẹri ominira pe eto AI ajeji le ṣe idanimọ deede awọn aṣoju rogue ni awọn agbegbe iṣelọpọ. Ifagile iwe-ẹri adaṣe adaṣe tabi ipinya fifuye iṣẹ le tun ṣe idalọwọduro ṣiṣan iṣẹ abẹ ti awọn eto imulo tabi awọn ipilẹ ihuwasi jẹ aṣiṣe.
Ijabọ naa sọ pe Abnormal AI nperare lati daabobo diẹ sii ju awọn ajo 4,500, pẹlu diẹ sii ju 25% ti Fortune 500. Awọn eeka wọnyẹn jẹ awọn ẹtọ ile-iṣẹ ti o royin nipasẹ SecurityBrief Australia ati pe a ko jẹrisi ominira ni orisun ti a pese.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
crm_get_transaction(id='4092').An agent must create a draft calendar event for Tuesday at 2 p.m. Which evidence would establish the requested result?
Kini lati wo tókàn
Ọja naa ko wa ni gbogbogbo ni ibamu si ijabọ naa. Awọn aimọ bọtini pẹlu idiyele, awọn iru ẹrọ awọsanma ti o ni atilẹyin, iṣẹ wiwa, awọn oṣuwọn-rere, awọn opin esi ati eyiti awọn alabara le darapọ mọ awotẹlẹ ikọkọ. SecurityBrief Australia tun ṣe ijabọ pe awọn awoṣe Oju-ọjọ OpenAI ni a lo lati ṣe iwadii awọn akọọlẹ ati awọn ifihan agbara ihuwasi, ṣugbọn sọ pe wọn kii ṣe ẹrọ wiwa. Iṣẹlẹ OpenAI-Hugging Face ti a tọka si ati awọn iṣeduro ti o jọmọ ko ti ni idaniloju ominira nibi.
Ohun-iṣẹlẹ lẹsẹkẹsẹ ni boya awotẹlẹ ikọkọ naa gbooro si ọja ti o wa ni gbangba. Awọn ipo iraye si, idiyele, awọn adehun ipele iṣẹ ati awọn agbegbe awọsanma atilẹyin jẹ aimọ.
Awọn ẹgbẹ aabo yẹ ki o ṣọra fun awọn igbelewọn ominira ti n fihan bi eto naa ṣe n ṣiṣẹ lodi si adaṣe iwọn-giga to tọ, awọn akọọlẹ iṣẹ ti o gbogun, awọn aṣoju itasi kiakia ati awọn ipa-ọna ikọlu ti a ko rii tẹlẹ. Iroyin ti a pese ko ni iru idanwo bẹẹ.
Pipin laarin wiwa ati iwadii jẹ pataki. SecurityBrief Australia Ijabọ pe OpenAI Awọn awoṣe Oju-ọjọ ṣe iranlọwọ itupalẹ ẹri lẹhin ti awọn ifihan agbara ti ipilẹṣẹ; o ko ni jabo wipe awon awoṣe ominira pinnu eyi ti aṣayan iṣẹ-ṣiṣe ni irira.
Eyikeyi imuṣiṣẹ ti o fun laaye ipinya laifọwọyi tabi ifagile iwe-ẹri yoo nilo awọn ilana ifọwọsi ti o han gbangba, awọn akọọlẹ iṣayẹwo, awọn ilana iṣipopada ati igbega eniyan. Ijabọ naa ko ṣe pato bi awọn iṣakoso yẹn ṣe n ṣiṣẹ.