Kini o ṣẹlẹ
Iwe arXiv kan ṣafihan LongGuard, ilana kan fun iṣiro ati itupalẹ awọn iṣọṣọ aabo lori awọn igbewọle gigun. Kọja awọn ẹṣọ 15 ati iwọn ipari-ipari lati 0.25k si awọn ami ami 32k, awọn onkọwe ṣe ijabọ pe iranti ifiwọle-ailewu ṣubu monotonically nipasẹ diẹ sii ju 50% ni apapọ. Atupalẹ wọn ṣe ikasi idinku si fomipo ti aye ipalara laarin ọrọ to gun, dipo gigun nikan ti o fa ikuna. Iwe naa dabaa Wiwa Chunked, Ifarabalẹ-Idi-ori ati ilana ilana ipa-ọna-ọrọ, jijabọ awọn ilọsiwaju apapọ ti 22% ati 13% fun awọn atunto meji kọja awọn ipilẹ marun.
Iwe naa, ti a fi silẹ si arXiv ni Oṣu Kẹjọ Ọjọ 27, Ọdun 2026, ṣafihan LongGuard gẹgẹbi ilana fun iṣiro, ṣiṣe alaye ati idinku awọn ikuna ni awọn ẹṣọ aabo fun awọn awoṣe ede nla. O ṣe alaye iṣẹ-ṣiṣe “Abẹrẹ Ailewu-in-a-Haystack” lori akoj-ipari ọrọ-ọrọ ti o wa lati 0.25k si awọn ami ami 32k. Ninu iṣeto yẹn, aye ti ko ni aabo ni a gbe sinu akoonu agbegbe, gbigba awọn oniwadi laaye lati ṣayẹwo bii wiwa ṣe yipada bi igbewọle lapapọ ti ndagba. Awọn onkọwe ṣe ijabọ awọn abajade lati awọn ọna aabo akọkọ 15 ati sọ pe iranti ti ko ni aabo ṣubu ni ẹyọkan nipasẹ diẹ sii ju 50% ni apapọ. Nitoripe orisun naa jẹ áljẹbrà arXiv, iwọnyi jẹ awọn ẹtọ ti awọn onkọwe iwe ṣe dipo awọn awari ti a fi idi mulẹ ni ominira.
Awọn onkọwe lo iṣọpọ “Benign-Fill dipo Abere-Tuntun” apẹrẹ lati jiyan pe ikuna ti sopọ mọ dilution iwon ti aye ti ko ni aabo. Ninu akọọlẹ iwe naa, iṣoro naa kii ṣe nirọrun pe titẹ sii gigun jẹ lile ni inu: “abẹrẹ” ipalara gba ipin diẹ ti agbegbe agbegbe bi a ti ṣafikun ohun elo alaiwu. Awọn áljẹbrà wí pé awọn oluwadi ki o si wa kakiri a mẹta-ipele ibasepo kọja akiyesi, logits ati ihuwasi ni mefa . Wọn ṣe ijabọ pe akiyesi ti a tọka si aye ti ko ni aabo di ti fomi, iyatọ laarin ailewu ati ailewu awọn logits dín ni afiwe, ati ipinnu wiwa ikẹhin ṣubu. Afoyemọ naa sọ pe ifarabalẹ-si-logit-si-ihuwasi pq wa ni ibamu lẹhin ṣiṣe iṣiro fun gigun.
LongGuard tun ṣe ijabọ ipinya ẹgbẹ fọnka ti awọn olori igbapada ti o jẹ amọja fun ihuwasi iṣọra. Awọn onkọwe ṣapejuwe awọn ori wọnyi bi fifihan iyasọtọ apakan ni ibatan si awọn awoṣe ipilẹ ipilẹ. Ilé lori itupalẹ yẹn, wọn dabaa awọn iyokuro ti ko ni ikẹkọ meji: Wiwa Chunked, tabi CD, ati Ifarabalẹ-ori Sharpening, tabi AHS. Wọn tun ṣafihan Ifilelẹ-Aware Routing, tabi CAHR, ilana imuṣiṣẹ ti o yan awọn atunto ni ibamu si ipari ọrọ-ọrọ ati ẹgbẹ wo ni ayewo. Kọja awọn aṣepari marun ti o bo data sintetiki, awọn ikọlu ọrọ-ọrọ gigun ati awọn abajade awoṣe-ipinnu, iwe naa sọ pe CAHR-CD ṣe ilọsiwaju iwọn ila-iṣọ mẹfa nipasẹ 22%, lakoko ti CAHR-AHS ṣe ilọsiwaju nipasẹ 13%. Afoyemọ naa sọ pe koodu ati data wa lori ayelujara, ṣugbọn ko pese awọn alaye imuse ti o nilo lati ṣe ayẹwo awọn iṣeduro wọnyẹn nibi.
Awọn alaye orisun: arxiv.org ↗
Kini idi ti o ṣe pataki
Awọn asẹ aabo nigbagbogbo ni idanwo lori awọn itara kukuru, lakoko ti awọn ohun elo gidi n pọ si awọn ibaraẹnisọrọ gigun, awọn iwe aṣẹ ti a gba pada ati awọn itọpa ero gigun. Ti awọn awari iwe naa ba ṣakopọ, iṣọṣọ ti o ṣiṣẹ daradara ni awọn igbelewọn igbewọle kukuru le di igbẹkẹle ti ko ni igbẹkẹle nigbati akoonu ipalara ba wa ni ifibọ sinu titẹ sii to gun pupọ. Awọn ilọkuro ti a dabaa jẹ akiyesi nitori awọn onkọwe ṣe apejuwe wọn bi laisi ikẹkọ, botilẹjẹpe orisun ko fi idi iṣẹ wọn mulẹ ni ita awọn ipilẹ ti a royin.
Ibakcdun ilowo jẹ aiṣedeede laarin bii awọn ọna opopona ṣe n ṣe ayẹwo nigbagbogbo ati bii awọn eto awoṣe-ede ṣe le ṣee lo. Idanwo ailewu kukuru le gbe ibeere ipalara si ipo pataki kan. Awọn ọna ṣiṣe ọrọ-gigun, ni iyatọ, le gba awọn ibaraẹnisọrọ ti o gbooro sii, ohun elo ti a gba pada tabi ero ti ipilẹṣẹ pẹlu ibeere naa. Awọn abajade ijabọ LongGuard daba pe ipo ibatan akoonu ipalara laarin iye nla ti ipo alaiṣe le ni ipa boya àlẹmọ aabo ṣe awari rẹ. Iyẹn yoo jẹ ki ipari ọrọ-ọrọ ati akopọ jẹ apakan ti aala aabo, dipo iṣẹ ṣiṣe lasan tabi awọn ero idiyele.
Iwe akọọlẹ mechanistic iwe naa ṣe pataki nitori pe o tọka si ipo ikuna ẹrọ ti o ṣeeṣe. Awọn onkọwe rẹ ko ṣe apejuwe abajade nikan bi ibamu laarin awọn igbewọle gigun ati wiwa alailagbara; wọn jabo ọkọọkan ti o sopọ ninu eyiti akiyesi si aye ti ko ni aabo ṣubu, ala-ailewu-laisi-ailewu logit ala dín ati ipinnu ihuwasi kuna. Ti pq yẹn ba wa ni ikọja awọn eto idanwo, awọn olupilẹṣẹ le ni ibi-afẹde kan pato diẹ sii fun iṣatunṣe ju oṣuwọn kọja opin-si-opin kan. Itupalẹ ori igbapada ti a royin tun le ṣe iranlọwọ fun awọn oniwadi lati ṣe iwadii boya diẹ ninu awọn paati iṣọṣọ ṣe pataki lainidi fun wiwa akoonu ti o ni ibatan ailewu.
Awọn ilọkuro ti a dabaa jẹ agbara iwulo nitori iwe naa ṣe apejuwe wọn bi laisi ikẹkọ. Iyẹn le jẹ ki wọn rọrun lati ṣe idanwo lori awọn itọpa ti o wa tẹlẹ ju awọn isunmọ ti o nilo ikẹkọ awoṣe tuntun tabi awọn aami data ti o ni aami nla. Awọn anfani ti a royin — 22% fun CAHR-CD ati 13% fun CAHR-AHS lori apapọ ẹṣọ mẹfa - jẹ itumọ laarin iṣeto ala-iwe ti iwe naa. Wọn ko yẹ ki o, sibẹsibẹ, jẹ kika bi iṣeduro ti ilọsiwaju deede ni iṣelọpọ. Orisun naa ko sọ boya awọn eeka naa jẹ ibatan tabi awọn anfani pipe, ko ṣe atokọ awọn abajade Guardrail kọọkan ninu ọrọ ti a pese, ati pe ko ṣe apejuwe awọn ipa lori airi, lilo iṣiro tabi mimu akoonu alaiṣe.
Pataki-aabo gbogbo eniyan nitorina da lori afọwọsi. Ikuna iṣọṣọ le ṣe pataki paapaa nigba ti awoṣe ede ti o wa ni ipilẹ kii ṣe ti n ṣe agbejade akoonu ipalara, nitori pe Layer iboju le ṣee lo lati pinnu boya ibeere tabi iṣelọpọ gba laaye lati tẹsiwaju. LongGuard dojukọ wiwa labẹ awọn ipo ti a mọọmọ, pẹlu data sintetiki ati awọn ikọlu ọrọ-gigun. Orisun naa ko ṣe fi idi rẹ mulẹ bawo ni igbagbogbo aṣa kanna ṣe waye ninu ijabọ olumulo lasan, boya awọn ikọlu le lo nilokulo ni igbẹkẹle, tabi boya awọn aabo miiran yoo mu akoonu ti o padanu.
Ibaraẹnisọrọ Mechanism: Bii O Ṣe Nṣiṣẹ Lootọ
Ṣawari imọ-ẹrọ abẹlẹ lẹhin idagbasoke yii ni ibaraenisọrọ.
Why can ethical evaluation not be reduced to one model score?
Kini lati wo tókàn
Ibeere bọtini ni boya awọn abajade LongGuard ṣe ẹda kọja awọn ipilẹ data ominira, awọn imuse aabo ati awọn eto imuṣiṣẹ gidi. Awọn alaye diẹ sii tun nilo lori awọn ipilẹ marun, awọn atunto ipilẹ, iyatọ iṣiro ati awọn iṣowo ti a ṣafihan nipasẹ awọn ọna ti a dabaa, pẹlu lairi, idiyele, awọn idaniloju eke ati awọn odi eke. Orisun naa ko fi idi rẹ mulẹ pe awọn iyokuro ṣe idiwọ awọn abajade ipalara ninu awọn ọna ṣiṣe, tabi ko ṣe idanimọ iru awọn ọna iṣọ tabi awọn iru ọrọ ti o kan julọ.
Atunṣe ominira yẹ ki o jẹ idanwo akọkọ. Awọn oniwadi yẹ ki o ṣe ayẹwo boya idinku iranti ti o royin han pẹlu oriṣiriṣi awọn iwe data aabo, awọn ede, awọn ẹya igbewọle ati awọn ibi aye ti ko ni aabo. Orisun ti a pese ko ṣe idanimọ awọn ọna aabo 15, awọn ami-ami marun gangan, awọn awoṣe ti a lo bi awọn ipilẹ, tabi aidaniloju iṣiro ni ayika awọn iwọn. Awọn alaye yẹn yoo pinnu bi abajade ti o gbooro ṣe le ṣe akopọ.
Awọn oluyẹwo yẹ ki o tun ya awọn ilọsiwaju wiwa sọtọ lati awọn ilọsiwaju aabo gbogbogbo. Ọkọ oju-iṣọ le ṣe idanimọ awọn ọna ti ko ni aabo diẹ sii lakoko ti o npọ si awọn idaniloju eke lori awọn igbewọle alaiṣe, fifi akoko sisẹ to pọ tabi ba mimu awọn iwe aṣẹ gigun to tọ. Afoyemọ naa ṣe ijabọ apapọ awọn anfani ala-ilẹ ṣugbọn ko ṣalaye awọn iṣowo aṣiṣe ti o somọ, awọn ibeere orisun tabi boya awọn ọna ti a dabaa ṣe itọju ohun elo deede. Ko tun sọ boya CD, AHS ati CAHR le ni idapo pelu awọn opo gigun ti iwọntunwọnsi ti o wa laisi iyipada awọn ero inu iṣẹ wọn.
Ẹri imuṣiṣẹ jẹ aimọ miiran. CAHR jẹ apejuwe bi yiyan awọn atunto nipasẹ ipari ọrọ-ọrọ ati ẹgbẹ iṣayẹwo, ṣugbọn orisun ko ṣe alaye bi a ṣe ṣe ipinnu ipa-ọna, bawo ni a ṣe yan awọn ala rẹ tabi bii o ṣe huwa lori awọn ipari ọrọ-ọrọ ti ko ṣe aṣoju ninu akoj iwe naa. Awọn ọna ṣiṣe gidi le tun kan awọn asẹ lọpọlọpọ, awọn ipele igbapada ati awọn ipe awoṣe, eyikeyi eyiti o le paarọ akiyesi ijabọ ati ihuwasi logit. Idanwo ni iru awọn agbegbe yoo fihan boya anfani ti ko ni ẹtọ ikẹkọ wa ye awọn ihamọ iṣẹ.
Lakotan, koodu ati itusilẹ data yẹ ki o ṣe ayẹwo fun atunjade ati iṣayẹwo. Orisun naa sọ pe wọn wa lori ayelujara, ṣugbọn ohun elo ti a pese ko pese ọna asopọ kan tabi alaye to lati ṣayẹwo wọn. Titi awọn abajade yoo fi ṣayẹwo ni ominira, LongGuard ni itọju ti o dara julọ bi ibeere iwadii ti o ṣe pataki ati ikilọ nipa ailagbara ọrọ-ọrọ gigun-kii ṣe ẹri pe awọn ẹṣọ lọwọlọwọ kuna ni gbooro ni iṣelọpọ tabi pe awọn iyokuro ti a dabaa ti ṣetan fun imuṣiṣẹ.