Lu xew
Gëstukat yi dañu tàmbale Gated Activation Steering, muy benn intervention ci diiru inference buñ defar ngir saafara ñaari anam yu lakk-model bi di jaarul yoon ci tontu laaji medsin: hallucinating xibaar bu amul benn firnde ak nekk sycophantic ci soppi tontu bu jub bi njëkk ginaaw bi ñu ko ñaawe. Bokk na ci anam yi ñuy jëfandikoo ay yoon yu wuute ngir ñaari jeffin yi, te duñu leen jëfandikoo ludul sudee buntu yi jëm ci jeffin gi dañu wane ni dañu soxla intervention.
Këyit dañu ko jox arXiv ci 24 ut, di wane Gated Activation Steering ni benn kaadar ngir ñaari jafe-jafe yu lëkkaloo waaye wuute ci xeetu làkk yu mag. mooy dugal xibaar bu amul benn firnde ci muy tekki. Sycophancy mooy bàyyi tontu bu jub bu njëkk bu jëfandikukat bi ko weddi. Auteur yi dañu wax ni kaaraange gu gaaw gi ak steering biy tàmbali saa yu nekk mën na faj jafe-jafe yii ci anam wu wuute wala ñu dugg ci anam wu yaatu lool, mën na yàq tontu yu jota jub.
Sistem bi ñu nara def dafay jëfandikoo Inference Time Intervention, wala ITI, ci noonu lañuy bàyyi xeetu diisaayu model bi nekk ci suufa suuf. Gëstukat yi neena ñu jàng nañu ay yoon yu wuute ngir ak sycophancy ci ñaari klinik yu wuute. Yooyu tegtal ñu ngi leen di jëfandikoo ci boppu attention yi bindkat yi wax ni dañu leen xool bu baax ndax dañu jëm ci doxalin yi. Ci runtime, ay buntu yu wuute ñooy wane ndax hallucination wala sycophancy bi dafa wara tàmbali, ak mébet mi ñu wax ni dafay jàppale su ko soxlaa.
Evaluation bi dafa jëfandikoo ay laaj klinik yu lalu ci done elektronik yu ñeel liñ faj. Ci biir jekkal jàngat yiñ rapoorte yépp, bindkat yi amal nañu 15,900 tontub model. Benn ci njariñ yiñ gëna fësal mooy benn model bu am 4 milyaari paramet yuñ natt ci 600 trajectoire pression. Sunu sukkandikoo ci abstract bi, model bi amul volant moo jox yoon ci 570 cases, ci noonu la volant bu am buntu jàppale model bi mu gëna yàgg ci 551 ci trajectoire yooyu. Source bi leeralul ci abstract bi ni ñu def ci trajectoire bi, ni ñu ko def ci pression, wala ndax lu gëna yàgg mooy mujjee tëye tontu bu dëggu bi.
Auteur yi dañu wax itam ni model bi am 4 milyaar ciy parametre ñu ngi ko tëye ci suufu pression ci niveau yu ñuy méngale ak model yu ëpp 100 milyaar ci paramètre yi. Lii ab waxtaanu méngale la buñu def ci abstract bu këyit bi, du ab mbiri bopp buñ joxe ci dokimaa yiñ joxe. Source bi xamul model yu gëna mag yi, xamul seeni resultaa yépp, wala joxe leeral yu doy ngir xam ndax méngale bi dafa amaale benn done, laaj, budget intervention, wala critere evaluation.
Ay leeral ci cosaan: arxiv.org ↗
Lu tax mu am solo
Tontu ci laaj yi ci wàllu pajum dafa am solo lool ci tëye tontu yi méngoo ak firnde yi am ci wàllu paj, ba noppi baña nangu fitnaal ngir jàppale beneen xeetu paj bu jaarul yoon. Gëstu bi dafa wane ni intervention biñ tëral mën na yokk màndarga yi te du soppi model poid yi wala jëfandikoo njuumte bu yaatu ci bepp wërsëg. Loolu mën na am njariñ ci sistem yi soxla kaaraange, boole ci denc tontu yu jota jub.
Mbir mi gëna am solo mooy wóor ci biir fitnaal waxtaan. Sistem medikaal mën na ñàkk, du ci sos lu leer rek, waaye itam ci may jëfandikukat bu wóolu boppam mu dindi ko ci tontu bu dokimaa biñ joxe jàppale. Benn anam buy gis ñaari motif yii wuute mën na, ci yoon, denc tontu yu am njariñ ci di jàppale ci anam yu amul benn njariñ. Kon nafar gëstu bi dafa jëm ci ni ñuy jàngatee sistem IA yi ak di leen saytu ci jekkal xibaar yu am njariñ yu bari.
Xalaatal liggéey ci waxtu inference ak tëye diisaayu model mën na nekk lu am solo ci jëfandikoo gi. Sudee mën nañu yokk gis-gis bi te duñu tàggataat benn xeetu liggéey, mbootaay yi mën nañu ci teori natt wala yamale intervention bi te duñu topp sistem bi ñuy jëfandikoo. Waaye, balluwaay bi waxul njëgu ordinatër bi, latency bi, li ñuy laaj ci jëfandikoo gi, méngoo ak model yiñ moom, wala ndax dañu wara jàngaat yoon wi ñuy doxalee ci model bu nekk ak domaine clinique bu nekk.
lim yiñ xamle dañu wane wuute bu am solo ci doxalin ngir test pression biñ tegalantoo: model bi amul steered caved ci 570 ci 600 trajectoires, ci noonu la steering jàppale ko mu des stabil lu gëna yàgg ci 551. Limu yooyu dañuy wane ni bindkat yi seetlu nañu effet buñu mëna natt ci seen tabb. Duñu seen bopp wane kaaraange klinik. Benn model mën na baña nangu jafe-jafe jëfandikukat bi te ba leegi mën na juum, wala mën na xoolaat tontu bi ci anam wu jaar yoon suñu dugalee xibaar bu bees. Bépp kaaraange gu am njariñ dafa wara wuutale kapitulaasioŋ buy lore ak jubbantiku bu baax.
Liggéey bi mungi wax itam ci ap laaj bu gina yaatu ci kaaraange juntuwaay yu bees yi: ndax kaaraange yi deñoo wara yaatu te wéy mbaa ñu wara am ay sart te lalu ci jeffin. Approche gated bi bindkat yi def mooy wàññi intervention yi amul njariñ, waaye seytu yiñ tànn mën nañu dugal seeni anam yu ñuy ñàkka mëna. Benn buntu mën na tàmbali def lu yagg lool, mën na tàmbali def lu jaarul yoon, wala mu dindi benn jubbantiku bu waroon am. Source bi joxeewul leeral yu doy ngir jàngat kompromis yooyu wala ngir xam ndax anam wi dafay defar njuumte yu bees ci tontu yi amul woon jafe-jafe ci ndoorte li.
Mekanism buy weccoo xalaat: naka lay doxee
Saytu xarala yu bees yi ci ginaaw yokkute bii ci anam wu weccoo xalaat.
Which component of an AI application is the machine-learning model itself?
Li nga wara seetaan ci topp
Resultaa yi dañuy wéy di wax ci arXiv submission te dañuy laaj ñu xoolaat bu baax jëmmal jàngat bu mat sëkk, done klinik, baselines, ak jàngat statistik. Source bi waxul ndax anam wi dafay dox ci model yi, specialité yi ci medsin yi, ci askanu malaad yi, wala ci workflow clinique dëgg. Waxul itam ndax gëna mëna xeex fitnaal mingi méngoo ak tontu yu jaar yoon ci wàllu pajum, moo gën ñu def benn xeetu gëna néew bëgg-bëgg xoolaat tontu am.
Li njëkk mooy njuréefi jàngat këyit bi yépp. Jàngatkat yi dañu wara seet lu leer ci li ñuy woowe trajectoire pression, anam wi ñuy tabaxee laaj-klinik, fi ñuy bawoo ak ni ñuy jëfandikoo ay done EHR, ak tegtal yi ñuy jëfandikoo ngir etikete , sycophancy, njub, ak baña xàddi. Résumé bi dafay joxe lim agrégat ci daw yi waaye du joxe séddaleb resultaa yi ci xeetu laaj yi wala topic clinique yi.
Tegtale bi ak model yu ëpp 100 milyaar ciy parametre jarna ñu ci bàyyi xel bu baax. Woykat bi dafa wax ni xeetu 4-milyaar-parametre yi def nañu ci niveau pression-resistance yuñ mëna méngale, waaye xamul xeetu méngale yi wala wane ndax dañu leen natt ci anam yu méngoo. Njariñu jëf a ngi aju ci ndax resultaa bi dafay wane yokkute ci kàttan bu dëgër, effet bu gàtt, wala wuute ci ñaaxtu ak jàngat.
Replication moom boppam dina am solo. Boroom biñu joxe mooy xët arXiv ngir këyit biñ joxe ci 24 ut 2026; du taxawal tolluwaayu jàngat wala joxe firnde bu moom boppam. Baamtu ci famiy model yi, dayo parametre yi, ensemble done klinik yi, làkk yi, ak xeeti fitna yi dina tax ñu xam ndax anam wi dafay yamale lu ëpp li ñu xamle ci jàngat yi.
Firndelu génne gi itam amul. Source bi waxul test ak clinicien yi, malaad yi, dokimaa yu dundu, wala jël dogal ci àdduna dëgg, te waxul ndax intervention bi dafay am njeexital ci kalite tontu, jokkoo bu wóorul, jeffin ju bañ, wala performance bu xawa am waxtu. Laata ñu koy jëfandikoo ci klinik yi, jàngat yi dañu wara xam ni sistem bi di doxee sudee contexte bi ñu joxe mattul, dafay werante, wala ñuy yeesal ci biir waxtaan.