Up tókànItọsọna atẹle
How Leading Questions Bias AI Answers
Èdè AI
Èdè AI Itọsọna
Logit Iyatọ
Iyatọ Logit jẹ koko kan ti o ṣe apẹrẹ awoṣe ede si ọna tabi kuro lati awọn ami-ami kan pato nipa fifi nọmba ti o wa titi kun si awọn ikun wọn ṣaaju ki awoṣe mu ọrọ atẹle.
Gbọ si itọsọna yiiAI-ṣe afihan · ~2 min
Lori iwe yi2 min ka
Akopọ
It is a lightweight way to ban words, force choices, or shape style without retraining anything.
Jin Dive
Ṣaaju ki awoṣe to yan ami-ami atẹle rẹ, o ṣe agbejade logit kan (Dimegili ti ko ṣe deede) fun gbogbo ami-ami ninu awọn ọrọ rẹ. Iyatọ Logit n jẹ ki o ṣafikun iye igbagbogbo si awọn logiti ti awọn ami ti a yan nipasẹ awọn ID ami ami nomba wọn. Irẹjẹ rere ti o tobi jẹ ki ami kan jẹ diẹ sii lati ṣe ayẹwo; ojuṣaaju odi ti o tobi (nigbagbogbo -100 ni awọn API) ni ilodi si. Nitoripe atunṣe n ṣẹlẹ ṣaaju softmax ti o yi awọn ikun pada si awọn iṣeeṣe, paapaa awọn irẹwọn iwọntunwọnsi ni itumo yi pinpin kaakiri. Ni pataki, ojuṣaaju jẹ bọtini si awọn ID ami ami, kii ṣe awọn ọrọ odidi - nitorinaa ọrọ-ami-ọpọlọpọ le nilo ọkọọkan awọn ege rẹ ni aiṣojusi lati dinku ni kikun tabi ṣe igbega. O jẹ iyara, iṣakoso iṣẹ abẹ ti ko nilo atunṣe-itanran ati pe o kan fun ibeere kan.
Real-World imuse
Ṣiṣeto aiṣedeede -100 lori awọn ami aifẹ lati ṣe idiwọ iwiregbebot lati ṣe agbejade awọn ọrọ kan lailai.
Fi ipa mu bẹẹni/ko si classifier nipa fifun ojuṣaaju rere ti o lagbara si awọn ami ‘Bẹẹni’ ati ‘Bẹẹkọ’ ati didapa ohun gbogbo miiran.
Irẹwẹsi gbolohun ọrọ ilokulo tabi ọrọ kikun nipa lilo ojuṣaaju odi iwọntunwọnsi si awọn ami rẹ.
Igbega awọn ofin kan-ašẹ (bii orukọ ọja) nitorinaa akopọ kan darukọ wọn ni igbẹkẹle.
Ojo iwaju ti Logit Bias
Irẹjẹ Logit jẹ ohun pataki fun idari ni iyara, ṣugbọn awọn omiiran ti o ni oro sii ti n dagba: ti eleto/idiba iyipada fun awọn iṣeduro lile, ati idari imuṣiṣẹ tabi imọ-ẹrọ oniduro ti o jẹ ki awọn adaṣe inu inu awoṣe dipo ki o kan awọn ikun jade. Reti awọn API lati tọju ojuṣaaju logit gẹgẹbi ọna abayọ ti o rọrun lakoko ti o nfun awọn iṣakoso ipele ti o ga julọ - awọn gbolohun ọrọ ti a fi ofin de, awọn itọsọna ara, awọn asẹ aabo - ti o mu ami isamisi laifọwọyi nitorinaa awọn olupilẹṣẹ ko ni lati ronu nipa awọn ID ami ami aise.
Fifi o sinu iwa
Kini idi ti o ṣe pataki
- Iyara ati iwọn. Ṣiṣan iṣẹ ede le gbe ni iyara laisi irubọ aitasera.
- Wiwọle ati arọwọto. O faagun iraye si kọja awọn ede ati awọn aza ibaraẹnisọrọ.
- Awọn ipinnu diẹ sii. Awọn ẹgbẹ le lo akoko diẹ sii lori idajọ lakoko ti adaṣe n kapa atunwi.
Ṣọra fun
- Awọn otitọ ti a sọ di mimọ le tẹ awọn ijabọ sii ni idakẹjẹ, awọn ṣiṣan atilẹyin, tabi awọn abajade iwadii.
- Ifamọ kiakia le ṣẹda awọn abajade aisedede kọja awọn ibeere ti o jọra.
- Awọn data ọrọ ifarabalẹ le farahan ti awọn idari wiwọle ko lagbara.
Next awọn igbesẹ
- Ṣetumo ọna kika iṣẹjade, ohun orin, ati awọn iṣedede didara ṣaaju ṣiṣejade.
- Awọn idahun ilẹ pẹlu awọn orisun ti o gbẹkẹle nigbakugba ti deede ba ṣe pataki.
- Jeki aaye ayẹwo atunyẹwo eniyan fun awọn abajade ti o ga julọ.
- Tọpinpin awọn ilana ikuna ati tunṣe awọn itọsi tabi ṣiṣan iṣẹ nigbagbogbo.
Tesiwaju Ṣiṣawari
Ìwé ìròyìn ọfẹ
Gba ìkànìyàn AI ojoojúmọ́
Ìtàn AI mẹta tó jẹ́rìí ní gbogbo owurọ́ ọjọ́ iṣẹ́, kọ́wé ní Gẹ̀ẹ́sì tó rọrùn. Ọfẹ́ fún gbogbo àkókò, kò sí ìpolówó.
Ìmeèlì kan ní gbogbo ọjọ́ iṣẹ́. Yọkúrò ní ìkànìyàn ní ìkànìyàn kan. A kò ta tàbí pín àdírẹ́sì rẹ.
Ṣe idanwo fun ara rẹ
Take the Logit Bias quiz
Ìdáhùn lẹ́sẹ̀kẹsẹ̀ lórí gbogbo ìdáhùn, àti iwe-ẹ̀rí tó lè pin pẹ̀lú ID tó lè jẹ́rìí lẹ́yìn tí o bá kọ́ ẹ̀kọ́.
Ṣe àtìlẹ́yìn ẹ̀kọ́ AI ọfẹ́. AI Understanding jẹ́ àjọ àìní èrè 501(c)(3) — kò sí ìpolówó, kò sí àkúnya owó, ní gbogbo àkókò. Ṣe ẹbun kan
Awọn ibeere ti a beere nigbagbogbo
What is Logit Bias?
Iyatọ Logit jẹ koko kan ti o ṣe apẹrẹ awoṣe ede si ọna tabi kuro lati awọn ami-ami kan pato nipa fifi nọmba ti o wa titi kun si awọn ikun wọn ṣaaju ki awoṣe mu ọrọ atẹle. O jẹ ọna iwuwo fẹẹrẹ lati gbesele awọn ọrọ, awọn yiyan ipa, tabi ara apẹrẹ laisi ikẹkọ ohunkohun.
Kini abosi logit ṣe atunṣe?
Irẹjẹ Logit ṣe afikun ibakan si awọn logits ti awọn ID idanimọ ti a yan, yiyipada bi o ṣe ṣee ṣe wọn lati yan, laisi iyipada awoṣe funrararẹ.
Ni ọpọlọpọ awọn API, kini ojuṣaaju logit ti -100 lori ami-ami kan ṣe?
Irẹjẹ odi nla bi -100 wakọ iṣeeṣe post-softmax tokini si odo ni pataki, nitorinaa o fẹrẹ jẹ iṣelọpọ rara.
What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
The API reference documents a range of -100 to 100 for each token ID, where negative values decrease likelihood and positive values increase it.
Iyatọ Logit jẹ bọtini si idanimọ wo?
Awọn iye abosi ni a lo si awọn ID ami ami kan pato lati awọn fokabulari tokenizer, eyiti o jẹ idi ti o gbọdọ mọ awọn ID fun awọn ege ti ọrọ kan.
Nitoripe awọn logiti ti kọja nipasẹ softmax, kini ipa ti fifi irẹwẹsi rere kun?
Softmax ṣe alaye awọn logiti, nitorinaa paapaa ojuṣaaju rere ti iwọntunwọnsi ṣe isodipupo iwuwo ami kan ti a ko ṣe deede, ti o mu awọn aidọgba rẹ pọ si.
Tesiwaju kikọ
Jẹmọ awọn itọsọna
Awọn itọsọna diẹ sii ti a yan fun koko yii