Dubawa
Ƙididdigar ƙididdigewa tana haifar da rubutu mai inganci ta hanyar rage ɗabi'un ƙaramin ƙirar harshe mai rauni daga na babba, mai ƙarfi. Yana haɓaka abin da ƙwararren ya sani kuma mai son ya ɓace, yana rage maimaitawa da fitowar mara kyau.
Ƙididdigar ƙima wani ɓangare ne na tarin harshe-AI da ake amfani da shi don karantawa, ƙirƙira, rarrabuwa, da canza rubutu da magana a sikeli.
Zurfafa nutsewa
Lokacin da samfurin harshe ya ɗauki kalma ta gaba, yana samar da yuwuwar akan ƙamus ɗinsa. Ƙididdigar ƙididdigewa (wanda Li et al. ya gabatar a cikin 2022) yana gudanar da samfura biyu akan mahallin guda: babban 'gwani' da ƙaramin 'mai son'. Maimakon aminta da ɗanyen yuwuwar ƙwararrun, yana ƙididdige alamar kowane ɗan takara da bambanci tsakanin yuwuwar ƙwararren da mai son. Alamar ƙwararren ya fi so amma mai son ba ya samun haɓaka; Kalmomi na gama-gari duka nau'ikan suna son (kamar 'da'' ko maimaita jimlolin) suna danne, tunda mai son yana son su ma. Tace mai kyawu ta farko tana watsar da alamun da ƙwararrun ke ganin ba za su yi yuwuwa ba, don haka bambanci baya haɓaka maganar banza. Sakamakon ya fi dacewa, daidaitacce, kuma mafi ƙarancin rubutu mai tsayi fiye da ƙima ko samfurin tsakiya, ba tare da ƙarin horo da ake buƙata ba.
Fahimtar Fasaha
Babban makin shine log p_expert(alama) ban da adadin lokuta log p_amateur(alama). Saboda mai son yana raba kurakuran tsararrun ƙwararrun (wanda ke da alaƙa da manyan mitoci, madauki, maimaituwa mai lalacewa), cire yuwuwar log ɗin sa yana soke waɗannan hanyoyin gazawar da aka raba tare da kiyaye ingantaccen ilimin ƙwararru. Ƙuntataccen daidaitawa na daidaitawa yana kiyaye alamun kawai sama da juzu'i (alpha) na babban yuwuwar ƙwararru, yana hana bambanci daga ƙarawa da wuya, kalmomi marasa daidaituwa.
Ƙwararren Ƙwararren Ƙwararru
Ƙididdigar ƙididdigewa tana haifar da rubutu mai inganci ta hanyar rage ɗabi'un ƙaramin ƙirar harshe mai rauni daga na babba, mai ƙarfi. Yana haɓaka abin da ƙwararren ya sani kuma mai son ya ɓace, yana rage maimaitawa da fitowar mara kyau. Ƙididdigar ƙima wani ɓangare ne na tarin harshe-AI da ake amfani da shi don karantawa, ƙirƙira, rarrabuwa, da canza rubutu da magana a sikeli. Don gina zurfafa fahimta, bi Contrastive Decoding azaman ƙirar aiki, ba fasali ɗaya ba: ayyana sakamakon da ake so, fayyace zato, da raba abin da tsarin zai iya yi da dogaro daga abin da har yanzu ke buƙatar yanke hukunci na ƙwararru.
A aikace, ƙungiyoyi masu ƙarfi suna amfani da Ƙirar Ƙirar Ƙira ta sawa, dawowa, da sake duba madaukai azaman tsarin sadarwa mai haɗaka. Suna rubuta ƙayyadaddun ƙa'idodin nasara, gwaji akan bayanan gaskiya da gudanawar aiki, da jujjuyawar bisa ga tsarin gazawar da aka lura maimakon cin nasara na lokaci ɗaya. Wannan shine inda fahimtar ka'idar ta juya zuwa iyawa mai dorewa a cikin samfura, manufofi, da ayyuka.
Gudun aikin harshe na iya tafiya da sauri ba tare da sadaukar da daidaito ba. A lokaci guda, abubuwan da ba a iya gani ba na iya shigar da rahotanni cikin nutsuwa, kwararar goyan baya, ko abubuwan bincike. Hanyar da ta fi dacewa ita ce haɗa saurin gwaji tare da horon gudanarwa: gudanar da matukin jirgi, kama shaida, buga rajistan ayyukan yanke shawara, da ci gaba da sabunta abubuwan tsaro kamar yadda halayen ƙira, tsammanin mai amfani, da buƙatun tsari ke tasowa.
Dabarun Tasiri
Gudun aikin harshe na iya tafiya da sauri ba tare da sadaukar da daidaito ba.
Gudun aikin harshe na iya tafiya da sauri ba tare da sadaukar da daidaito ba. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Yana faɗaɗa damar shiga cikin harsuna da salon sadarwa.
Yana faɗaɗa damar shiga cikin harsuna da salon sadarwa. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Ƙungiyoyi za su iya ciyar da ƙarin lokaci akan hukunci yayin da aiki da kai ke sarrafa maimaitawa.
Ƙungiyoyi za su iya ciyar da ƙarin lokaci akan hukunci yayin da aiki da kai ke sarrafa maimaitawa. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Aiwatar da Gaskiyar Duniya
Ƙirƙirar dogon labari, ba maimaituwa ba ko ci gaba na labarin inda samfurin tsakiya ya shiga cikin madaukai
Haɗa ƙwararren 65B tare da mai son 1.5B don haɓaka tsararrun buɗe ido ba tare da daidaitawa ba.
Rage maimaita lalacewa a cikin taƙaitawa da abubuwan tattaunawa
Yin hidima azaman tushen bambance-bambancen salon DoLa don rage hasashe na gaskiya
Hanyoyin Aiwatarwa
Ƙididdigar Contrastive a aikace
Ƙirƙirar dogon labari, ba maimaituwa ba ko ci gaba na labarin inda ƙirar tsakiya ke rikiɗa zuwa madaukai.
Ƙirƙirar dogon labari, ba maimaituwa ba ko ci gaba na labarin inda ƙirar ƙirar ƙwayar cuta ta shiga cikin madaukai Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don ƙararraki, da kuma bin diddigin nasarorin samarwa da ƙimar kuskure a kan lokaci.
Ƙididdigar Contrastive a aikace
Haɗa ƙwararren 65B tare da mai son 1.5B don haɓaka ƙaƙƙarfan tsararru ba tare da daidaitawa ba.
Haɗa ƙwararren 65B tare da mai son 1.5B don haɓaka ƙarni na buɗewa ba tare da ƙwararrun ƙwararrun gyare-gyare ba yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ƙofofin inganci a gaba, kiyaye hanyar haɓaka ɗan adam don shari'o'i, da bin diddigin nasarorin samarwa da ƙimar kuskure akan lokaci.
Ƙididdigar Contrastive a aikace
Rage maimaita lalacewa a cikin taƙaitawa da abubuwan tattaunawa.
Rage maimaita lalacewa a cikin taƙaitawa da abubuwan tattaunawa Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don ƙararraki, da bin duk nasarorin samarwa da ƙimar kuskure akan lokaci.
Ƙididdigar Contrastive a aikace
Yin hidima azaman tushen bambance-bambancen salon DoLa don rage hasashe na gaskiya.
Yin hidima a matsayin madogara don kwatankwacin kai na salon DoLa don rage hasashe na zahiri Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ƙofofin inganci a gaba, kiyaye hanyar haɓakar ɗan adam don shari'o'i, da bin duk nasarorin samarwa da ƙimar kuskure a kan lokaci.
Hatsari & Tsare-tsare
Abubuwan da aka ruɗe suna iya shigar da rahotanni cikin nutsuwa, kwararar tallafi, ko abubuwan bincike.
Hankali na gaggawa na iya ƙirƙirar sakamako mara daidaituwa a cikin buƙatun iri ɗaya.
Za a iya fallasa bayanan rubutu mai ma'ana idan ikon samun dama yana da rauni.
Taswirar Hanya
Ƙayyade tsarin fitarwa, sautin, da ma'auni masu inganci kafin fitowa.
Ƙayyade tsarin fitarwa, sautin, da ma'auni masu inganci kafin fitowa. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Amsa a ƙasa tare da amintattun tushe a duk lokacin da daidaito ya shafi mahimmanci.
Amsa a ƙasa tare da amintattun tushe a duk lokacin da daidaito ya shafi mahimmanci. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Ajiye wurin binciken ɗan adam don abubuwan da ake samu masu girma.
Ajiye wurin binciken ɗan adam don abubuwan da ake samu masu girma. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Bibiyar tsarin gazawar kuma sake horar da tsokaci ko tafiyar aiki akai-akai.
Bibiyar tsarin gazawar kuma sake horar da tsokaci ko tafiyar aiki akai-akai. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.