Dubawa
Tunanin koyarwa shine matakin horo wanda ke mai da ɗan tsinkaya rubutu zuwa ƙirar da a zahiri ke bin umarni kamar 'takaita wannan' ko 'rubuta amsa mai ladabi.' Shi ne abin da ke sa samfurin tushe ya ji taimako da kuma iya jurewa.
Tunanin koyarwa wani yanki ne na tarin yare-AI da ake amfani da shi don karantawa, ƙirƙira, rarrabuwa, da canza rubutu da magana a sikeli.
Zurfafa nutsewa
An horar da ƙirar harshe na tushe kawai don tsinkaya alama ta gaba akan rubutun gidan yanar gizo, don haka idan kun buga tambaya zai iya ci gaba da ƙarin tambayoyi maimakon amsa. Gyaran umarni yana gyara wannan. Wani nau'i ne na daidaitawa mai kyau: an horar da ƙirar akan nau'ikan nau'i-nau'i da yawa (umarni, kyakkyawar amsawa) wanda ke rufe dubban ayyuka - fassarar, taƙaitawa, rarrabawa, Q&A, coding, da ƙari. Ta hanyar ganin tsari iri ɗaya na koyarwa-sannan kuma mai taimako akai-akai, ƙirar tana koyon ɗabi'a na gabaɗaya na 'yin abin da mai amfani ya nema,' kuma wannan ya haɗa da umarnin da bai taɓa gani ba a horo. An kafa tsarin a kusa da 2021 ta hanyar aiki kamar FLAN, T0, da Umarnin Halitta, kuma ta kasance tsakiya ga OpenAI's InstructGPT, wanda ya daidaita GPT-3 akan tsarin koyarwar da aka tsara. Ita ce tushen yawancin mataimakan taɗi a kai.
Fahimtar Fasaha
A inji, kunna wa'azi daidaitaccen koyo ne da ake kulawa: rage bambanci tsakanin alamun da aka annabta na ƙirar da amsar tunani, tare da gradients suna sabunta ma'auni. Ya bambanta da RLHF (ƙarfafa koyo daga ra'ayoyin ɗan adam), wanda ke zuwa bayan kuma yana haɓaka abubuwan zaɓin ɗan adam ta amfani da samfurin lada. An tsara girke-girke na yau da kullun: pretrain, sannan koyarwa-tune (SFT) don koyar da bin ɗawainiya, sannan RLHF na zaɓi don daidaita sautin, taimako, da aminci. Bambance-bambancen bayanai yana da mahimmanci fiye da ƙarar girma - faffadan ɗaukar nauyi yana haifar da gama gari.
Daidaita Umarnin Jagora
Tunanin koyarwa shine matakin horo wanda ke mai da ɗan tsinkaya rubutu zuwa ƙirar da a zahiri ke bin umarni kamar 'takaita wannan' ko 'rubuta amsa mai ladabi.' Shi ne abin da ke sa samfurin tushe ya ji taimako da kuma iya jurewa. Tunanin koyarwa wani yanki ne na tarin yare-AI da ake amfani da shi don karantawa, ƙirƙira, rarrabuwa, da canza rubutu da magana a sikeli. Don haɓaka fahimta mai zurfi, bi da Tunatarwa Umarni azaman ƙirar aiki, ba fasali ɗaya ba: ayyana sakamakon da ake so, fayyace zato, da raba abin da tsarin zai iya yi da dogaro daga abin da har yanzu ke buƙatar yanke hukunci na ƙwararru.
A aikace, ƙungiyoyi masu ƙarfi ta amfani da umarni Tuning ƙirar ƙira, maidowa, da sake duba madaukai azaman tsarin sadarwar haɗin gwiwa ɗaya. Suna rubuta ƙayyadaddun ƙa'idodin nasara, gwaji akan bayanan gaskiya da gudanawar aiki, da jujjuyawar bisa ga tsarin gazawar da aka lura maimakon cin nasara na lokaci ɗaya. Wannan shine inda fahimtar ka'idar ta juya zuwa iyawa mai dorewa a cikin samfura, manufofi, da ayyuka.
Gudun aikin harshe na iya tafiya da sauri ba tare da sadaukar da daidaito ba. A lokaci guda, abubuwan da ba a iya gani ba na iya shigar da rahotanni cikin nutsuwa, kwararar goyan baya, ko abubuwan bincike. Hanyar da ta fi dacewa ita ce haɗa saurin gwaji tare da horon gudanarwa: gudanar da matukin jirgi, kama shaida, buga rajistan ayyukan yanke shawara, da ci gaba da sabunta abubuwan tsaro kamar yadda halayen ƙira, tsammanin mai amfani, da buƙatun tsari ke tasowa.
Dabarun Tasiri
Gudun aikin harshe na iya tafiya da sauri ba tare da sadaukar da daidaito ba.
Gudun aikin harshe na iya tafiya da sauri ba tare da sadaukar da daidaito ba. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Yana faɗaɗa damar shiga cikin harsuna da salon sadarwa.
Yana faɗaɗa damar shiga cikin harsuna da salon sadarwa. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Ƙungiyoyi za su iya ciyar da ƙarin lokaci akan hukunci yayin da aiki da kai ke sarrafa maimaitawa.
Ƙungiyoyi za su iya ciyar da ƙarin lokaci akan hukunci yayin da aiki da kai ke sarrafa maimaitawa. A cikin ƙawance masu inganci, ana fassara wannan zuwa ƙa'idodin aiki waɗanda za a iya aunawa, iyakokin ikon mallaka, da kuma bita-da-kullin bita don ƙungiyoyi su iya haɓaka kwarin gwiwa a maimakon ɓata shakku.
Aiwatar da Gaskiyar Duniya
Juyar da ƙirar ƙirar GPT mai tushe zuwa mataimakiyar taɗi wanda ke amsa tambayoyi maimakon maimaita su
FLAN-T5, an daidaita shi cikin ayyuka da yawa don haka zai iya bin umarnin da ba a taɓa horar da shi a kai ba.
InstructGPT, inda GPT-3 aka daidaita-umarni akan abubuwan da aka tsara don samar da ƙarin amsoshi masu taimako.
Gina mataimakan kamfani na cikin gida ta hanyar daidaitawa akan nau'i-nau'i na amsa koyarwa da ƙungiyoyin doka suka rubuta
Hanyoyin Aiwatarwa
Tuna koyarwa a aikace
Juyar da ƙirar ƙirar GPT mai tushe zuwa mataimakiyar taɗi wanda ke amsa tambayoyi maimakon maimaita su.
Juya samfurin salon GPT tushe zuwa mataimakiyar taɗi wanda ke amsa tambayoyi maimakon maimaita su Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ƙofofin inganci a gaba, kiyaye hanyar haɓakar ɗan adam don shari'o'in gefe, da bin duk nasarorin samarwa da ƙimar kuskure akan lokaci.
Tuna koyarwa a aikace
FLAN-T5, daidaitacce a cikin ayyuka da yawa don ta iya bin umarnin da ba a taɓa horar da shi ba.
FLAN-T5, mai kyau-sauraron ayyuka da yawa don haka zai iya bin umarnin ba a taɓa horar da shi a sarari akan Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don ƙararraki, da bin diddigin abubuwan samarwa da ƙimar kuskure akan lokaci.
Tuna koyarwa a aikace
InstructGPT, inda GPT-3 aka daidaita-umarni akan abubuwan da aka tsara don samar da ƙarin amsoshi masu taimako.
InstructGPT, inda GPT-3 aka daidaita umarni akan abubuwan da aka tsara don samar da ƙarin amsoshi masu taimako Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don shari'o'in ƙira, da bin duk nasarorin samarwa da farashi na kuskure akan lokaci.
Tuna koyarwa a aikace
Gina mataimakan kamfani na cikin gida ta hanyar daidaitawa akan nau'i-nau'i na amsa koyarwa da ƙungiyoyin doka suka rubuta.
Gina mataimaki na kamfani na ciki ta hanyar daidaitawa kan nau'ikan amsawa na umarni da aka rubuta ta hanyar tallafi da ƙungiyoyin doka Ƙungiyoyi yawanci suna samun sakamako mafi kyau lokacin da suka ayyana ma'auni masu inganci a gaba, kiyaye hanyar haɓakar ɗan adam don ƙararraki, da bin diddigin nasarorin samarwa da ƙimar kuskure a kan lokaci.
Hatsari & Tsare-tsare
Abubuwan da aka ruɗe suna iya shigar da rahotanni cikin nutsuwa, kwararar tallafi, ko abubuwan bincike.
Hankali na gaggawa na iya ƙirƙirar sakamako mara daidaituwa a cikin buƙatun iri ɗaya.
Za a iya fallasa bayanan rubutu mai ma'ana idan ikon samun dama yana da rauni.
Taswirar Hanya
Ƙayyade tsarin fitarwa, sautin, da ma'auni masu inganci kafin fitowa.
Ƙayyade tsarin fitarwa, sautin, da ma'auni masu inganci kafin fitowa. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Amsa a ƙasa tare da amintattun tushe a duk lokacin da daidaito ya shafi mahimmanci.
Amsa a ƙasa tare da amintattun tushe a duk lokacin da daidaito ya shafi mahimmanci. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Ajiye wurin binciken ɗan adam don abubuwan da ake samu masu girma.
Ajiye wurin binciken ɗan adam don abubuwan da ake samu masu girma. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.
Bibiyar tsarin gazawar kuma sake horar da tsokaci ko tafiyar aiki akai-akai.
Bibiyar tsarin gazawar kuma sake horar da tsokaci ko tafiyar aiki akai-akai. Ɗauki kowane mataki azaman ƙofar shaida: idan ba a cika sharuɗɗa ba, dakatar da fitar, rufe tazarar, sannan kawai faɗaɗa amfani.