Tunatarwa Umarni
Tunanin koyarwa shine matakin horo wanda ke mai da ɗan tsinkaya rubutu zuwa ƙirar da a zahiri ke bin umarni kamar 'takaita wannan' ko 'rubuta amsa mai ladabi.' Shi ne abin da ke sa samfurin tushe ya ji taimako da kuma iya jurewa.
Zurfafa nutsewa
An horar da ƙirar harshe na tushe kawai don tsinkaya alama ta gaba akan rubutun gidan yanar gizo, don haka idan kun buga tambaya zai iya ci gaba da ƙarin tambayoyi maimakon amsa. Gyaran umarni yana gyara wannan. Wani nau'i ne na daidaitawa mai kyau: an horar da ƙirar akan nau'ikan nau'i-nau'i da yawa (umarni, kyakkyawar amsawa) wanda ke rufe dubban ayyuka - fassarar, taƙaitawa, rarrabawa, Q&A, coding, da ƙari. Ta hanyar ganin tsari iri ɗaya na koyarwa-sannan kuma mai taimako akai-akai, ƙirar tana koyon ɗabi'a na gabaɗaya na 'yin abin da mai amfani ya nema,' kuma wannan ya haɗa da umarnin da bai taɓa gani ba a horo. An kafa tsarin a kusa da 2021 ta hanyar aiki kamar FLAN, T0, da Umarnin Halitta, kuma ta kasance tsakiya ga OpenAI's InstructGPT, wanda ya daidaita GPT-3 akan tsarin koyarwar da aka tsara. Ita ce tushen yawancin mataimakan taɗi a kai.
Fahimtar Fasaha
A inji, kunna wa'azi daidaitaccen koyo ne da ake kulawa: rage bambanci tsakanin alamun da aka annabta na ƙirar da amsar tunani, tare da gradients suna sabunta ma'auni. Ya bambanta da RLHF (ƙarfafa koyo daga ra'ayoyin ɗan adam), wanda ke zuwa bayan kuma yana haɓaka abubuwan zaɓin ɗan adam ta amfani da samfurin lada. An tsara girke-girke na yau da kullun: pretrain, sannan koyarwa-tune (SFT) don koyar da bin ɗawainiya, sannan RLHF na zaɓi don daidaita sautin, taimako, da aminci. Bambance-bambancen bayanai yana da mahimmanci fiye da ƙarar girma - faffadan ɗaukar nauyi yana haifar da gama gari.
Dabarun Tasiri
Gudu da sikelin
Gudun aikin harshe na iya tafiya da sauri ba tare da sadaukar da daidaito ba.
Shiga ku isa
Yana faɗaɗa damar shiga cikin harsuna da salon sadarwa.
Shawarwari masu haske
Ƙungiyoyi za su iya ciyar da ƙarin lokaci akan hukunci yayin da aiki da kai ke sarrafa maimaitawa.
Makomar Tunanin Umarni
Filin yana jujjuya daga manyan bayanan da aka rubuta da hannu zuwa mafi inganci, wani bangare na bayanan roba - wani lokacin kawai wasu dubunnan misalai da aka zaba a hankali - bayan gano cewa ingancin bayanai na iya doke yawa. Yi tsammanin ƙarin takamaiman takamaiman koyarwa na yanki (likita, doka, coding), saitin koyarwa na harsuna da yawa da na zamani, da bututun mai sarrafa kansa waɗanda ke samarwa da tace bayanan koyarwa. Daidaita umarni zai kasance muhimmiyar gada tsakanin ingantaccen samfurin da aka riga aka horar da shi da kuma mataimaki mai amfani, ƙara haɗe tare da fifikon fifiko don daidaitawa.
Aiwatar da Gaskiyar Duniya
Juyar da ƙirar ƙirar GPT mai tushe zuwa mataimakiyar taɗi wanda ke amsa tambayoyi maimakon maimaita su
FLAN-T5, an daidaita shi cikin ayyuka da yawa don ya iya bin umarnin da ba a taɓa horar da shi ba
InstructGPT, inda GPT-3 aka daidaita-umarni akan abubuwan da aka tsara don samar da ƙarin amsoshi masu taimako.
Gina mataimakan kamfani na cikin gida ta hanyar daidaitawa akan nau'i-nau'i na amsa koyarwa da ƙungiyoyin doka suka rubuta
Hatsari & Tsare-tsare
Abubuwan da aka ruɗe suna iya shigar da rahotanni cikin nutsuwa, kwararar tallafi, ko abubuwan bincike.
Hankali na gaggawa na iya ƙirƙirar sakamako mara daidaituwa a cikin buƙatun iri ɗaya.
Za a iya fallasa bayanan rubutu mai ma'ana idan ikon samun dama yana da rauni.
Taswirar Hanya
Ƙayyade tsarin fitarwa, sautin, da ma'auni masu inganci kafin fitowa.
Amsa a ƙasa tare da amintattun tushe a duk lokacin da daidaito ya shafi mahimmanci.
Ajiye wurin binciken ɗan adam don abubuwan da ake samu masu girma.
Bibiyar tsarin gazawar kuma sake horar da tsokaci ko tafiyar aiki akai-akai.
Ci gaba da Bincike
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Instruction Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Jagora na gaba
Tuning Prefix
Tambayoyin da ake yawan yi
Menene Instruction Tuning?
Tunanin koyarwa shine matakin horo wanda ke mai da ɗan tsinkaya rubutu zuwa ƙirar da a zahiri ke bin umarni kamar 'takaita wannan' ko 'rubuta amsa mai ladabi.' Shi ne abin da ke sa samfurin tushe ya ji taimako da kuma iya jurewa.
Ta yaya kunna wa'azi ya bambanta da RLHF?
Ana kula da kunna koyarwa a kan martanin da aka yi niyya. RLHF yana zuwa daga baya kuma yana haɓaka ƙirar akan abubuwan da aka koya na ɗan adam.
Wace dukiya ce ta daidaita bayanan koyarwa da ya fi fitar da ikon samfurin don bin sabbin umarnin da ba a gani ba?
Rufe ayyuka iri-iri yana koyar da ɗabi'a na gaba ɗaya na bin umarni, wanda ke haɗawa ga umarnin da ba a taɓa gani ba a horo.
Wanne tsari ne na al'ada na matakan horo don mataimakiyar taɗi ta zamani?
An fara horar da samfura akan ɗanyen rubutu, sannan an daidaita umarni don bin ɗawainiya, kuma galibi ana tace su tare da RLHF don sauti da aminci.