Akopọ
Titun-ṣere ti ara ẹni ṣe ilọsiwaju awoṣe kan nipa jijẹ ki o dije lodi si tabi kọ ẹkọ lati awọn abajade ti ara rẹ ti o kọja, ti ipilẹṣẹ ifihan agbara ikẹkọ tirẹ. O ṣe pataki nitori pe o le Titari iṣẹ kọja data ti a ṣe abojuto nipa lilo aami eniyan diẹ tabi ko si afikun.
Ti ara ẹni-Mu Fine-Tuning joko ni ohun elo AI mojuto. Nigbati o ba loye rẹ, awọn akọle AI miiran di rọrun lati ṣe iṣiro ati afiwe.
Jin Dive
Idaraya ti ara ẹni ni awọn gbongbo ti o jinlẹ ninu ere AI: AlphaGo Zero ati AlphaZero de ere ti o ju eniyan lọ ni mimọ nipasẹ ṣiṣere awọn miliọnu awọn ere si ara wọn, laisi awọn igbasilẹ ere eniyan. Ẹmi kan naa han ni bayi ni atunṣe-apẹrẹ-apẹrẹ ede. Ni SPIN (Self-Play fine-tuNing), awoṣe ti o wa lọwọlọwọ n ṣe awọn idahun si awọn itara, ati ikẹkọ titari awoṣe lati ṣe iyatọ awọn idahun ti ipilẹṣẹ ti ara rẹ lati awọn atilẹba ti a kọ eniyan, tọju ararẹ bi mejeeji ẹrọ orin ati alatako. Lori awọn aṣetunṣe ti o tẹle ni 'alatako' (oju-ọna ayẹwo iṣaaju) n ni okun sii, nitorinaa awoṣe gbọdọ tẹsiwaju ni ilọsiwaju, diėdiẹ tiipa aafo naa pẹlu pinpin ibi-afẹde. Afilọ nla ni ṣiṣe data: ipilẹ data ti o ni abojuto ti o wa titi le jẹ fun pọ fun awọn anfani diẹ sii laisi ikojọpọ awọn ifihan eniyan tuntun tabi awọn ayanfẹ.
Imọ-imọ-ẹrọ
Awọn fireemu SPIN ti o dara-tuntun bi ere elere meji pẹlu pipadanu ara DPO: awoṣe ti ni ikẹkọ lati fi o ṣeeṣe ti o ga julọ si awọn idahun itọkasi eniyan ju awọn ti o ṣẹda ti ara ẹni lati iṣaju iṣaaju. Nitori aaye ayẹwo ti tẹlẹ n pese awọn odi, iṣoro naa ṣe iwọn laifọwọyi bi awoṣe ṣe dara si. Ninu awọn ọna ṣiṣe ere, ere ti ara ẹni ni a so pọ pẹlu wiwa (fun apẹẹrẹ, MCTS) ati nẹtiwọọki iye kan, ti n ṣe agbekalẹ eto-ẹkọ ailopin ti awọn alatako lile ni ilọsiwaju laisi data ita.
Mastering ara-Play Fine-Tuning
Titun-ṣere ti ara ẹni ṣe ilọsiwaju awoṣe kan nipa jijẹ ki o dije lodi si tabi kọ ẹkọ lati awọn abajade ti ara rẹ ti o kọja, ti ipilẹṣẹ ifihan agbara ikẹkọ tirẹ. O ṣe pataki nitori pe o le Titari iṣẹ kọja data ti a ṣe abojuto nipa lilo aami eniyan diẹ tabi ko si afikun. Ti ara ẹni-Mu Fine-Tuning joko ni ohun elo AI mojuto. Nigbati o ba loye rẹ, awọn akọle AI miiran di rọrun lati ṣe iṣiro ati afiwe. Lati kọ oye ti o jinlẹ, ṣe itọju Ara-Play Fine-Tuning bi awoṣe iṣẹ, kii ṣe ẹya ẹyọkan: ṣalaye awọn abajade ti o fẹ, ṣalaye awọn arosọ, ati yapa ohun ti eto le ṣe ni igbẹkẹle lati ohun ti o tun nilo idajọ amoye.
Ni iṣe, awọn ẹgbẹ ti o lagbara ti o nlo Ara-Play Fine-Tuning kọ awọn awoṣe imọran ti o lagbara ni akọkọ, lẹhinna ṣe maapu awọn awoṣe wọnyẹn si awọn idiwọ iṣelọpọ gidi. Wọn ṣe akọsilẹ awọn ibeere aṣeyọri ti o fojuhan, idanwo lodi si data ojulowo ati ṣiṣan iṣẹ, ati atunbere ti o da lori awọn ilana ikuna ti a ṣakiyesi dipo awọn bori ala-akoko kan. Eyi ni ibiti oye imọ-jinlẹ yipada si agbara ti o tọ kọja ọja, eto imulo, ati awọn iṣẹ ṣiṣe.
O ṣe iranlọwọ fun ọ lati ya sọtọ awọn iṣeduro imọ-ẹrọ lati ede tita. Ni akoko kanna, Awọn ẹgbẹ oriṣiriṣi le lo ọrọ kanna ni oriṣiriṣi, nitorinaa ṣalaye iwọn ni kutukutu. Ọna resilient julọ julọ ni lati darapọ iyara idanwo pẹlu ibawi ijọba: ṣiṣe awọn awakọ awakọ, mu ẹri mu, ṣe atẹjade awọn iwe ipinnu, ati imudojuiwọn awọn aabo nigbagbogbo bi ihuwasi awoṣe, awọn ireti olumulo, ati awọn ibeere ilana ti dagbasoke.
Ipa Ilana
O ṣe iranlọwọ fun ọ lati ya sọtọ awọn iṣeduro imọ-ẹrọ lati ede tita.
O ṣe iranlọwọ fun ọ lati ya sọtọ awọn iṣeduro imọ-ẹrọ lati ede tita. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
O le beere awọn ibeere imuse to dara julọ ṣaaju lilo owo tabi akoko.
O le beere awọn ibeere imuse to dara julọ ṣaaju lilo owo tabi akoko. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Awọn ẹgbẹ pẹlu oye pinpin ṣe ọja to dara julọ, eto imulo, ati awọn ipinnu ikẹkọ.
Awọn ẹgbẹ pẹlu oye pinpin ṣe ọja to dara julọ, eto imulo, ati awọn ipinnu ikẹkọ. Ni awọn imuṣiṣẹ ti o ni agbara giga, eyi ni a tumọ si awọn ofin iṣiṣẹ wiwọn, awọn aala nini, ati awọn ilana atunyẹwo loorekoore ki awọn ẹgbẹ le ṣe iwọn igbẹkẹle dipo iwọn aibikita.
Real-World imuse
AlphaGo Zero ati AlphaZero de ọdọ Go, chess, ati shogi patapata nipasẹ ṣiṣere ti ara ẹni laisi awọn ere eniyan
SPIN n ṣe alekun awọn ikun ala ala LLM nipasẹ iyasọtọ iyasọtọ awọn abajade tirẹ lati awọn idahun itọkasi eniyan
Iṣiro ati awọn awoṣe ifaminsi ti n ṣe awọn igbiyanju ojutu, lẹhinna ikẹkọ lori awọn ti a rii daju nipasẹ awọn oluyẹwo laifọwọyi tabi awọn idanwo ẹyọkan
Idunadura ati awọn aṣoju ifọrọwerọ imudara ilana nipa ṣiṣere leralera awọn ẹgbẹ mejeeji ti ibaraẹnisọrọ si ara wọn
Awọn Ilana imuse
Ara-Play Fine-Tuning ni asa
AlphaGo Zero ati AlphaZero de superhuman Go, chess, ati shogi patapata nipasẹ ṣiṣere ti ara ẹni laisi awọn ere eniyan.
AlphaGo Zero ati AlphaZero de ọdọ superhuman Go, chess, ati shogi patapata nipasẹ ṣiṣere ti ara ẹni laisi awọn ere eniyan Awọn ẹgbẹ nigbagbogbo gba awọn abajade ti o dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe lori akoko.
Ara-Play Fine-Tuning ni asa
SPIN n ṣe alekun awọn ikun ala ala LLM nipasẹ iyasọtọ iyasọtọ awọn abajade tirẹ lati awọn idahun itọkasi eniyan.
SPIN n ṣe alekun awọn ikun ala ala LLM nipasẹ iyasọtọ iyasọtọ awọn abajade tirẹ lati awọn idahun itọkasi eniyan Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna igbega eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
Ara-Play Fine-Tuning ni asa
Iṣiro ati awọn awoṣe ifaminsi ti n ṣe awọn igbiyanju ojutu, lẹhinna ikẹkọ lori awọn ti a rii daju nipasẹ awọn oluyẹwo laifọwọyi tabi awọn idanwo ẹyọkan.
Iṣiro ati awọn awoṣe ifaminsi ti n ṣe awọn igbiyanju ojutu, lẹhinna ikẹkọ lori awọn ti o rii daju nipasẹ awọn oluyẹwo laifọwọyi tabi awọn idanwo apakan Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa mejeeji awọn anfani iṣelọpọ ati awọn idiyele aṣiṣe ni akoko pupọ.
Ara-Play Fine-Tuning ni asa
Idunadura ati awọn aṣoju ifọrọwerọ imudara ilana nipa ṣiṣere leralera awọn ẹgbẹ mejeeji ti ibaraẹnisọrọ si ara wọn.
Idunadura ati awọn aṣoju ifọrọwerọ imudara ilana nipa ṣiṣere leralera awọn ẹgbẹ mejeeji ti ibaraẹnisọrọ si ara wọn Awọn ẹgbẹ nigbagbogbo gba awọn abajade to dara julọ nigbati wọn ṣalaye awọn ilodi didara ni iwaju, tọju ọna imudara eniyan fun awọn ọran eti, ati tọpa awọn anfani iṣelọpọ mejeeji ati awọn idiyele aṣiṣe lori akoko.
Awọn ewu & Awọn ọna iṣọ
Awọn ẹgbẹ oriṣiriṣi le lo ọrọ kanna ni oriṣiriṣi, nitorinaa ṣalaye iwọn ni kutukutu.
Awọn aṣepari le wo lagbara lakoko ti iṣẹ-aye gidi ko ṣe deede.
Aibikita didara data ati awọn ero igbelewọn nigbagbogbo ṣẹda awọn abajade ẹlẹgẹ.
Ilana Ilana imuse
Bẹrẹ pẹlu itumọ-ede itele ti abajade ti o nilo.
Bẹrẹ pẹlu itumọ-ede itele ti abajade ti o nilo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Mu metiriki aṣeyọri kan ati ipo ikuna kan ṣaaju idanwo.
Mu metiriki aṣeyọri kan ati ipo ikuna kan ṣaaju idanwo. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Ṣiṣe awakọ kekere kan pẹlu data aṣoju, kii ṣe eto demo didan.
Ṣiṣe awakọ kekere kan pẹlu data aṣoju, kii ṣe eto demo didan. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.
Iwe-ipamọ nibiti Iṣere-ara-ara Fine-Tuning ṣe iranlọwọ ati nibiti awọn ọna ti o rọrun dara julọ.
Iwe-ipamọ nibiti Iṣere-ara-ara Fine-Tuning ṣe iranlọwọ ati nibiti awọn ọna ti o rọrun dara julọ. Ṣe itọju igbesẹ kọọkan bi ẹnu-ọna ẹri: ti awọn ibeere ko ba ni ibamu, daduro yiyọ kuro, pa aafo naa, ati lẹhinna faagun lilo.