Itan-akọọlẹ GPT

Ilana iwadi GPT akọkọ ṣawari iṣaaju awoṣe ede, gbigbe iṣẹ ti o gbooro, ati ẹkọ lati awọn apẹẹrẹ ti a pese ni ipo. Itọsọna yii bo awọn iṣẹlẹ iwadi wọnyẹn, dipo fifihan atokọ pipe tabi ẹya ọja lọwọlọwọ.

Awọn gbigba bọtini

• Ka awọn itan itan ti o wa ni ayika rẹ.
• Ṣe iyatọ awọn apẹẹrẹ inu-ipo lati awọn imudojuiwọn iwuwo.
• Ṣe afẹri awọn awoṣe iwadi lati awọn ọja ti a kọ ni ayika wọn.

Iṣẹ 2018 darapọ iṣaaju awoṣe ede ti ko ni abojuto pẹlu aṣamubadọgba abojuto si awọn iṣẹ-ṣiṣe oye ede. Ilowosi rẹ ni ibatan bi oluyipada ti o gbooro le ṣe atilẹyin ọpọlọpọ awọn iṣẹ-ṣiṣe isalẹ pẹlu ṣiṣatunṣe itanran-pato. Ijabọ 2019 GPT-2 ṣe ayẹwo awọn awoṣe ede bi awọn ọmọ ile-iwe multitask ti ko ni abojuto. O kẹkọọ boya awoṣe ede atẹle le ṣe awọn iṣẹ-ṣiṣe ti a ṣalaye nipasẹ ọrọ laisi ilana ikẹkọ lọtọ fun iṣẹ kọọkan. Awọn ọrọ iwadii: abajade lori igbelewọn kan pato ko tumọ si pe gbogbo iṣẹ-ṣiṣe ni a yanju. Iṣẹ GPT-3 2020 tẹnumọ igbelewọn diẹ. Awọn apẹẹrẹ wa ninu ipo titẹ sii, gbigba awoṣe laaye lati gbiyanju iṣẹ-ṣiṣe laisi imudojuiwọn gradient fun iṣẹ kọọkan lakoko igbelewọn ti a royin. Eyi yatọ si awọn ipilẹ awoṣe lori data ti a samisi. Jeki awọn orukọ iwadii, awọn ẹya awoṣe, ati awọn ọja lọtọ. Awọn iwiregbe iwiregbe, gbigba, awọn irinṣẹ, ati aṣamubadọgba nigbamii le yipada bi eto kan ṣe huwa kọja awoṣe ede ipilẹ rẹ. Awọn abajade itan yẹ ki o ka pẹlu awọn data wọn, awọn itọnisọna, awọn eto igbelewọn, ati awọn idiwọn. Wọn jẹ ẹri ti idanwo kan pato dipo awọn wiwọn ailakoko ti awọn ọja lọwọlọwọ.

1. Foju inu wo classifier kan ti o ni awọn apẹẹrẹ mẹta ti a samisi ṣaaju ifiranṣẹ kẹrin. Idahun rẹ yipada, ṣugbọn ko si iṣẹ ikẹkọ ti o ṣiṣẹ.
2. Ṣe apejuwe eyi bi apẹẹrẹ ti o wa ni ayika, kii ṣe bi awoṣe tuntun ti o ni ikẹkọ tuntun.
3. Ti iṣẹ ọtọtọ ba ṣe imudojuiwọn nipa lilo ọpọlọpọ awọn ifiranṣẹ ti a samisi, ṣe igbasilẹ data ati ẹya awoṣe tuntun bi ṣiṣatunṣe daradara.

Ifiwera ti a ṣe ṣe iranlọwọ lati yago fun idapọ awọn imọran pataki meji ninu itan GPT.