Idanwo Tuning kiakia

Awọn idahun ati awọn alaye han bi o ṣe n mu ibeere naa.

1. Kini 'irọra itọka' ni yiyi kiakia?
   • Kọ ẹkọ awọn ifisinu ifibọ lemọlemọfún ti ko nilo maapu si awọn ọrọ gidi
   • Itọnisọna ọrọ ti o ni itara
   • A kere distilled daakọ ti awọn awoṣe
   • A ṣeto ti tutunini o wu logits
2. Nibo ni yiyi kiakia ṣe ṣafikun awọn fekito ikẹkọ rẹ?
   • Ni gbogbo Layer transformer
   • Nikan ni Layer ifibọ input
   • Nikan ni o wu Layer
   • Inu awọn optimizer ipinle
3. Ipa iyalẹnu wo ni iwe atilẹba ṣe afihan nipa iwọn awoṣe?
   • Yiyi kiakia n buru si bi awọn awoṣe ti ndagba
   • Iwọn ko ni ipa lori yiyi kiakia
   • Bi awọn awoṣe ti ndagba ti o tobi, yiyi kiakia n sunmọ didara-tuning didara ni kikun
   • Awọn awoṣe ti o tobi julọ ko le ṣe atunṣe ni kiakia
4. Tani o ṣe afihan atunṣe kiakia?
   • DeepMind ni ọdun 2016
   • Anthropic ni ọdun 2023
   • Microsoft ni ọdun 2019
   • Awọn oniwadi ni Google (Lester, Al-Rfou, Constant) ni 2021
5. Bawo ni yiyi kiakia ṣe mu ṣiṣẹ ọpọlọpọ awọn iṣẹ ṣiṣe lati awoṣe kan?
   • Iṣẹ-ṣiṣe kọọkan nlo itọsẹ rirọ kekere tirẹ nigba ti awoṣe naa wa ni didi
   • O retrains gbogbo awoṣe fun kọọkan ìbéèrè
   • O npa awọn iṣẹ ṣiṣe ti ko lo kuro ninu awọn iwuwo
   • O nilo GPU lọtọ fun iṣẹ-ṣiṣe kan
6. Bawo ni Lester ati iwe awọn ẹlẹgbẹ ṣe ṣapejuwe yiyi kiakia ni ibatan si iṣatunṣe iṣaaju?
   • Bi awọn kan aropo fun tutunini ede awọn awoṣe
   • Gẹgẹbi ọna ti o ni ibatan ti o rọrun ti iwe naa ṣe afiwe pẹlu iṣatunṣe iṣaaju
   • Bi tokenizer ti ko si awọn paramita ikẹkọ
   • Bi ọna ti o ṣe imudojuiwọn iwuwo awoṣe gbogbo
7. Idile awoṣe wo ni Lester ati awọn ẹlẹgbẹ lo lati ṣe iwadi yiyi kiakia kọja awọn iwọn?
   • WaveNet
   • AlphaFold2
   • T5
   • Igbo ipinya
8. Bawo ni awọn itọsẹ rirọ ti jẹ iṣapeye ni titunṣe kiakia?
   • Nipa yiyipada gbogbo awọn iwọn awoṣe fun iṣẹ-ṣiṣe kọọkan
   • Nipa rirọpo awọn ifibọ pẹlu awọn ọrọ ti o ni koodu lile nikan
   • Nipa ikẹkọ titun tokenizer fun gbogbo apẹẹrẹ
   • Nipa isọdọtun nipasẹ awoṣe ede tio tutunini lati ṣe imudojuiwọn awọn fekito kiakia