Quiz połączony z przewodnikiem · Średni Poziom

Quiz EleutherAI

Przejrzyj modele języka otwartego EleutherAI, zbiór danych Pile, narzędzia ewaluacyjne i praktyczne opcje architektury, takie jak RoPE.

Powiązane ścieżki prowadząceEleutherai
Pytanie 1 z 8

How did EleutherAI first bring together its research community?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. How did EleutherAI first bring together its research community?
    • As a Discord server for discussing GPT-3 and open language modeling
    • Jako startup finansowany przez przedsięwzięcie w Dolinie Krzemowej
    • Jako rządowe laboratorium badawcze
    • As a university’s official AI department
  2. Co to jest „Stos”?
    • Autorski produkt typu chatbot
    • Otwarty zestaw danych tekstowych o pojemności 825 GB do modeli języków szkoleniowych
    • Rodzaj warstwy sieci neuronowej
    • Platforma przetwarzania w chmurze EleutherAI
  3. Który z nich jest modelem języka EleutherAI?
    • BERT-duży
    • LLaMA-2
    • GPT-NeoX-20B
    • PaLM
  4. Do czego służy uprząż ewaluacyjna LM?
    • Generowanie obrazów z tekstu
    • Kompresja ciężarów modeli
    • Modele hostingowe jako internetowe interfejsy API
    • Porównanie modeli językowych w wielu zadaniach
  5. Which organizations are named in EleutherAI’s retrospective as research supporters?
    • CoreWeave and Google TPU Research Cloud
    • Nvidia and the National Science Foundation only
    • The U.S. Department of Energy and NASA
    • Amazon and the European Space Agency
  6. Jakiej zmiany organizacyjnej dokonał EleutherAI w 2023 roku?
    • Został przejęty przez OpenAI
    • Sformalizował się jako instytut badawczy non-profit
    • Stał się funduszem hedgingowym nastawionym na zysk
    • Wyłączył się całkowicie
  7. Which positional method does the GPT-NeoX-20B paper describe using instead of learned absolute position embeddings?
    • A separate learned embedding for every document
    • A convolutional image-position map
    • Rotary Positional Embeddings (RoPE)
    • A random position permutation at each layer
  8. What architectural arrangement is highlighted as a GPT-NeoX-20B difference from GPT-3?
    • The model replaces its Transformer with a decision tree
    • Every layer removes the attention mechanism
    • It uses only an encoder and no autoregressive decoder
    • Attention and feed-forward layers can be computed in parallel