Küçük Dil Modelleri Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Kompakt bir dil modeli uygulamasını hangi kaynak hedefi motive eder?
   • Her görevde her büyük modeli geride bıraktığını garanti etmek
   • Seçilen bir görev ve cihaz kurulumu için kaynak taleplerini azaltma
   • Tüm eğitim verilerine olan ihtiyacın ortadan kaldırılması
   • Her telefonun her kontrol noktasını aynı şekilde çalıştırdığını kanıtlamak
2. Alıntı yapılan Phi çalışmaları model boyutunun yanı sıra hangi eğitim faktörünü araştırıyor?
   • Seçilmiş, filtrelenmiş veya sentetik eğitim verileri seçenekleri
   • Yalnızca rastgele, filtrelenmemiş, hiçbir amacı olmayan veriler
   • Tüm model parametrelerinin kaldırılması
   • Sadece geceleri antrenman yapma zorunluluğu
3. Öğretmen/öğrenci bilgisinin damıtılması öğrenciyi nelerden öğrenmesi için eğitir?
   • Yalnızca yeni bir resim dosyası uzantısı
   • Mümkün olan her öğretmen yeteneğinin garantisi
   • Belirlenen bir amaç kapsamında öğretmenin çıktıları veya dağılımları
   • Yalnızca donanım sıcaklığı etiketi
4. Burada açıklanan depolama kurulumunda ağırlık nicelemesi neyi değiştirir?
   • Mutlaka model parametrelerinin sayısı
   • Her çıktı cümlesinin dili
   • Yalnızca dosya adlarının sırası
   • Ağırlıklar için kullanılan sayısal gösterim ve bitler
5. Hangi sıkıştırma işlemi seçilen ağ bağlantılarını kaldırır veya bastırır?
   • Budama
   • Yalnızca istemin yazı tipini değiştirme
   • Sadece kelime dağarcığını genişletiyorum
   • Yalnızca her ağırlığı orijinal değerinde tutmak
6. Anahtar/değer dikkati önbelleği, otoregresif oluşturma sırasında hangi işin tekrarlanmasını önler?
   • Gelecekteki olası her eğitim operasyonu
   • Her uygulama için tüm metin belirleme çalışmaları
   • Sonraki belirteç işleme için önceki anahtarları ve değerleri yeniden hesaplama
   • Herhangi bir durumu koruma ihtiyacı
7. Tüm ek yükleri göz ardı edersek, her biri 4 bit olarak paketlenmiş 3,8 milyar skaler ağırlık için ne kadar ham depolamaya ihtiyaç vardır?
   • 3,8 milyar bayt
   • 15,2 milyar bayt
   • 0,475 milyar bayt
   • 1,9 milyar bayt
8. Orijinal Phi-3 raporunda phi-3-mini için kaç eğitim jetonu belirtiliyor?
   • 3,8 milyar jeton
   • 3,3 trilyon jeton
   • Yalnızca 3,3 milyon jeton
   • Eğitim jetonu sayısı belirtilmedi