Quiz dotyczący zmiany rankingu modeli

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Jakie zadanie ma osoba dokonująca zmiany rankingu w typowym dwuetapowym procesie wyszukiwania?
   • Aby ponownie ocenić i zmienić kolejność krótkiej listy kandydatów pod kątem przydatności
   • Aby wyciągnąć pierwszych kandydatów z milionów dokumentów
   • Do przechowywania dokumentów w bazie danych
   • Aby wygenerować ostateczną odpowiedź w języku naturalnym
2. Besides MS MARCO, on which dataset did Nogueira and Cho report strong results for their BERT passage reranker?
   • ImageNet
   • TREC-CAR
   • LibriSpeech
   • SQuAD only
3. Dlaczego narzędzia do zmiany rankingu między koderami nie można użyć do bezpośredniego przeszukiwania milionów dokumentów?
   • Działa tylko na obrazach
   • Nie może czytać tekstu
   • Jego wyniki muszą być obliczane na nowo dla każdej pary zapytanie-dokument, co jest zbyt powolne w skali
   • Nie wymaga w ogóle żadnych obliczeń
4. Jaka jest główna zaleta bi-enkodera w porównaniu z cross-enkoderem?
   • Jest bardziej dokładny w przypadku drobnoziarnistego trafności
   • Zawsze idealnie zmienia kolejność wyników
   • Nie potrzebuje danych treningowych
   • Osadzanie dokumentów można wstępnie obliczyć, dzięki czemu wyszukiwanie jest szybkie i skalowalne
5. How can a reranker affect context quality in a retrieval-augmented generation pipeline?
   • It can move more relevant retrieved candidates higher in the context shortlist, but does not guarantee correctness
   • It ensures every retrieved passage is factually correct
   • It creates missing documents in the corpus
   • It removes the need to evaluate retrieval
6. In listwise reranking, what does the model consider together?
   • Only one document with no query
   • A query and a set of candidate documents when deciding their ordering
   • Each document embedding before any candidate retrieval
   • A single relevance label for the full training corpus
7. What should a team verify before interpreting reranker scores as probabilities?
   • Whether every score is above zero
   • Whether the first-stage retriever was removed
   • Whether the scores have been calibrated and evaluated for that use
   • Whether the model has more parameters than the retriever
8. What limitation does a reranker inherit from the first-stage retrieval system?
   • It always returns a calibrated probability
   • It removes the need for retrieval
   • It guarantees a correct generated answer
   • It cannot promote a relevant document that was never included in the candidate set