Mit dem Guide verknüpftes Quiz · Mittel Ebene

Adapterschichten für Übertragungsquiz

Überprüfen Sie, wie Engpassadapter ein eingefrorenes Basismodell bewahren, modulare Aufgaben- oder Domänenübertragungen ermöglichen und mit LoRA vergleichen.

Verwandte FührungspfadeAdapterschichten für die Übertragung
Frage 1 von 8

Was passiert mit den ursprünglich vortrainierten Gewichten beim Training mit Adaptern?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Was passiert mit den ursprünglich vortrainierten Gewichten beim Training mit Adaptern?
    • Sie werden eingefroren, während nur die Adapterparameter trainiert werden
    • Sie werden gelöscht
    • Sie werden zufällig neu initialisiert
    • Sie sind doppelt so groß
  2. Was ist die typische interne Struktur eines Flaschenhalsadapters?
    • Eine einzige riesige dichte Schicht
    • Eine Abwärtsprojektion, eine Nichtlinearität, dann eine Aufwärtsprojektion mit einer Restverbindung
    • Nur ein Aufmerksamkeitskopf
    • Ein Faltungsbildfilter
  3. Welchen Anteil an Parametern trainieren Adapter normalerweise ungefähr?
    • 100 %
    • Genau 50 %
    • Oft unter 5 %
    • Überhaupt keine
  4. Warum sind Adapter für viele Aufgaben praktisch?
    • Sie erfordern eine separate vollständige Modellkopie pro Aufgabe
    • Sie können nicht kombiniert werden
    • Sie löschen das Basismodell nach jeder Aufgabe
    • Sie behalten ein Basismodell und tauschen kleine Adapter pro Aufgabe aus
  5. Zu welcher Technikfamilie gehören Adapter?
    • Parametereffiziente Feinabstimmung (PEFT)
    • Datenerweiterung
    • Bildkomprimierung
    • Tokenisierungsschemata
  6. Welchen Vorteil bietet LoRA gegenüber einem klassisch eingesetzten Adapter zur Inferenzzeit?
    • Es kann nicht trainiert werden
    • Die erlernten Gewichte können in die Basismatrizen eingefügt werden, wodurch zusätzliche Latenzzeiten pro Schicht vermieden werden
    • Es erfordert eine Neuschulung des gesamten Modells
    • Es entfernt die verbleibende Verbindung dauerhaft
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization