Κουίζ που συνδέεται με οδηγό · Μεσαίο Επίπεδο

Κουίζ για υπολειμματικά δίκτυα

Εξετάστε τον υπολογισμό υπολειπόμενου μπλοκ, τις συντομεύσεις ταυτότητας, τις διαδρομές gradient, το βάθος της εποχής ImageNet και τον τρόπο επανεμφάνισης των υπολειμμάτων στις νευρωνικές αρχιτεκτονικές.

Σχετικές διαδρομές οδηγώνΥπολειμματικά Δίκτυα
Ερώτηση 1 του 8

Τι πρόβλημα έλυσαν συγκεκριμένα οι υπολειπόμενες συνδέσεις;

Προεπισκόπηση κάθε ερώτησης8 ερωτήσεις

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

  1. Τι πρόβλημα έλυσαν συγκεκριμένα οι υπολειπόμενες συνδέσεις;
    • Βαθύτερα δίκτυα που εκπαιδεύονται χειρότερα από τα πιο ρηχά (υποβάθμιση)
    • Οι εικόνες είναι πολύ χαμηλής ανάλυσης
    • Έλλειψη σημασμένων δεδομένων εκπαίδευσης
    • Οι GPU εξαντλούνται από τη μνήμη
  2. What does a basic residual block compute when input and output dimensions match?
    • Multiplies the input by itself
    • Adds the block’s learned residual function to its input, y = F(x) + x
    • Drops the input and returns zero
    • Sorts input channels alphabetically
  3. Γιατί οι συνδέσεις παράλειψης βοηθούν τις κλίσεις κατά τη διάρκεια της προπόνησης;
    • They eliminate the need to train weights
    • They force every layer to output zero
    • They provide an additional direct path for gradient flow around the learned transformation
    • They make deep networks immune to all optimization problems
  4. How deep was the deepest ResNet evaluated in the original ImageNet paper?
    • 18 layers
    • 34 layers
    • 50 layers
    • 152 στρώσεις
  5. Εάν τα στρώματα ενός υπολειπόμενου μπλοκ μαθαίνουν F(x) = 0, τι κάνει το μπλοκ;
    • Περνάει αποτελεσματικά την είσοδο αμετάβλητη (ταυτότητα)
    • Βγάζει μηδέν και σπάει το δίκτυο
    • Διπλασιάζει την είσοδο
    • Τυχαιοποιεί την έξοδο
  6. What residual connection does the Transformer paper describe around attention and feed-forward sublayers?
    • Replace the sublayer input with a class label
    • Add each sublayer’s output to the sublayer input through a residual connection
    • Average every token globally at the output only
    • Remove the residual stream after self-attention
  7. When a residual block changes channel dimensions, what can a projection shortcut do?
    • Convert the input into a text sequence
    • Remove the residual branch
    • Map the shortcut input to the dimensions required for addition
    • Guarantee that every gradient has unit magnitude
  8. What sequence of convolutions defines the original ResNet bottleneck block?
    • Three 3×3 convolutions only
    • A 3×3 convolution followed by two fully connected layers
    • A pooling layer followed by two transposed convolutions
    • A 1×1, then 3×3, then 1×1 convolution