Powrót do wszystkich quizówQuiz połączony z przewodnikiemCiężko Poziom6 Pytania

Quiz równoległy w pełni podzielonych danych

Sprawdź swoją wiedzę na temat sposobu, w jaki Fully Sharded Data Parallel dzieli modele i zarządza pamięcią podczas rozproszonego szkolenia.

Powiązane ścieżki prowadzące

Pytanie 1 z 6Poprawnie: 0

Co powoduje fragmentację FSDP między procesorami graficznymi, czego NIE robi standardowa równoległość danych?