Тест за тензорен паралелизъм за големи модели

Оценете вашето разбиране за това как тензорният паралелизъм наслоява изчисленията между GPU.