完全にシャード化されたデータの並列クイズ

Fully Sharded Data Parallel が分散トレーニング中にモデルを分割し、メモリを管理する方法についての理解をテストします。