SwiGLU とゲート付きアクティベーションのクイズ

ゲート アクティベーションについての理解と、SwiGLU が標準のトランスフォーマー フィードフォワード レイヤーになった理由を確認してください。