無料のAIライブラリ

技術的な ガイド永久無料。

177 平易な英語のガイド、構造化された学習パス、オープン ライブラリ - 独立した 501(c)(3) 非営利団体によって構築され、誰でも最新の AI を理解できるようになります。

177無料ガイド
1トピックトラック
~2 minガイドごと
~6h読書時間

ここから始めましょう

5 成果ベースのコース

各コースには、明示的な成果、マッピングされたコンピテンシー、練習アクティビティ、および適用されたキャップストーンが含まれています。

トピックトラック

トラックごとに閲覧する

気になるエリアに飛び込んでみましょう。すべてのトラックには複数のわかりやすい英語のガイドが付いています。

フルライブラリ

すべてのガイド

177 1019 ガイドが表示されます。トラックでフィルタリングするか、上で検索してください。

技術的な

シーケンスの並列性とリング アテンション

シーケンスの並列処理により、単一の長い入力シーケンスがトークン (時間) 次元に沿って複数の GPU に分割され、リング アテンションによりそれらの GPU が計算できるようになります。

2 最小読み取り読む
技術的な

アクティベーションの再計算のトレードオフ

アクティベーションの再計算 (勾配またはアクティベーション チェックポインティング) は、フォワード パスで中間アクティベーションを破棄することでトレーニング中に GPU メモリを節約します。

2 最小読み取り読む
技術的な

グループ相対ポリシーの最適化

グループ相対ポリシー最適化 (GRPO) は、グループに対して各回答を判断する言語モデルを微調整するための強化学習手法です。

2 最小読み取り読む
技術的な

フローの正規化

正規化フローは、可逆的かつ微分可能な一連のプロセスを通じて、単純なノイズ (ガウス分布など) を複雑なデータに変換する生成モデルです。

2 最小読み取り読む
技術的な

エネルギーベースのモデル

エネルギーベース モデル (EBM) は、妥当なデータに低い値を割り当て、ありえないデータに高い値を割り当てるスカラー「エネルギー」関数を学習し、次のように定義します。

2 最小読み取り読む
技術的な

オプティマイザー状態の CPU および NVMe へのオフロード

トレーニングの膨大な記録 (オプティマイザーの状態、勾配、場合によっては重み) を代わりに CPU RAM または NVMe SSD に保存するメモリ節約のトリック…

2 最小読み取り読む
技術的な

チェックポイントシャーディングと再開可能なトレーニング

モデルのトレーニング状態を断片 (シャード) に分けて保存するためのテクニック。これにより、メモリやディスクの制限に悩まされることなく巨大なモデルを保存および再ロードできるようになります。

2 最小読み取り読む
技術的な

GPU メモリ管理と断片化

AI フレームワークが GPU 上の限られたメモリをどのように割り当て、再利用、再利用するのか、そしてなぜ残ったギャップ (断片化) が原因でメモリ不足エラーが発生するのか…

2 最小読み取り読む
技術的な

マルチインスタンス GPU パーティショニング

マルチインスタンス GPU (MIG) は、単一の物理 GPU を複数の分離されたハードウェア パーティションにスライスする NVIDIA テクノロジです。

2 最小読み取り読む
技術的な

GPU スケジューリングとクラスター オーケストレーション

GPU スケジューリングは、どのジョブをどのアクセラレータでいつ実行するかを決定し、オーケストレーションはマシンのクラスター全体でこれらのジョブを調整します。

2 最小読み取り読む
技術的な

AI トレーニング クラスター用の Slurm

Slurm は、ハイパフォーマンス コンピューティング クラスター上でジョブをスケジュールして実行するオープンソースのワークロード マネージャーであり、大規模な AI のデフォルトの選択肢となっています。

2 最小読み取り読む
技術的な

計画と解決のプロンプト

Plan-and-Solve (PS) プロンプトは、言語モデルに対し、最初に明示的な計画を考案し、次にそれを段階的に実行し、明白な失敗を修正するように指示します。

2 最小読み取り読む

読み終わりましたか?証明してみろ。

Check what you learned with a topic quiz, then explore our structured courses or work toward a certificate. Every guide stays free to read.