企業ガイド
LAION とオープン データセット
LAION はドイツの非営利団体で、安定拡散のようなオープン生成モデルのトレーニングを促進する大規模なオープン画像テキスト データセット、最も有名な LAION-5B をリリースしました。
このガイドを聴くAIによるナレーション · ~2 min
概要
これは、大企業以外の研究者がウェブスケールのマルチモーダル データを自由に利用できるようにしたため、重要です。
ディープダイブ
LAION (Large-scale Artificial Intelligence Open Network) is a German nonprofit founded in 2021 to democratize machine learning research by releasing large open datasets. Its best-known release, LAION-5B, contains roughly 5.85 billion image-text pairs filtered from Common Crawl web data using OpenAI's CLIP model to keep pairs where the caption and image align. LAION distributes URLs and metadata while the original image files remain on their web hosts. The dataset helped researchers train and study open image-text models, including Stable Diffusion. In December 2023, researchers reported URLs to suspected child sexual abuse material in LAION-5B, and LAION withdrew the dataset for a safety revision. In August 2024, LAION described Re-LAION versions created by comparing existing records with partner-provided hash lists. The release excludes known suspect links identified by those partners as of July 2024; LAION explicitly states that filters cannot guarantee all harmful content has been removed from web-scale data.
現実世界の実装
数十億の画像とキャプションのペアで安定拡散などのオープンなテキストから画像へのモデルをトレーニングする
CLIP スタイルの画像テキスト検索システムとゼロショット分類システムの構築とベンチマーク
データセットの偏り、コンテンツの安全性、データの出所をウェブ規模で調査する
言語、解像度、または美的スコアによってサブセットをフィルタリングして、特殊な微調整データセットを作成する
LAION とオープン データセットの未来
オープンなマルチモーダル データセットは、著作権、同意、有害なコンテンツに関するプレッシャーの増大に直面し、より強力なフィルタリング、ライセンスを意識した収集、オプトアウト レジストリの推進に向かうことになります。 LAION によるクリーンなデータセットの再リリースは、デフォルトのステップとしての安全性監査への移行を示しています。より多くの合成データまたはライセンスデータ、来歴標準、および検出ツールが期待されます。小規模研究室のオープンアクセスと、ウェブスクレイピングされたデータの法的および倫理的リスクとの間の緊張が、データセット構築の次の段階を決定づけることになります。
実践する
なぜそれが重要なのか
- ベンダー戦略. ベンダーのロードマップは、チームが次に構築できる機能に影響を与えます。
- 費用と予算. 商業条件と導入オプションは、長期的なコストとリスクに影響します。
- リスクと安全性. 企業のインセンティブは、製品のデフォルト、安全姿勢、オープン性を形成します。
気をつけてください
- 実際の制作ワークフローでは、発売の発表が安定性を上回る可能性があります。
- API の価格設定やポリシーの変更により、一夜にして想定が崩れる可能性があります。
- 単一ベンダーへの依存により、ロックインと移行のコストが増加します。
次のステップ
- 独自のタスクとデータセットを使用してプロバイダーを評価します。
- 統合する前に、プライバシー、セキュリティ、法的条件を確認してください。
- モデルやベンダー全体でフォールバック計画を維持します。
- ロードマップの変更がチームを驚かせないように、リリース ノートを監視します。
探検を続けましょう
よくある質問
LAION とオープン データセットとは何ですか?
LAION はドイツの非営利団体で、安定拡散のようなオープン生成モデルのトレーニングを促進する大規模なオープン画像テキスト データセット、最も有名な LAION-5B をリリースしました。これは、大企業以外の研究者がウェブスケールのマルチモーダル データを自由に利用できるようにしたため、重要です。
LAION は画像テキスト データセットで主に何を配布していますか?
LAION は画像をホストしません。 URL とメタデータを配布するので、ユーザーは元の Web ソースから画像を取得します。
LAION-5B にはおよそ何組の画像とテキストのペアがありますか?
LAION-5B には約 58 億 5,000 万の画像とテキストのペアが含まれているため、名前に「5B」が付いています。
LAION は、位置合わせの品質を高めるために画像とテキストのペアをフィルタリングするためにどのモデルを使用しましたか?
LAION は、OpenAI の CLIP を使用して、画像とキャプションの類似性を測定し、一致度の低いペアを破棄しました。
LAION データを使用してトレーニングされた著名なオープン生成モデルはどれですか?
オープンなテキストから画像へのモデルである安定拡散は、LAION の画像テキスト データでトレーニングされました。
LAIONが2023年12月にLAION-5Bを撤回するに至った原因は何ですか?
研究者らは、LAION-5B で CSAM の疑いのある URL を特定しました。 LAION はデータセットを撤回し、後にパートナー提供のハッシュ リストを使用したリビジョンについて説明しました。これは、すべての疑わしいリンクが生きていたこと、またはすべての有害な可能性のあるアイテムが削除されたことを証明するものではありません。