LAION 和開放資料集
LAION 是一家德國非營利組織，發布了大量開放圖像文字資料集，最著名的是 LAION-5B，它推動了穩定擴散等開放生成模型的訓練。
概述
It matters because it made web-scale multimodal data freely available to researchers outside large corporations.
深入探討
LAION（大規模人工智慧開放網路）是一家德國非營利組織，成立於 2021 年，旨在透過發布大型開放資料集使機器學習研究民主化。其最著名的版本 LAION-5B 包含大約 58.5 億個圖像文字對，這些圖像文字對是使用 OpenAI 的 CLIP 模型從 Common Crawl Web 資料中過濾出來的，以保持標題和圖像對齊的對。至關重要的是，LAION 本身並未託管這些映像；它們是由 LAION 託管的。它分發 URL 和元數據，因此用戶可以從原始網路資源下載圖像。這些數據集有助於訓練穩定擴散和其他開放的文本到圖像模型。 LAION 面臨著嚴格的審查：2023 年，研究人員在數據集中發現了非法濫用圖像的鏈接，促使 LAION 將其刪除、清理並重新發布更安全的版本，凸顯了未經過濾的網絡規模抓取的風險。
技術洞察
LAION-5B 是透過掃描 Common Crawl 來尋找具有替代文字的 HTML 圖片標籤，然後使用 CLIP 計算每個圖像與其標題之間的相似度來建立的。低於餘弦相似度閾值的對被丟棄，因此僅保留合理匹配的圖像文字對。此資料集按語言分割，並包含預先計算的 CLIP 嵌入，從而實現快速相似性搜尋。由於只儲存 URL，連結失效會隨著時間的推移逐漸降低可重複性。
戰略影響
供應商策略
供應商路線圖會影響您的團隊接下來可以建立的功能。
成本與預算
商業條款和部署選項會影響長期成本和風險。
風險與安全
公司激勵措施塑造了產品預設、安全態勢和開放性。
LAION 和開放資料集的未來
開放的多模式資料集將面臨版權、同意和有害內容方面越來越大的壓力，推動更強大的過濾、許可感知收集和選擇退出註冊。 LAION 重新發布清理後的資料集標誌著安全審核作為預設步驟的轉變。期待更多的合成或授權資料、來源標準和檢測工具。小型實驗室的開放獲取與網路抓取資料的法律和道德風險之間的緊張關係將決定資料集建構的下一階段。
現實世界的實施
在數十億個圖像標題對上訓練開放的文本到圖像模型，例如穩定擴散
建立 CLIP 式圖像文字檢索和零樣本分類系統並對其進行基準測試
研究網路規模的資料集偏差、內容安全和資料來源
按語言、解析度或美學分數過濾子集以建立專門的微調資料集
風險與防護欄
發佈公告可能會超過實際生產工作流程的穩定性。
API 定價或政策轉變可能會在一夜之間打破假設。
單一供應商依賴性增加了鎖定和遷移成本。
實施路線圖
使用您自己的任務和資料集評估提供者。
在整合之前查看隱私、安全和法律條款。
維護跨模型或供應商的後備計劃。
監控發行說明，以便路線圖的變更不會讓團隊感到意外。
不斷探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the LAION and Open Datasets quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常見問題
What is LAION and Open Datasets?
LAION 是一家德國非營利組織，發布了大量開放圖像文字資料集，最著名的是 LAION-5B，它推動了穩定擴散等開放生成模型的訓練。這很重要，因為它使大公司以外的研究人員可以免費獲得網路規模的多模式資料。
LAION 在其影像文字資料集中主要分佈什麼？
LAION 不託管映像；它會分發 URL 和元數據，以便使用者可以從原始網路來源取得映像。
LAION-5B 大約有多少個圖像-文字對？
LAION-5B 包含約 58.5 億個圖像文字對，因此其名稱中含有「5B」。
LAION 使用哪種模型來過濾圖像-文字對以實現對齊品質？
LAION 使用 OpenAI 的 CLIP 來測量影像標題相似度並丟棄不符的對。
哪個著名的開放生成模型是使用 LAION 資料進行訓練的？
Stable Diffusion 是開放式的文字到圖像模型，在 LAION 圖像文字資料上進行訓練。
2023年，研究人員在LAION-5B中發現了什麼嚴重問題？
研究人員發現了非法虐待兒童材料的鏈接，導致 LAION 刪除該資料集、清理資料並重新發布更安全的版本。