LAION і відкриті набори даних
LAION – це німецька некомерційна організація, яка випустила масивні відкриті набори даних із зображенням і текстом, найвідоміший з яких LAION-5B, який стимулював навчання відкритих генеративних моделей, таких як Stable Diffusion.
Огляд
It matters because it made web-scale multimodal data freely available to researchers outside large corporations.
Глибоке занурення
LAION (Large-scale Artificial Intelligence Open Network) – німецька некомерційна організація, заснована в 2021 році для демократизації досліджень машинного навчання шляхом випуску великих відкритих наборів даних. Його найвідоміший випуск, LAION-5B, містить приблизно 5,85 мільярда пар зображення-текст, відфільтрованих із веб-даних Common Crawl за допомогою моделі CLIP OpenAI, щоб зберегти пари там, де підпис і зображення збігаються. Що важливо, LAION не розміщує самі зображення; він розповсюджує URL-адреси та метадані, тому користувачі завантажують зображення з оригінальних веб-джерел. Ці набори даних допомогли в навчанні Stable Diffusion та інших відкритих моделях перетворення тексту в зображення. LAION зіткнувся з серйозною перевіркою: у 2023 році дослідники знайшли посилання на зображення незаконних зловживань у наборі даних, що спонукало LAION видалити його, очистити та повторно випустити безпечнішу версію, підкреслюючи ризики нефільтрованого сканування веб-масштабу.
Технічне розуміння
LAION-5B було створено шляхом сканування Common Crawl для тегів зображень HTML із альтернативним текстом, а потім за допомогою CLIP для обчислення подібності між кожним зображенням і його підписом. Пари, нижчі за порог косинусної подібності, були відкинуті, тому залишилися лише обґрунтовано відповідні пари зображення-текст. Набір даних розділений за мовами та містить попередньо обчислені вбудовування CLIP, що забезпечує швидкий пошук подібності. Оскільки зберігаються лише URL-адреси, гниття посилань з часом поступово погіршує відтворюваність.
Стратегічний вплив
Стратегія постачальника
Дорожні карти постачальників впливають на те, які функції ваша команда може створити далі.
Вартість і бюджет
Комерційні умови та варіанти розгортання впливають на довгострокову вартість і ризик.
Ризики та безпека
Стимули компанії формують стандарти продукту, безпеку та відкритість.
Майбутнє LAION і відкритих наборів даних
Відкриті мультимодальні набори даних зіткнуться зі зростаючим тиском у зв’язку з авторським правом, згодою та шкідливим вмістом, що підштовхне до посилення фільтрації, збору з урахуванням ліцензій та реєстрів відмови. Повторний випуск очищеного набору даних LAION свідчить про перехід до аудиту безпеки як стандартного кроку. Очікуйте більше синтетичних або ліцензованих даних, стандартів походження та інструментів виявлення. Напруга між відкритим доступом для невеликих лабораторій і правовими та етичними ризиками, пов’язаними з даними, зібраними з Інтернету, визначить наступний етап створення набору даних.
Реалізація в реальному світі
Навчання відкритим моделям перетворення тексту в зображення, таким як Stable Diffusion, на мільярдах пар зображення-запис
Створення та порівняльний аналіз систем пошуку зображень і тексту в стилі CLIP і систем класифікації без кадрів
Дослідження упередженості набору даних, безпеки вмісту та походження даних у веб-масштабі
Фільтрування підмножин за мовою, роздільною здатністю або естетичною оцінкою для створення спеціалізованих наборів даних для точного налаштування
Ризики та огорожі
Оголошення про запуск можуть випереджати стабільність у реальних робочих процесах виробництва.
Зміни в ціноутворенні API або в політиці можуть миттєво порушити припущення.
Залежність від одного постачальника збільшує витрати на блокування та міграцію.
Дорожня карта впровадження
Оцініть постачальників за допомогою власних завдань і наборів даних.
Перегляньте умови конфіденційності, безпеки та юридичні умови перед інтеграцією.
Підтримуйте запасний план для різних моделей або постачальників.
Слідкуйте за примітками до випуску, щоб зміни дорожньої карти не здивували команди.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the LAION and Open Datasets quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
ШІ з відкритим кодом
Часті запитання
What is LAION and Open Datasets?
LAION – це німецька некомерційна організація, яка випустила масивні відкриті набори даних із зображенням і текстом, найвідоміший з яких LAION-5B, який стимулював навчання відкритих генеративних моделей, таких як Stable Diffusion. Це важливо, тому що він зробив мультимодальні дані веб-масштабу вільно доступними для дослідників за межами великих корпорацій.
Що LAION в першу чергу розповсюджує у своїх наборах даних зображень і тексту?
LAION не розміщує зображення; він розповсюджує URL-адреси та метадані, тому користувачі отримують зображення зі своїх оригінальних веб-джерел.
Скільки приблизно пар зображення-текст у LAION-5B?
LAION-5B містить близько 5,85 мільярдів пар зображення-текст, тому в назві «5B».
Яку модель використовував LAION для фільтрації пар зображення-текст для якості вирівнювання?
LAION використовував CLIP OpenAI, щоб виміряти подібність підписів до зображень і відкинути погано підібрані пари.
Яку відому відкриту генеративну модель було навчено за допомогою даних LAION?
Stable Diffusion, модель відкритого перетворення тексту в зображення, було навчено на даних зображення-текст LAION.
Яку серйозну проблему дослідники виявили в LAION-5B у 2023 році?
Дослідники знайшли посилання на незаконні матеріали про жорстоке поводження з дітьми, що змусило LAION видалити набір даних, очистити його та повторно випустити безпечнішу версію.