LAION и отворени набори от данни
LAION е германска организация с нестопанска цел, която пусна масивни набори от отворени изображения и текст, най-известният LAION-5B, който подхранва обучението на отворени генеративни модели като Stable Diffusion.
Преглед
It matters because it made web-scale multimodal data freely available to researchers outside large corporations.
Дълбоко гмуркане
LAION (Large-scale Artificial Intelligence Open Network) е германска организация с нестопанска цел, основана през 2021 г., за да демократизира изследванията в областта на машинното обучение чрез пускане на големи отворени набори от данни. Неговото най-известно издание, LAION-5B, съдържа приблизително 5,85 милиарда двойки изображение-текст, филтрирани от уеб данни на Common Crawl, използвайки модела CLIP на OpenAI, за да поддържа двойките там, където надписът и изображението са подравнени. Най-важното е, че LAION не хоства самите изображения; той разпространява URL адреси и метаданни, така че потребителите да изтеглят изображения от оригиналните уеб източници. Тези набори от данни изиграха важна роля при обучението на Stable Diffusion и други отворени модели за текст към изображение. LAION беше подложен на сериозна проверка: през 2023 г. изследователите откриха връзки към изображения на незаконни злоупотреби в набора от данни, което накара LAION да го свали, да го изчисти и да пусне отново по-безопасна версия, подчертавайки рисковете от нефилтрирано изтриване в уеб мащаб.
Техническа информация
LAION-5B е създаден чрез сканиране на Common Crawl за HTML етикети на изображения с алтернативен текст, след което използва CLIP за изчисляване на приликата между всяко изображение и неговия надпис. Двойките под прага на косинусово подобие бяха отхвърлени, така че останаха само разумно съвпадащи двойки изображение-текст. Наборът от данни е разделен по език и включва предварително изчислени CLIP вграждания, което позволява бързо търсене на сходство. Тъй като се съхраняват само URL адреси, гниенето на връзките постепенно влошава възпроизводимостта с течение на времето.
Стратегическо въздействие
Vendor strategy
Пътните карти на доставчиците влияят на това какви функции вашият екип може да изгради по-нататък.
Cost and budget
Търговските условия и опциите за внедряване влияят върху дългосрочните разходи и риск.
Risk and safety
Стимулите на компанията оформят продуктовите стандарти, безопасността и откритостта.
Бъдещето на LAION и отворените набори от данни
Отворените мултимодални набори от данни ще бъдат изправени пред нарастващ натиск около авторските права, съгласието и вредното съдържание, насочвайки се към по-силно филтриране, събиране, съобразено с лицензиране, и регистри за отказ. Повторното издаване на изчистен набор от данни от LAION сигнализира за преминаване към одит на безопасността като стъпка по подразбиране. Очаквайте повече синтетични или лицензирани данни, стандарти за произход и инструменти за откриване. Напрежението между отворения достъп за малки лаборатории и правните и етични рискове от данните, изчерпани в мрежата, ще определи следващата фаза на изграждане на набор от данни.
Внедряване в реалния свят
Обучение на отворени модели текст към изображение като Stable Diffusion върху милиарди двойки изображение-надпис
Изграждане и сравняване на системи за извличане на изображения и текст в стил CLIP и системи за класификация с нулев изстрел
Проучване на пристрастията на набора от данни, безопасността на съдържанието и произхода на данните в уеб мащаб
Филтриране на подмножества по език, разделителна способност или естетически резултат за създаване на специализирани набори от данни за фина настройка
Рискове и предпазни огради
Съобщенията за стартиране може да изпреварят стабилността в реалните производствени работни процеси.
Ценообразуването на API или промените в политиката могат да разбият предположенията за една нощ.
Зависимостта от един доставчик увеличава разходите за заключване и миграция.
Пътна карта за изпълнение
Оценявайте доставчиците, като използвате вашите собствени задачи и набори от данни.
Прегледайте поверителността, сигурността и правните условия преди интегриране.
Поддържайте резервен план за модели или доставчици.
Наблюдавайте бележките по изданието, така че промените в пътната карта да не изненадват екипите.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the LAION and Open Datasets quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
AI с отворен код
Frequently asked questions
What is LAION and Open Datasets?
LAION е германска организация с нестопанска цел, която пусна масивни набори от отворени изображения и текст, най-известният LAION-5B, който подхранва обучението на отворени генеративни модели като Stable Diffusion. Има значение, защото направи мултимодални данни в уеб мащаб свободно достъпни за изследователи извън големите корпорации.
Какво основно разпространява LAION в своите набори от данни за изображения и текст?
LAION не хоства изображения; той разпространява URL адреси и метаданни, така че потребителите да извличат изображения от оригиналните си уеб източници.
Приблизително колко двойки изображение-текст има в LAION-5B?
LAION-5B съдържа около 5,85 милиарда двойки изображение-текст, оттук и „5B“ в името му.
Кой модел използва LAION за филтриране на двойки изображение-текст за качество на подравняване?
LAION използва CLIP на OpenAI, за да измери приликата на надписа на изображението и да отхвърли лошо съвпадащите двойки.
Кой известен отворен генеративен модел е обучен с помощта на данни от LAION?
Stable Diffusion, отворен модел текст-към-изображение, беше обучен на LAION изображение-текст данни.
Какъв сериозен проблем откриха изследователите в LAION-5B през 2023 г.?
Изследователите откриха връзки към незаконни материали за малтретиране на деца, което накара LAION да премахне набора от данни, да го изчисти и да пусне отново по-безопасна версия.