LAION i otwarte zbiory danych
LAION to niemiecka organizacja non-profit, która udostępniła ogromne otwarte zbiory danych obrazowo-tekstowych, najsłynniejszy LAION-5B, co umożliwiło szkolenie otwartych modeli generatywnych, takich jak Stable Diffusion.
Przegląd
It matters because it made web-scale multimodal data freely available to researchers outside large corporations.
Głębokie nurkowanie
LAION (Large-scale Artificial Intelligence Open Network) to niemiecka organizacja non-profit założona w 2021 roku w celu demokratyzacji badań nad uczeniem maszynowym poprzez udostępnianie dużych otwartych zbiorów danych. Najbardziej znana wersja, LAION-5B, zawiera około 5,85 miliarda par obraz-tekst odfiltrowanych z danych internetowych Common Crawl przy użyciu modelu CLIP firmy OpenAI, aby zachować pary w miejscu, w którym podpis i obraz są wyrównane. Co najważniejsze, LAION nie przechowuje samych obrazów; rozpowszechnia adresy URL i metadane, dzięki czemu użytkownicy pobierają obrazy z oryginalnych źródeł internetowych. Te zbiory danych odegrały kluczową rolę w szkoleniu stabilnego dyfuzji i innych otwartych modeli zamiany tekstu na obraz. LAION został poddany poważnej analizie: w 2023 r. badacze znaleźli w zbiorze danych linki do obrazów nielegalnych nadużyć, co skłoniło LAION do jego usunięcia, wyczyszczenia i ponownego wydania bezpieczniejszej wersji, podkreślając ryzyko związane z niefiltrowanym skrobaniem na skalę internetową.
Wgląd techniczny
LAION-5B został zbudowany poprzez skanowanie Common Crawl w poszukiwaniu znaczników obrazów HTML z tekstem alternatywnym, a następnie użycie CLIP do obliczenia podobieństwa pomiędzy każdym obrazem i jego podpisem. Pary poniżej progu cosinusowego podobieństwa zostały odrzucone, więc pozostały tylko w miarę dopasowane pary obraz-tekst. Zbiór danych jest podzielony według języka i zawiera wstępnie obliczone osadzenie CLIP, umożliwiające szybkie wyszukiwanie podobieństw. Ponieważ przechowywane są tylko adresy URL, z czasem gnicie linków stopniowo pogarsza odtwarzalność.
Wpływ strategiczny
Strategia dostawcy
Plany dostawców wpływają na to, jakie funkcje Twój zespół będzie mógł dalej tworzyć.
Koszt i budżet
Warunki handlowe i opcje wdrożenia wpływają na długoterminowe koszty i ryzyko.
Ryzyko i bezpieczeństwo
Zachęty firmowe kształtują wady produktów, postawę bezpieczeństwa i otwartość.
Przyszłość LAION i otwartych zbiorów danych
Otwarte, multimodalne zbiory danych staną w obliczu rosnącej presji związanej z prawami autorskimi, zgodami i szkodliwymi treściami, co spowoduje konieczność silniejszego filtrowania, gromadzenia danych z uwzględnieniem licencji i rejestrów rezygnacji. Ponowne wydanie przez LAION oczyszczonego zbioru danych sygnalizuje przejście w stronę audytu bezpieczeństwa jako kroku domyślnego. Spodziewaj się większej liczby danych syntetycznych lub licencjonowanych, standardów pochodzenia i narzędzi do wykrywania. Napięcie między otwartym dostępem dla małych laboratoriów a zagrożeniami prawnymi i etycznymi związanymi z danymi pobieranymi z Internetu określi kolejny etap tworzenia zbioru danych.
Implementacja w świecie rzeczywistym
Trenowanie otwartych modeli zamiany tekstu na obraz, takich jak Stable Diffusion, na miliardach par obrazów i podpisów
Tworzenie i porównywanie systemów wyszukiwania obrazu i tekstu w stylu CLIP oraz systemów klasyfikacji typu zero-shot
Badanie stronniczości zbioru danych, bezpieczeństwa treści i pochodzenia danych w skali internetowej
Filtrowanie podzbiorów według języka, rozdzielczości lub wyniku estetycznego w celu utworzenia wyspecjalizowanych, dostrajających zbiorów danych
Zagrożenia i poręcze
Ogłoszenia o wprowadzeniu na rynek mogą przekroczyć stabilność w rzeczywistych przepływach pracy.
Ceny interfejsów API lub zmiany zasad mogą z dnia na dzień złamać założenia.
Zależność od jednego dostawcy zwiększa koszty uzależnienia i migracji.
Plan wdrożenia
Oceniaj dostawców, korzystając z własnych zadań i zbiorów danych.
Przed integracją przejrzyj warunki dotyczące prywatności, bezpieczeństwa i prawa.
Utrzymuj plan awaryjny dla różnych modeli i dostawców.
Monitoruj informacje o wersji, aby zmiany w planie działania nie zaskoczyły zespołów.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the LAION and Open Datasets quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Otwarta sztuczna inteligencja
Często zadawane pytania
What is LAION and Open Datasets?
LAION to niemiecka organizacja non-profit, która udostępniła ogromne otwarte zbiory danych obrazowo-tekstowych, najsłynniejszy LAION-5B, co umożliwiło szkolenie otwartych modeli generatywnych, takich jak Stable Diffusion. Ma to znaczenie, ponieważ umożliwiło swobodny dostęp do multimodalnych danych na skalę internetową badaczom spoza dużych korporacji.
Co firma LAION rozpowszechnia głównie w swoich zbiorach danych obrazowo-tekstowych?
LAION nie obsługuje obrazów; rozpowszechnia adresy URL i metadane, dzięki czemu użytkownicy pobierają obrazy z oryginalnych źródeł internetowych.
Ile mniej więcej par obraz-tekst znajduje się w LAION-5B?
LAION-5B zawiera około 5,85 miliarda par obraz-tekst, stąd „5B” w jego nazwie.
Którego modelu użył LAION do filtrowania par obraz-tekst pod kątem jakości wyrównania?
LAION użył narzędzia CLIP OpenAI do pomiaru podobieństwa podpisów pod obrazami i odrzucenia słabo dopasowanych par.
Który wybitny otwarty model generatywny został przeszkolony przy użyciu danych LAION?
Stable Diffusion, otwarty model zamiany tekstu na obraz, został przeszkolony na danych obrazowo-tekstowych LAION.
Jaki poważny problem odkryli naukowcy w LAION-5B w 2023 roku?
Badacze znaleźli linki do nielegalnych materiałów przedstawiających wykorzystywanie dzieci, co skłoniło firmę LAION do usunięcia zbioru danych, oczyszczenia go i ponownego wydania bezpieczniejszej wersji.