LAION và bộ dữ liệu mở
LAION là một tổ chức phi lợi nhuận của Đức đã phát hành bộ dữ liệu văn bản hình ảnh mở khổng lồ, nổi tiếng nhất là LAION-5B, hỗ trợ việc đào tạo các mô hình thế hệ mở như Stable Diffusion.
Tổng quan
Nó quan trọng vì nó cung cấp miễn phí dữ liệu đa phương thức trên quy mô web cho các nhà nghiên cứu bên ngoài các tập đoàn lớn.
Lặn sâu
LAION (Mạng mở trí tuệ nhân tạo quy mô lớn) là một tổ chức phi lợi nhuận của Đức được thành lập vào năm 2021 nhằm dân chủ hóa nghiên cứu máy học bằng cách phát hành các bộ dữ liệu mở lớn. Bản phát hành nổi tiếng nhất của nó, LAION-5B, chứa khoảng 5,85 tỷ cặp văn bản-hình ảnh được lọc từ dữ liệu web Thu thập thông tin chung bằng mô hình CLIP của OpenAI để giữ các cặp có chú thích và hình ảnh thẳng hàng. Điều quan trọng là LAION không lưu trữ hình ảnh; nó phân phối URL và siêu dữ liệu để người dùng tải hình ảnh xuống từ các nguồn web gốc. Những bộ dữ liệu này là công cụ để đào tạo Khuếch tán ổn định và các mô hình chuyển văn bản thành hình ảnh mở khác. LAION đã phải đối mặt với sự giám sát nghiêm ngặt: vào năm 2023, các nhà nghiên cứu đã tìm thấy các liên kết đến hình ảnh lạm dụng bất hợp pháp trong tập dữ liệu, khiến LAION phải gỡ xuống, làm sạch và phát hành lại phiên bản an toàn hơn, nêu bật những rủi ro của việc thu thập dữ liệu trên quy mô web không được lọc.
Hiểu biết kỹ thuật
LAION-5B được xây dựng bằng cách quét Thu thập thông tin chung để tìm thẻ hình ảnh HTML bằng văn bản thay thế, sau đó sử dụng CLIP để tính toán mức độ giống nhau giữa mỗi hình ảnh và chú thích của nó. Các cặp dưới ngưỡng tương tự cosine đã bị loại bỏ, do đó chỉ còn lại các cặp văn bản hình ảnh phù hợp hợp lý. Tập dữ liệu được phân chia theo ngôn ngữ và bao gồm các phần nhúng CLIP được tính toán trước, cho phép tìm kiếm điểm tương đồng nhanh chóng. Bởi vì chỉ các URL được lưu trữ nên liên kết bị hỏng dần dần làm giảm khả năng tái tạo theo thời gian.
Tác động chiến lược
Chiến lược nhà cung cấp
Lộ trình của nhà cung cấp ảnh hưởng đến những tính năng mà nhóm của bạn có thể xây dựng tiếp theo.
Chi phí và ngân sách
Các điều khoản thương mại và các lựa chọn triển khai ảnh hưởng đến chi phí và rủi ro dài hạn.
Rủi ro và an toàn
Các biện pháp khuyến khích của công ty định hình các tình trạng vỡ nợ của sản phẩm, trạng thái an toàn và tính cởi mở.
Tương lai của LAION và Bộ dữ liệu mở
Các bộ dữ liệu đa phương thức mở sẽ phải đối mặt với áp lực ngày càng tăng xung quanh bản quyền, sự đồng ý và nội dung có hại, thúc đẩy quá trình lọc mạnh mẽ hơn, thu thập nhận biết cấp phép và đăng ký từ chối. Việc LAION phát hành lại tập dữ liệu đã được làm sạch báo hiệu sự chuyển hướng sang kiểm tra an toàn như một bước mặc định. Mong đợi nhiều dữ liệu tổng hợp hoặc được cấp phép hơn, tiêu chuẩn xuất xứ và công cụ phát hiện. Sự căng thẳng giữa quyền truy cập mở đối với các phòng thí nghiệm nhỏ và rủi ro pháp lý và đạo đức của dữ liệu được quét trên web sẽ xác định giai đoạn tiếp theo của việc xây dựng tập dữ liệu.
Triển khai trong thế giới thực
Đào tạo các mô hình chuyển văn bản thành hình ảnh mở như Khuếch tán ổn định trên hàng tỷ cặp chú thích hình ảnh
Xây dựng và đánh giá các hệ thống truy xuất văn bản hình ảnh và phân loại không chụp theo kiểu CLIP
Nghiên cứu sự thiên vị của dữ liệu, an toàn nội dung và nguồn gốc dữ liệu ở quy mô web
Lọc các tập hợp con theo ngôn ngữ, độ phân giải hoặc điểm thẩm mỹ để tạo các bộ dữ liệu tinh chỉnh chuyên dụng
Rủi ro & lan can
Thông báo ra mắt có thể vượt xa sự ổn định trong quy trình sản xuất thực tế.
Việc định giá API hoặc thay đổi chính sách có thể phá vỡ các giả định chỉ sau một đêm.
Sự phụ thuộc vào một nhà cung cấp làm tăng chi phí khóa và di chuyển.
Lộ trình thực hiện
Đánh giá các nhà cung cấp bằng cách sử dụng các nhiệm vụ và bộ dữ liệu của riêng bạn.
Xem lại các điều khoản về quyền riêng tư, bảo mật và pháp lý trước khi tích hợp.
Duy trì kế hoạch dự phòng giữa các mô hình hoặc nhà cung cấp.
Theo dõi ghi chú phát hành để những thay đổi về lộ trình không gây ngạc nhiên cho các nhóm.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the LAION and Open Datasets quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
AI nguồn mở
Câu hỏi thường gặp
LAION và Bộ dữ liệu mở là gì?
LAION là một tổ chức phi lợi nhuận của Đức đã phát hành bộ dữ liệu văn bản hình ảnh mở khổng lồ, nổi tiếng nhất là LAION-5B, hỗ trợ việc đào tạo các mô hình thế hệ mở như Stable Diffusion. Nó quan trọng vì nó cung cấp miễn phí dữ liệu đa phương thức trên quy mô web cho các nhà nghiên cứu bên ngoài các tập đoàn lớn.
LAION chủ yếu phân phối những gì trong bộ dữ liệu văn bản hình ảnh của mình?
LAION không lưu trữ hình ảnh; nó phân phối URL và siêu dữ liệu để người dùng tìm nạp hình ảnh từ nguồn web ban đầu của họ.
Có khoảng bao nhiêu cặp văn bản-hình ảnh trong LAION-5B?
LAION-5B chứa khoảng 5,85 tỷ cặp văn bản-hình ảnh, do đó có tên '5B'.
LAION đã sử dụng mô hình nào để lọc các cặp văn bản-hình ảnh nhằm đảm bảo chất lượng căn chỉnh?
LAION đã sử dụng CLIP của OpenAI để đo mức độ tương tự của chú thích hình ảnh và loại bỏ các cặp không khớp.
Mô hình thế hệ mở nổi bật nào đã được đào tạo bằng dữ liệu LAION?
Khuếch tán ổn định, một mô hình chuyển văn bản thành hình ảnh mở, đã được đào tạo về dữ liệu văn bản hình ảnh LAION.
Các nhà nghiên cứu đã phát hiện ra vấn đề nghiêm trọng nào ở LAION-5B vào năm 2023?
Các nhà nghiên cứu đã tìm thấy các liên kết đến tài liệu lạm dụng trẻ em bất hợp pháp, khiến LAION phải gỡ tập dữ liệu xuống, làm sạch và phát hành lại phiên bản an toàn hơn.