LAION และชุดข้อมูลแบบเปิด
LAION เป็นองค์กรไม่แสวงผลกำไรในเยอรมนีที่เปิดตัวชุดข้อมูลข้อความรูปภาพแบบเปิดขนาดใหญ่ ซึ่งเป็นที่รู้จักมากที่สุดคือ LAION-5B ซึ่งกระตุ้นการฝึกอบรมโมเดลแบบเปิด เช่น Stable Diffusion
ภาพรวม
It matters because it made web-scale multimodal data freely available to researchers outside large corporations.
เจาะลึก
LAION (เครือข่ายเปิดปัญญาประดิษฐ์ขนาดใหญ่) เป็นองค์กรไม่แสวงผลกำไรในเยอรมนีที่ก่อตั้งขึ้นในปี 2021 เพื่อสร้างประชาธิปไตยในการวิจัยแมชชีนเลิร์นนิงด้วยการเปิดตัวชุดข้อมูลแบบเปิดขนาดใหญ่ รุ่นที่รู้จักกันดีที่สุดคือ LAION-5B ประกอบด้วยคู่ข้อความรูปภาพประมาณ 5.85 พันล้านคู่ที่กรองจากข้อมูลเว็บ Common Crawl โดยใช้โมเดล CLIP ของ OpenAI เพื่อเก็บคู่ในตำแหน่งที่คำบรรยายและรูปภาพอยู่ในแนวเดียวกัน สิ่งสำคัญที่สุดคือ LAION ไม่ได้โฮสต์ภาพด้วยตนเอง โดยจะกระจาย URL และข้อมูลเมตา ดังนั้นผู้ใช้จึงดาวน์โหลดรูปภาพจากแหล่งที่มาของเว็บต้นฉบับ ชุดข้อมูลเหล่านี้เป็นเครื่องมือในการฝึกอบรม Stable Diffusion และโมเดลข้อความเป็นรูปภาพแบบเปิดอื่นๆ LAION เผชิญกับการตรวจสอบอย่างเข้มงวด: ในปี 2023 นักวิจัยพบลิงก์ไปยังภาพการละเมิดที่ผิดกฎหมายในชุดข้อมูล ทำให้ LAION ต้องลบออก ทำความสะอาด และเผยแพร่เวอร์ชันที่ปลอดภัยยิ่งขึ้นอีกครั้ง โดยเน้นถึงความเสี่ยงของการคัดลอกขนาดเว็บที่ไม่มีการกรอง
ข้อมูลเชิงลึกทางเทคนิค
LAION-5B สร้างขึ้นโดยการสแกน Common Crawl สำหรับแท็กรูปภาพ HTML พร้อมข้อความแสดงแทน จากนั้นใช้ CLIP เพื่อคำนวณความคล้ายคลึงกันระหว่างแต่ละรูปภาพและคำอธิบายภาพ คู่ที่ต่ำกว่าเกณฑ์ความคล้ายคลึงโคไซน์ถูกยกเลิก ดังนั้นจึงเหลือเพียงคู่ข้อความรูปภาพที่ตรงกันอย่างสมเหตุสมผลเท่านั้น ชุดข้อมูลจะถูกแบ่งตามภาษาและรวมถึงการฝัง CLIP ที่คำนวณไว้ล่วงหน้า ช่วยให้สามารถค้นหาความคล้ายคลึงกันได้อย่างรวดเร็ว เนื่องจากเก็บเฉพาะ URL เท่านั้น ลิงก์เน่าจึงค่อยๆ ลดความสามารถในการทำซ้ำเมื่อเวลาผ่านไป
ผลกระทบเชิงกลยุทธ์
กลยุทธ์ของผู้ขาย
โรดแมปของผู้จำหน่ายมีอิทธิพลต่อฟีเจอร์ที่ทีมของคุณสามารถสร้างได้ต่อไป
ต้นทุนและงบประมาณ
ข้อกำหนดทางการค้าและตัวเลือกการใช้งานส่งผลต่อต้นทุนและความเสี่ยงในระยะยาว
ความเสี่ยงและความปลอดภัย
สิ่งจูงใจของบริษัทจะกำหนดค่าเริ่มต้นของผลิตภัณฑ์ ท่าทางที่ปลอดภัย และความเปิดกว้าง
อนาคตของ LAION และชุดข้อมูลแบบเปิด
ชุดข้อมูลหลายรูปแบบแบบเปิดจะเผชิญกับแรงกดดันที่เพิ่มขึ้นเกี่ยวกับลิขสิทธิ์ ความยินยอม และเนื้อหาที่เป็นอันตราย ซึ่งผลักดันไปสู่การกรองที่แข็งแกร่งขึ้น การรวบรวมใบอนุญาตที่ตระหนักถึงใบอนุญาต และการลงทะเบียนที่ไม่เข้าร่วม การเปิดตัวชุดข้อมูลที่ล้างสะอาดแล้วอีกครั้งของ LAION ส่งสัญญาณถึงการเปลี่ยนแปลงไปสู่การตรวจสอบความปลอดภัยเป็นขั้นตอนเริ่มต้น คาดหวังข้อมูลสังเคราะห์หรือข้อมูลลิขสิทธิ์ มาตรฐานแหล่งที่มา และเครื่องมือการตรวจจับเพิ่มเติม ความตึงเครียดระหว่างการเข้าถึงแบบเปิดสำหรับห้องปฏิบัติการขนาดเล็กและความเสี่ยงทางกฎหมายและจริยธรรมของข้อมูลที่คัดลอกมาจากเว็บจะเป็นตัวกำหนดขั้นตอนต่อไปของการสร้างชุดข้อมูล
การใช้งานจริงในโลกแห่งความเป็นจริง
ฝึกอบรมโมเดลข้อความเป็นรูปภาพแบบเปิด เช่น Stable Diffusion บนคู่คำบรรยายภาพหลายพันล้านคู่
การสร้างและการเปรียบเทียบระบบการดึงข้อความรูปภาพสไตล์ CLIP และระบบการจำแนกประเภทซีโร่ช็อต
ศึกษาความลำเอียงของชุดข้อมูล ความปลอดภัยของเนื้อหา และแหล่งที่มาของข้อมูลในระดับเว็บ
การกรองชุดย่อยตามภาษา ความละเอียด หรือคะแนนความสวยงามเพื่อสร้างชุดข้อมูลที่มีการปรับแต่งเฉพาะทาง
ความเสี่ยงและรั้ว
การประกาศเปิดตัวอาจแซงหน้าความเสถียรในขั้นตอนการทำงานจริง
การกำหนดราคา API หรือการเปลี่ยนแปลงนโยบายสามารถทำลายสมมติฐานได้ในชั่วข้ามคืน
การพึ่งพาผู้ขายรายเดียวจะเพิ่มค่าใช้จ่ายในการล็อคอินและการย้ายข้อมูล
แผนงานการดำเนินงาน
ประเมินผู้ให้บริการโดยใช้งานและชุดข้อมูลของคุณเอง
ตรวจสอบความเป็นส่วนตัว ความปลอดภัย และข้อกำหนดทางกฎหมายก่อนรวมระบบ
รักษาแผนสำรองสำหรับรุ่นหรือผู้จำหน่าย
ตรวจสอบบันทึกประจำรุ่นเพื่อให้การเปลี่ยนแปลงแผนงานไม่ทำให้ทีมแปลกใจ
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the LAION and Open Datasets quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
โอเพ่นซอร์ส AI
คำถามที่พบบ่อย
What is LAION and Open Datasets?
LAION เป็นองค์กรไม่แสวงผลกำไรในเยอรมนีที่เปิดตัวชุดข้อมูลข้อความรูปภาพแบบเปิดขนาดใหญ่ ซึ่งเป็นที่รู้จักมากที่สุดคือ LAION-5B ซึ่งกระตุ้นการฝึกอบรมโมเดลแบบเปิด เช่น Stable Diffusion เป็นเรื่องสำคัญเนื่องจากทำให้นักวิจัยภายนอกองค์กรขนาดใหญ่สามารถเข้าถึงข้อมูลต่อเนื่องหลายรูปแบบในระดับเว็บได้อย่างอิสระ
LAION แจกจ่ายอะไรในชุดข้อมูลข้อความรูปภาพเป็นหลัก
LAION ไม่ได้โฮสต์ภาพ โดยจะกระจาย URL และข้อมูลเมตา ดังนั้นผู้ใช้จึงดึงรูปภาพจากแหล่งเว็บดั้งเดิมของตน
LAION-5B มีคู่ข้อความรูปภาพประมาณกี่คู่
LAION-5B มีคู่ข้อความรูปภาพประมาณ 5.85 พันล้านคู่ จึงเป็นที่มาของชื่อ '5B'
LAION ใช้โมเดลใดในการกรองคู่ข้อความรูปภาพเพื่อคุณภาพการจัดตำแหน่ง
LAION ใช้คลิปของ OpenAI เพื่อวัดความคล้ายคลึงของคำบรรยายภาพและละทิ้งคู่ที่จับคู่ไม่ดี
โมเดล Open Generative ที่โดดเด่นใดได้รับการฝึกฝนโดยใช้ข้อมูล LAION
Stable Diffusion ซึ่งเป็นโมเดลการแปลงข้อความเป็นรูปภาพแบบเปิด ได้รับการฝึกอบรมเกี่ยวกับข้อมูลข้อความรูปภาพ LAION
นักวิจัยค้นพบปัญหาร้ายแรงอะไรใน LAION-5B ในปี 2566
นักวิจัยพบลิงก์ไปยังเนื้อหาการล่วงละเมิดเด็กที่ผิดกฎหมาย ส่งผลให้ LAION ลบชุดข้อมูล ทำความสะอาด และเผยแพร่เวอร์ชันที่ปลอดภัยยิ่งขึ้นอีกครั้ง