AI21 แล็บ
AI21 Labs เป็นบริษัท AI ของอิสราเอลที่สร้างโมเดลภาษาขนาดใหญ่ (ตระกูล Jurassic และ Jamba) และเครื่องมือระดับองค์กร รวมถึง Wordtune ผู้ช่วยด้านการเขียนสำหรับผู้บริโภค
ภาพรวม
It matters for pioneering the Mamba-Transformer hybrid 'Jamba' architecture and for focusing on reliable, grounded AI for business rather than chasing consumer hype.
เจาะลึก
AI21 Labs ก่อตั้งขึ้นในปี 2560 ในเมืองเทลอาวีฟโดย Yoav Shoham, Ori Goshen และ Amnon Shashua (ผู้ร่วมก่อตั้ง Mobileye) โดยเป็นผู้ริเริ่มในโมเดลภาษาขนาดใหญ่ด้วยซีรีส์ Jurassic ซึ่งแข่งขันกับระบบยุค GPT-3 บริษัทได้สร้าง Wordtune ซึ่งเป็นเครื่องมือการเขียนใหม่และไวยากรณ์ AI ยอดนิยม และ 'AI21 Studio' ซึ่งเป็นแพลตฟอร์มสำหรับนักพัฒนาสำหรับการสร้างบนโมเดลของตน ในปี 2024 ได้เปิดตัว Jamba ซึ่งเป็นโมเดลน้ำหนักเปิดที่โดดเด่นซึ่งรวม Transformer เข้ากับสถาปัตยกรรมพื้นที่รัฐ Mamba เพื่อจัดการบริบทที่ยาวมากได้อย่างมีประสิทธิภาพ AI21 เน้นที่ 'แบบจำลองเฉพาะงาน' และเทคนิคเพื่อลดภาพหลอนและคำตอบพื้นฐานในแหล่งที่มา โดยวางตำแหน่งตัวเองให้เป็นตัวเลือกที่เชื่อถือได้สำหรับองค์กรในด้านการเงิน การบริการลูกค้า และเวิร์กโฟลว์ที่ใช้เอกสารจำนวนมาก
ข้อมูลเชิงลึกทางเทคนิค
นวัตกรรมพาดหัวของ Jamba เป็นแบบลูกผสม: แทรกชั้นความสนใจของ Transformer มาตรฐานเข้ากับเลเยอร์พื้นที่รัฐของ Mamba และเพิ่มองค์ประกอบที่ผสมผสานของผู้เชี่ยวชาญ Transformers เก่งในเรื่องการใช้เหตุผลแบบยืดหยุ่น แต่ค่าความสนใจของมันจะเพิ่มขึ้นเป็นกำลังสองตามความยาวของลำดับ เลเยอร์ Mamba ปรับขนาดเป็นเส้นตรงโดยประมาณ ดังนั้นการผสมผสานจะจัดการหน้าต่างบริบทของโทเค็นนับแสนโดยใช้หน่วยความจำที่ต่ำกว่ามาก ซึ่งช่วยให้ Jamba นำเข้าเอกสารขนาดยาวบน GPU ตัวเดียว ในขณะเดียวกันก็รักษาคุณภาพการให้เหตุผลที่เกี่ยวข้องกับโมเดลที่อิงตามความสนใจ
ผลกระทบเชิงกลยุทธ์
กลยุทธ์ของผู้ขาย
โรดแมปของผู้จำหน่ายมีอิทธิพลต่อฟีเจอร์ที่ทีมของคุณสามารถสร้างได้ต่อไป
ต้นทุนและงบประมาณ
ข้อกำหนดทางการค้าและตัวเลือกการใช้งานส่งผลต่อต้นทุนและความเสี่ยงในระยะยาว
ความเสี่ยงและความปลอดภัย
สิ่งจูงใจของบริษัทจะกำหนดค่าเริ่มต้นของผลิตภัณฑ์ ท่าทางที่ปลอดภัย และความเปิดกว้าง
อนาคตของ AI21 Labs
AI21 มุ่งเน้นไปที่สถาปัตยกรรมที่มีบริบทยาวนานและมีประสิทธิภาพ และการปรับใช้ระดับองค์กรที่เชื่อถือได้ มากกว่าการแข่งขันแชทบอทสำหรับผู้บริโภค คาดว่าจะมีการลงทุนอย่างต่อเนื่องในโมเดลพื้นที่รัฐแบบไฮบริด เช่น Jamba ระบบเอเจนต์ที่วางแผนและเรียกใช้เครื่องมือ และวิธีการลงดินที่อ้างอิงแหล่งที่มาเพื่อลดอาการประสาทหลอน เนื่องจากธุรกิจต้องการการอนุมานที่ถูกกว่าสำหรับเอกสารขนาดใหญ่ AI21 เดิมพันประสิทธิภาพของ Mamba-Transformer และโมเดลเฉพาะงานและควบคุมได้ในตำแหน่งที่ดี แม้ว่าจะแข่งขันกับทั้งผู้ท้าชิงรุ่นเปิดและห้องปฏิบัติการชายแดนก็ตาม
การใช้งานจริงในโลกแห่งความเป็นจริง
การใช้ Wordtune เพื่อเขียนใหม่ ย่อ หรือเปลี่ยนโทนของอีเมลและเอกสาร
ป้อนสัญญาระยะยาวทั้งหมดหรือรายงานไปยังหน้าต่างบริบทขนาดใหญ่ของ Jamba เพื่อการสรุปหรือถามตอบ
การสร้างผู้ช่วยสนับสนุนลูกค้าบน AI21 Studio ซึ่งมีคำตอบอยู่ในฐานความรู้ของบริษัท
การปรับใช้โมเดลเฉพาะงานในด้านการเงินเพื่อแยกและสรุปข้อมูลจากเอกสารที่ยื่นหนาแน่น
ความเสี่ยงและรั้ว
การประกาศเปิดตัวอาจแซงหน้าความเสถียรในขั้นตอนการทำงานจริง
การกำหนดราคา API หรือการเปลี่ยนแปลงนโยบายสามารถทำลายสมมติฐานได้ในชั่วข้ามคืน
การพึ่งพาผู้ขายรายเดียวจะเพิ่มค่าใช้จ่ายในการล็อคอินและการย้ายข้อมูล
แผนงานการดำเนินงาน
ประเมินผู้ให้บริการโดยใช้งานและชุดข้อมูลของคุณเอง
ตรวจสอบความเป็นส่วนตัว ความปลอดภัย และข้อกำหนดทางกฎหมายก่อนรวมระบบ
รักษาแผนสำรองสำหรับรุ่นหรือผู้จำหน่าย
ตรวจสอบบันทึกประจำรุ่นเพื่อให้การเปลี่ยนแปลงแผนงานไม่ทำให้ทีมแปลกใจ
สำรวจต่อไป
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI21 Labs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
คำแนะนำต่อไป
ห้องทดลองป่าดำ
คำถามที่พบบ่อย
What is AI21 Labs?
AI21 Labs เป็นบริษัท AI ของอิสราเอลที่สร้างโมเดลภาษาขนาดใหญ่ (ตระกูล Jurassic และ Jamba) และเครื่องมือระดับองค์กร รวมถึง Wordtune ผู้ช่วยด้านการเขียนสำหรับผู้บริโภค สิ่งสำคัญคือการบุกเบิกสถาปัตยกรรม 'Jamba' แบบไฮบริด Mamba-Transformer และสำหรับการมุ่งเน้นไปที่ AI ที่เชื่อถือได้และมีพื้นฐานสำหรับธุรกิจ แทนที่จะไล่ตามกระแสผู้บริโภค
โมเดล Jamba ของ AI21 Labs มีความโดดเด่นในการรวม Transformer เข้ากับสถาปัตยกรรมอื่นใด
Jamba แทรกเลเยอร์ความสนใจของ Transformer เข้ากับเลเยอร์พื้นที่รัฐของ Mamba (รวมถึงผู้เชี่ยวชาญที่ผสมผสานกัน) เพื่อการจัดการบริบทแบบยาวที่มีประสิทธิภาพ
ข้อได้เปรียบด้านประสิทธิภาพหลักในการเพิ่มเลเยอร์ Mamba ให้กับ Transformer คืออะไร
ค่าความสนใจของหม้อแปลงจะเพิ่มขึ้นเป็นสองเท่าตามความยาว ในขณะที่เลเยอร์พื้นที่รัฐของ Mamba ปรับขนาดให้ใกล้เคียงกับเชิงเส้นมากขึ้น ทำให้บริบทที่ยาวมากมีหน่วยความจำน้อยลง
เครื่องมือเขียนของผู้บริโภคยอดนิยมใดที่ผลิตโดย AI21 Labs
Wordtune ซึ่งเป็นเครื่องมือเขียนใหม่และปรับโทนสีที่ขับเคลื่อนด้วย AI ของ AI21 เป็นหนึ่งในสินค้าอุปโภคบริโภคที่มีชื่อเสียงที่สุด
ผู้ร่วมก่อตั้ง AI21 Labs คนใดที่เป็นที่รู้จักจากการร่วมก่อตั้ง Mobileye
Amnon Shashua ผู้ร่วมก่อตั้ง AI21 Labs ยังได้ร่วมก่อตั้ง Mobileye บริษัทขับเคลื่อนอัตโนมัติด้วย
โมเดลภาษาขนาดใหญ่ในยุค GPT-3 ยุคต้นของ AI21 มีชื่อสกุลอะไรบ้าง
ซีรีส์ LLM ในยุคแรกของ AI21 มีชื่อว่า 'Jurassic' โดยแข่งขันกับโมเดลยุค GPT-3 ก่อนตระกูล Jamba ในเวลาต่อมา