Laboratoria AI21
AI21 Labs to izraelska firma zajmująca się sztuczną inteligencją tworząca duże modele językowe (rodziny Jurassic i Jamba) oraz narzędzia dla przedsiębiorstw, a także asystenta pisania konsumenckiego Wordtune.
Przegląd
It matters for pioneering the Mamba-Transformer hybrid 'Jamba' architecture and for focusing on reliable, grounded AI for business rather than chasing consumer hype.
Głębokie nurkowanie
Założone w 2017 roku w Tel Awiwie przez Yoava Shohama, Ori Goshena i Amnona Shashuę (również współzałożyciela Mobileye), AI21 Labs było pionierem w dziedzinie dużych modeli językowych dzięki serii Jurassic, która konkurowała z systemami z ery GPT-3. Zbudowała Wordtune, popularne narzędzie do przepisywania i gramatyki AI, oraz „AI21 Studio” – platformę programistyczną do budowania na swoich modelach. W 2024 roku wypuścił Jambę, godny uwagi model o otwartej wadze, łączący Transformer z architekturą przestrzeni stanów Mamba, aby efektywnie obsługiwać bardzo długi kontekst. AI21 kładzie nacisk na „modele specyficzne dla zadania” i techniki redukujące halucynacje i ugruntowane odpowiedzi w źródłach, pozycjonując się jako niezawodny wybór dla przedsiębiorstw zajmujących się finansami, obsługą klienta i przepływami pracy obciążonymi dużą ilością dokumentów.
Wgląd techniczny
Główna innowacja Jamby jest hybrydą: przeplata standardowe warstwy uwagi Transformera z warstwami przestrzeni stanów Mamby i dodaje komponent będący mieszanką ekspertów. Transformatory wyróżniają się elastycznym rozumowaniem, ale koszt uwagi rośnie kwadratowo wraz z długością sekwencji; Warstwy Mamby skalują się mniej więcej liniowo, więc mieszanka obsługuje okna kontekstowe setek tysięcy tokenów przy znacznie mniejszym zużyciu pamięci. Dzięki temu Jamba może przetwarzać długie dokumenty na pojedynczym procesorze graficznym, zachowując przy tym jakość rozumowania charakterystyczną dla modeli opartych na uwadze.
Wpływ strategiczny
Strategia dostawcy
Plany dostawców wpływają na to, jakie funkcje Twój zespół będzie mógł dalej tworzyć.
Koszt i budżet
Warunki handlowe i opcje wdrożenia wpływają na długoterminowe koszty i ryzyko.
Ryzyko i bezpieczeństwo
Zachęty firmowe kształtują wady produktów, postawę bezpieczeństwa i otwartość.
Przyszłość laboratoriów AI21
AI21 opiera się na wydajnych architekturach o długim kontekście i niezawodnym wdrażaniu w przedsiębiorstwach, a nie na wyścigu chatbotów konsumenckich. Można się spodziewać ciągłych inwestycji w hybrydowe modele przestrzeni stanów, takie jak Jamba, systemy agentowe planujące i wywołujące narzędzia oraz metody uziemiające, które cytują źródła w celu ograniczenia halucynacji. Ponieważ przedsiębiorstwa wymagają tańszego wnioskowania w przypadku dużych dokumentów, AI21 postawił na wydajność Mamba-Transformer i dostosowane do konkretnych zadań, sterowalne modele, co daje mu dobrą pozycję, choć konkuruje zarówno z konkurentami o otwartej wadze, jak i z pionierskimi laboratoriami.
Implementacja w świecie rzeczywistym
Używanie programu Wordtune do przepisywania, skracania lub zmiany tonu wiadomości e-mail i dokumentów
Przesyłanie całego długiego kontraktu lub raportu do dużego okna kontekstowego Jamby w celu podsumowania lub pytań i odpowiedzi
Budowa asystenta obsługi klienta w AI21 Studio, który opiera odpowiedzi na bazie wiedzy firmy
Wdrażanie modeli zadaniowych w finansach w celu wyodrębniania i podsumowywania informacji z gęsto przechowywanych dokumentów
Zagrożenia i poręcze
Ogłoszenia o wprowadzeniu na rynek mogą przekroczyć stabilność w rzeczywistych przepływach pracy.
Ceny interfejsów API lub zmiany zasad mogą z dnia na dzień złamać założenia.
Zależność od jednego dostawcy zwiększa koszty uzależnienia i migracji.
Plan wdrożenia
Oceniaj dostawców, korzystając z własnych zadań i zbiorów danych.
Przed integracją przejrzyj warunki dotyczące prywatności, bezpieczeństwa i prawa.
Utrzymuj plan awaryjny dla różnych modeli i dostawców.
Monitoruj informacje o wersji, aby zmiany w planie działania nie zaskoczyły zespołów.
Odkrywaj dalej
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI21 Labs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Następny poradnik
Laboratoria Czarnego Lasu
Często zadawane pytania
What is AI21 Labs?
AI21 Labs to izraelska firma zajmująca się sztuczną inteligencją tworząca duże modele językowe (rodziny Jurassic i Jamba) oraz narzędzia dla przedsiębiorstw, a także asystenta pisania konsumenckiego Wordtune. Ma to znaczenie dla pionierskiej hybrydowej architektury „Jamba” Mamba-Transformer i dla skupienia się na niezawodnej, ugruntowanej sztucznej inteligencji dla biznesu, zamiast gonić za szumem konsumenckim.
Model Jamba firmy AI21 Labs wyróżnia się połączeniem Transformera z jaką inną architekturą?
Jamba przeplata warstwy uwagi Transformera z warstwami przestrzeni stanów Mamby (oraz mieszanką ekspertów) w celu wydajnej obsługi długich kontekstów.
Jaka jest główna zaleta w zakresie wydajności, wynikająca z dodania warstw Mamba do transformatora?
Koszt uwagi transformatora rośnie kwadratowo wraz z długością, podczas gdy warstwy przestrzeni stanów Mamby skalują się bliżej liniowo, umożliwiając bardzo długie konteksty przy mniejszej ilości pamięci.
Które popularne narzędzie do pisania dla konsumentów jest produkowane przez AI21 Labs?
Wordtune, narzędzie AI21 do przepisywania i dostosowywania tonów oparte na sztucznej inteligencji, jest jednym z najbardziej znanych produktów konsumenckich AI21.
Który współzałożyciel AI21 Labs jest również znany ze współzałożyciela Mobileye?
Amnon Shashua, współzałożyciel AI21 Labs, był także współzałożycielem firmy Mobileye zajmującej się pojazdami autonomicznymi.
Jakie nazwisko nosiły duże modele językowe AI21 z wczesnej ery GPT-3?
Wczesna seria LLM AI21 została oznaczona jako „Jurassic”, konkurując z modelami z ery GPT-3 sprzed późniejszej rodziny Jamba.