AI21 Labs
Az AI21 Labs egy izraeli mesterséges intelligencia-cég, amely nagy nyelvi modelleket (a Jurassic és Jamba családot) és a vállalati eszközöket, valamint a Wordtune fogyasztói írási asszisztenst épít.
Áttekintés
It matters for pioneering the Mamba-Transformer hybrid 'Jamba' architecture and for focusing on reliable, grounded AI for business rather than chasing consumer hype.
Mély merülés
A Yoav Shoham, Ori Goshen és Amnon Shashua (a Mobileye társalapítója) által 2017-ben Tel-Avivban alapított AI21 Labs korai úttörő volt a nagy nyelvi modellekben a Jurassic sorozatával, amely a GPT-3 korszak rendszereivel versenyzett. Megépítette a Wordtune-t, egy népszerű mesterséges intelligencia-átíró és nyelvtani eszközt, valamint az „AI21 Studio”-t, egy fejlesztői platformot a modelljeire való építkezéshez. 2024-ben kiadta a Jambát, egy figyelemre méltó, nyitott súlyú modellt, amely a Transformert a Mamba állapottér architektúrájával kombinálja, hogy hatékonyan kezelje a nagyon hosszú környezetet. Az AI21 a „feladat-specifikus modellekre” és a forrásokban a hallucinációk és a földi válaszok csökkentésére szolgáló technikákra helyezi a hangsúlyt, megbízható választásként pozicionálva magát a vállalkozások számára a pénzügyek, az ügyfélszolgálat és a sok dokumentumot igénylő munkafolyamatok terén.
Technikai betekintés
A Jamba főoldali innovációja egy hibrid: a szabványos Transformer figyelemrétegeket összelapolja a Mamba állapottér rétegeivel, és hozzáad egy szakértői komponenst. A transzformátorok kiválóak a rugalmas érvelésben, de figyelemköltségük négyzetesen nő a sorozat hosszával; A Mamba rétegek nagyjából lineárisan skálázódnak, így a keverék több százezer tokenek kontextusablakait kezeli sokkal alacsonyabb memóriahasználat mellett. Ez lehetővé teszi a Jamba számára, hogy hosszú dokumentumokat dolgozzon fel egyetlen GPU-n, miközben megőrzi a figyelem alapú modellekhez kapcsolódó érvelési minőséget.
Stratégiai hatás
Szállítói stratégia
A szállítói ütemterv befolyásolja, hogy csapata milyen funkciókat építhet fel legközelebb.
Költség és költségvetés
A kereskedelmi feltételek és a telepítési lehetőségek befolyásolják a hosszú távú költségeket és kockázatokat.
Kockázat és biztonság
A vállalati ösztönzők alakítják a termék alapértelmezett beállításait, a biztonsági testtartást és a nyitottságot.
Az AI21 Labs jövője
Az AI21 a fogyasztói chatbot-verseny helyett a hosszú kontextusú, hatékony architektúrákra és a megbízható vállalati telepítésre hajlik. Folyamatos befektetés várható olyan hibrid állapottér modellekbe, mint a Jamba, az eszközöket tervező és hívó ügynökrendszerek, valamint a hallucinációk csökkentésére szolgáló forrásokra hivatkozó földelési módszerek. Mivel a vállalkozások olcsóbb következtetéseket követelnek a hatalmas dokumentumokkal kapcsolatban, az AI21 a Mamba-Transformer hatékonyságára és a feladat-specifikus, irányítható modellekre tett fogadásai jól helyezkednek el, bár a nyílt súlyú kihívókkal és a határlaboratóriumokkal egyaránt versenyeznek.
Valós megvalósítás
A Wordtune használata e-mailek és dokumentumok átírására, lerövidítésére vagy hangszínének módosítására
Egy egész hosszú szerződés vagy jelentés betáplálása a Jamba nagy kontextusablakába összegzés vagy kérdezz-felelet céljából
Ügyféltámogatási asszisztens felépítése az AI21 Stúdióban, amely a válaszokat a vállalat tudásbázisába alapozza
Feladat-specifikus modellek bevezetése a pénzügyekben a sűrű bejelentésekből származó információk kinyerésére és összegzésére
Kockázatok és védőkorlátok
Az indítási bejelentések meghaladhatják a valódi termelési munkafolyamatok stabilitását.
Az API-árazás vagy az irányelvváltások egyik napról a másikra megdönthetik a feltételezéseket.
Az egyszállítótól való függőség növeli a bezárási és migrációs költségeket.
Végrehajtási ütemterv
Értékelje a szolgáltatókat saját feladatai és adatkészletei segítségével.
Az integráció előtt tekintse át az adatvédelmi, biztonsági és jogi feltételeket.
Tartsa fenn a tartalék tervet a modellek vagy szállítók között.
Figyelje a kiadási megjegyzéseket, hogy az ütemterv változásai ne lepjék meg a csapatokat.
Folytassa a felfedezést
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI21 Labs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Következő útmutató
Fekete-erdő Laboratóriumok
Gyakran ismételt kérdések
What is AI21 Labs?
Az AI21 Labs egy izraeli mesterséges intelligencia-cég, amely nagy nyelvi modelleket (a Jurassic és Jamba családot) és a vállalati eszközöket, valamint a Wordtune fogyasztói írási asszisztenst épít. Ez fontos a Mamba-Transformer hibrid „Jamba” architektúra úttörőjéhez, és ahhoz, hogy a megbízható, megalapozott mesterséges intelligenciára összpontosítson az üzleti életben, ahelyett, hogy a fogyasztói hírverést hajszolná.
Az AI21 Labs Jamba modellje arról nevezetes, hogy melyik másik architektúrával kombinálja a Transformert?
A Jamba átlapolja a Transformer figyelmi rétegeit Mamba állapottér rétegekkel (plusz szakértői keverék) a hatékony hosszú kontextus kezelés érdekében.
Mi a fő hatékonysági előnye annak, ha Mamba rétegeket adunk a Transformerhez?
A transzformátor figyelemköltsége négyzetesen nő a hosszával, míg a Mamba állapottér rétegei közelebb lépnek a lineárishoz, lehetővé téve a nagyon hosszú kontextusokat, kevesebb memóriával.
Melyik népszerű fogyasztói íróeszközt készíti az AI21 Labs?
A Wordtune, az AI21 mesterséges intelligencia által vezérelt átíró és hangszínbeállító eszköze az egyik legismertebb fogyasztói terméke.
Az AI21 Labs melyik társalapítója ismert a Mobileye társalapítójáról?
Amnon Shashua, az AI21 Labs társalapítója a Mobileye autonóm vezetéssel foglalkozó céget is társalapítója.
Milyen családnevet viseltek az AI21 korai GPT-3 korszakának nagy nyelvi modelljei?
Az AI21 korai LLM sorozatát „Jurassic” márkanévvel látták el, amely a későbbi Jamba család előtt a GPT-3-korszak modelljeivel versenyzett.