Laboratori AI21
AI21 Labs è una società israeliana di intelligenza artificiale che sviluppa modelli linguistici di grandi dimensioni (le famiglie Jurassic e Jamba) e strumenti aziendali, oltre all'assistente di scrittura per i consumatori Wordtune.
Panoramica
È importante per aver introdotto l'architettura ibrida Mamba-Transformer 'Jamba' e per concentrarsi su un'IA affidabile e radicata per le imprese, piuttosto che inseguire l'hype dei consumatori.
Immersione profonda
Fondata nel 2017 a Tel Aviv da Yoav Shoham, Ori Goshen e Amnon Shashua (anche co-fondatore di Mobileye), AI21 Labs è stato uno dei primi promotori di modelli linguistici di grandi dimensioni con le sue serie Jurassic, che competevano con i sistemi dell'era GPT-3. Ha creato Wordtune, un popolare strumento di riscrittura e grammatica dell'intelligenza artificiale, e "AI21 Studio", una piattaforma di sviluppo per costruire sui suoi modelli. Nel 2024 ha rilasciato Jamba, un notevole modello open-weight che combina Transformer con l'architettura nello spazio degli stati Mamba per gestire in modo efficiente contesti molto lunghi. AI21 enfatizza i "modelli specifici del compito" e le tecniche per ridurre le allucinazioni e le risposte di base nelle fonti, posizionandosi come una scelta affidabile per le imprese nel campo della finanza, del servizio clienti e dei flussi di lavoro ricchi di documenti.
Approfondimento tecnico
L'innovazione principale di Jamba è un ibrido: interlaccia i livelli di attenzione standard di Transformer con i livelli di spazio degli stati di Mamba e aggiunge un componente misto di esperti. I trasformatori eccellono nel ragionamento flessibile, ma il loro costo in attenzione cresce quadraticamente con la lunghezza della sequenza; I livelli di Mamba si ridimensionano in modo più o meno lineare, quindi la fusione gestisce finestre di contesto di centinaia di migliaia di token con un utilizzo di memoria molto inferiore. Ciò consente a Jamba di acquisire documenti lunghi su una singola GPU mantenendo la qualità del ragionamento associata ai modelli basati sull'attenzione.
Impatto strategico
Strategia del fornitore
Le roadmap dei fornitori influenzano le funzionalità che il tuo team può sviluppare successivamente.
Costo e budget
I termini commerciali e le opzioni di implementazione influiscono sui costi e sui rischi a lungo termine.
Rischio e sicurezza
Gli incentivi aziendali modellano le impostazioni predefinite dei prodotti, la postura di sicurezza e l’apertura.
Il futuro dei laboratori AI21
AI21 si appoggia a architetture efficienti e a lungo contesto e a un’implementazione aziendale affidabile piuttosto che alla corsa ai chatbot consumer. Aspettatevi investimenti continui in modelli ibridi stato-spazio come Jamba, sistemi ad agenti che pianificano e chiamano strumenti e metodi di messa a terra che citano fonti per ridurre le allucinazioni. Poiché le aziende richiedono un'inferenza più economica su documenti di grandi dimensioni, la scommessa di AI21 sull'efficienza di Mamba-Transformer e su modelli controllabili e specifici per attività la posiziona bene, sebbene competa sia con sfidanti open-weight che con laboratori di frontiera.
Implementazione nel mondo reale
Utilizzo di Wordtune per riscrivere, abbreviare o modificare il tono di e-mail e documenti
Alimentazione di un intero lungo contratto o report nell'ampia finestra di contesto di Jamba per riepiloghi o domande e risposte
Costruire un assistente di assistenza clienti su AI21 Studio che fonda le risposte nella knowledge base di un'azienda
Implementazione di modelli specifici per attività in finanza per estrarre e riassumere informazioni da archivi densi
Rischi e guardrail
Gli annunci di lancio potrebbero superare la stabilità nei flussi di lavoro di produzione reali.
I prezzi delle API o i cambiamenti politici possono infrangere le ipotesi da un giorno all’altro.
La dipendenza da un unico fornitore aumenta i costi di lock-in e di migrazione.
Tabella di marcia per l'implementazione
Valuta i fornitori utilizzando le tue attività e i tuoi set di dati.
Esamina la privacy, la sicurezza e i termini legali prima dell'integrazione.
Mantenere un piano di riserva tra modelli o fornitori.
Monitora le note di rilascio in modo che le modifiche alla roadmap non sorprendano i team.
Continua a esplorare
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI21 Labs quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Prossima guida
Laboratori della Foresta Nera
Domande frequenti
Cos'è AI21 Labs?
AI21 Labs è una società israeliana di intelligenza artificiale che sviluppa modelli linguistici di grandi dimensioni (le famiglie Jurassic e Jamba) e strumenti aziendali, oltre all'assistente di scrittura per i consumatori Wordtune. È importante per essere pionieri dell'architettura ibrida "Jamba" di Mamba-Transformer e concentrarsi su un'intelligenza artificiale affidabile e fondata per le aziende piuttosto che inseguire l'hype dei consumatori.
Il modello Jamba di AI21 Labs si distingue per la combinazione di Transformer con quale altra architettura?
Jamba interlaccia i livelli di attenzione di Transformer con i livelli di spazio degli stati di Mamba (più una combinazione di esperti) per una gestione efficiente di contesti lunghi.
Qual è il principale vantaggio in termini di efficienza derivante dall'aggiunta di strati Mamba a un Transformer?
Il costo dell'attenzione del trasformatore cresce in modo quadratico con la lunghezza, mentre i livelli dello spazio degli stati di Mamba si ridimensionano in modo più vicino a quello lineare, consentendo contesti molto lunghi con meno memoria.
Quale popolare strumento di scrittura per i consumatori è realizzato da AI21 Labs?
Wordtune, lo strumento di riscrittura e regolazione del tono basato sull'intelligenza artificiale di AI21, è uno dei suoi prodotti di consumo più noti.
Quale co-fondatore di AI21 Labs è noto anche per aver co-fondato Mobileye?
Amnon Shashua, co-fondatore di AI21 Labs, ha anche co-fondato la società di guida autonoma Mobileye.
Quale nome di famiglia portavano i primi modelli linguistici di grandi dimensioni dell'era GPT-3 di AI21?
La prima serie LLM di AI21 era denominata "Jurassic", in competizione con i modelli dell'era GPT-3 prima della successiva famiglia Jamba.