GUIDA alle aziende
ServiceNow e StarCoder
The original StarCoder models were developed by the BigCode collaboration, co-led by ServiceNow Research and Hugging Face.
Ascolta questa guidaNarrato dall'IA · ~2 min
In questa pagina2 minuti di lettura
Panoramica
Their paper documents training data and model capabilities, while the OpenRAIL-M license permits use subject to stated restrictions.
Immersione profonda
The 2023 BigCode paper introduced StarCoderBase and StarCoder as 15.5-billion-parameter code models with an 8,000-token context. StarCoderBase was pretrained on about one trillion tokens from The Stack, and StarCoder was produced by further fine-tuning StarCoderBase on 35 billion Python tokens. The paper describes fill-in-the-middle training, multi-query attention, data documentation, opt-out mechanisms, and release under BigCode’s OpenRAIL-M license. StarCoder2 is a later, separate model family introduced in 2024.
Implementazione nel mondo reale
Alimentazione dei suggerimenti di completamento automatico e completamento del codice all'interno dei plug-in IDE e delle estensioni dell'editor
Generazione di funzioni boilerplate, unit test e docstring da un commento in linguaggio naturale
Traduzione o refactoring del codice tra linguaggi di programmazione all'interno di una codebase aziendale
Funge da assistente di codifica self-hostable per le organizzazioni che non possono inviare codice proprietario ad API cloud chiuse
Il futuro di ServiceNow e StarCoder
I modelli di codice si stanno spostando verso flussi di lavoro ad agenti in cui non solo si completano automaticamente, ma pianificano, eseguono test e correggono il proprio output. StarCoder2, addestrato sul set di dati Stack v2 più ampio creato con Software Heritage, punta verso una copertura linguistica più ampia e una migliore provenienza dei dati. Prevediamo una continua enfasi sulla trasparenza dei dati di formazione, sui meccanismi di opt-out e sulla chiarezza delle licenze man mano che cresce il controllo legale dei modelli con addestramento del codice, oltre a una più stretta integrazione nelle piattaforme di sviluppo aziendale.
Metterlo in pratica
Perché è importante
- Strategia del fornitore. Le roadmap dei fornitori influenzano le funzionalità che il tuo team può sviluppare successivamente.
- Costo e budget. I termini commerciali e le opzioni di implementazione influiscono sui costi e sui rischi a lungo termine.
- Rischio e sicurezza. Gli incentivi aziendali modellano le impostazioni predefinite dei prodotti, la postura di sicurezza e l’apertura.
Attenzione
- Gli annunci di lancio potrebbero superare la stabilità nei flussi di lavoro di produzione reali.
- I prezzi delle API o i cambiamenti politici possono infrangere le ipotesi da un giorno all’altro.
- La dipendenza da un unico fornitore aumenta i costi di lock-in e di migrazione.
Prossimi passi
- Valuta i fornitori utilizzando le tue attività e i tuoi set di dati.
- Esamina la privacy, la sicurezza e i termini legali prima dell'integrazione.
- Mantenere un piano di riserva tra modelli o fornitori.
- Monitora le note di rilascio in modo che le modifiche alla roadmap non sorprendano i team.
Continua a esplorare
Newsletter gratuita
Ricevi il briefing quotidiano sull'IA
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Take the ServiceNow and StarCoder quiz
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Domande frequenti
What is ServiceNow and StarCoder?
The original StarCoder models were developed by the BigCode collaboration, co-led by ServiceNow Research and Hugging Face. Their paper documents training data and model capabilities, while the OpenRAIL-M license permits use subject to stated restrictions.
Quali due organizzazioni hanno co-guidato il progetto BigCode che ha prodotto StarCoder?
BigCode è stato uno sforzo collaborativo condotto da ServiceNow Research e Hugging Face per creare modelli di codice aperti e sviluppati in modo responsabile.
Which dataset was used for StarCoderBase pretraining?
StarCoderBase was pretrained on The Stack, a large collection of permissively licensed source code.
Quale tecnica di training consente a StarCoder di completare il codice utilizzando il contesto su entrambi i lati del cursore?
La formazione Fill-in-the-Middle riordina i documenti in modo che il modello impari a generare un intervallo mancante dato il contesto precedente e successivo.
Quanto è grande all'incirca il modello di punta StarCoderBase?
StarCoderBase ha circa 15,5 miliardi di parametri, modesti per gli standard di frontiera ma forti per le sue dimensioni nelle attività di codice.
Quale ottimizzazione dell'attenzione utilizza StarCoder per ridurre la memoria e accelerare l'inferenza?
StarCoder utilizza l'attenzione multi-query, condividendo proiezioni chiave e di valore tra le teste per ridurre la memoria e accelerare l'inferenza di contesto lungo.
Continua a imparare
Guide correlate
Altre guide selezionate per questo argomento