ServiceNow és StarCoder
A StarCoder egy nyílt, nagy nyelvű kódmodell, amelyet a ServiceNow Research és a Hugging Face épített fel a BigCode projekten keresztül.
Áttekintés
Azért számít, mert egy engedéllyel engedéllyel, átláthatóan képzett kódolási asszisztenst hozott egy zárt modellek uralt területére.
Mély merülés
A StarCoder egy kódgenerációs modellcsalád, amelyet 2023 májusában adott ki a BigCode, a ServiceNow Research és a Hugging Face közös vezetésével. A StarCoderBase zászlóshajója egy 15,5 milliárd paraméteres modell, amelyet a The Stack-ből származó, több mint 80 programozási nyelvet felölelő, megengedhetően licencelt forráskód nagy adathalmazából származó, nagyjából ezermilliárd tokenre tanítanak. Legfontosabb megkülönböztető jellemzője a 8000 tokenből álló kontextusablak és a Fill-in-the-Middle képzés, amely lehetővé teszi az előző és a következő sorok kódjának befejezését, ahelyett, hogy csak előre jelezné. A BigCode az adatkezelést hangsúlyozta: közzétette a képzési adatokat, leiratkozási eszközt kínált a fejlesztők számára, és a modellt a felelős OpenRAIL-M licenc alatt adta ki. A 2024-ben megjelent StarCoder2 több mint 600 nyelvre bővítette a lefedettséget.
Technikai betekintés
A StarCoder csak dekóderre használható transzformátort használ több lekérdezés figyelemfelkeltéssel, amely megosztja a kulcs- és értékkivetítéseket a figyelemfejek között, hogy csökkentse a memóriahasználatot és felgyorsítsa a következtetéseket hosszú kontextushosszúság esetén. A Fill-in-the-Middle funkcióval képezték ki, ahol a dokumentumok véletlenszerűen vannak felosztva és újrarendezve, így a modell megtanul egy hiányzó tartományt generálni a környező kód függvényében. Ez jól illeszkedik az IDE automatikus kiegészítéséhez, ahol a kontextus a kurzor mindkét oldalán található.
Stratégiai hatás
Szállítói stratégia
A szállítói ütemterv befolyásolja, hogy csapata milyen funkciókat építhet fel legközelebb.
Költség és költségvetés
A kereskedelmi feltételek és a telepítési lehetőségek befolyásolják a hosszú távú költségeket és kockázatokat.
Kockázat és biztonság
A vállalati ösztönzők alakítják a termék alapértelmezett beállításait, a biztonsági testtartást és a nyitottságot.
A ServiceNow és a StarCoder jövője
A kódmodellek az ügynöki munkafolyamatok felé haladnak, ahol nemcsak automatikus kiegészítést végeznek, hanem meg is tervezik, teszteket futtatnak és javítják saját kimenetüket. A StarCoder2, amely a Software Heritage segítségével épített nagyobb Stack v2 adatkészletre van kiképezve, a szélesebb nyelvi lefedettség és a jobb adatforrás felé mutat. Várhatóan továbbra is az átlátható képzési adatokra, a leiratkozási mechanizmusokra és a licencelés egyértelműségére kell helyezni a hangsúlyt, ahogy a kóddal betanított modellek jogi ellenőrzése növekszik, valamint a vállalati fejlesztői platformokba való szorosabb integráció.
Valós megvalósítás
Automatikus kiegészítési és kódkiegészítési javaslatok az IDE-bővítményeken és szerkesztőbővítményeken belül
Bojler-függvények, egységtesztek és docstringek generálása természetes nyelvű megjegyzésekből
Kód fordítása vagy átalakítása programozási nyelvek között egy vállalati kódbázison belül
Önkiszolgáló kódolási asszisztensként szolgál olyan szervezetek számára, amelyek nem tudnak saját kódot küldeni a zárt felhő API-knak
Kockázatok és védőkorlátok
Az indítási bejelentések meghaladhatják a valódi termelési munkafolyamatok stabilitását.
Az API-árazás vagy az irányelvváltások egyik napról a másikra megdönthetik a feltételezéseket.
Az egyszállítótól való függőség növeli a bezárási és migrációs költségeket.
Végrehajtási ütemterv
Értékelje a szolgáltatókat saját feladatai és adatkészletei segítségével.
Az integráció előtt tekintse át az adatvédelmi, biztonsági és jogi feltételeket.
Tartsa fenn a tartalék tervet a modellek vagy szállítók között.
Figyelje a kiadási megjegyzéseket, hogy az ütemterv változásai ne lepjék meg a csapatokat.
Folytassa a felfedezést
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the ServiceNow and StarCoder quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Következő útmutató
LAION és Open Datasets
Gyakran ismételt kérdések
Mi az a ServiceNow és a StarCoder?
A StarCoder egy nyílt, nagy nyelvű kódmodell, amelyet a ServiceNow Research és a Hugging Face épített fel a BigCode projekten keresztül. Azért van jelentősége, mert egy megengedő engedéllyel rendelkező, átláthatóan képzett kódolási asszisztenst hozott a zárt modellek által uralt területre.
Melyik két szervezet vezette a StarCodert létrehozó BigCode projektet?
A BigCode a ServiceNow Research és a Hugging Face közösen vezetett közös erőfeszítése nyílt, felelősségteljesen fejlesztett kódmodellek felépítésére.
Mi a neve a StarCoder betanításához használt, engedélyezett forráskód adatkészletének?
A StarCoder a The Stack-en kapott képzést, amely több mint 80 nyelvre kiterjedő, megengedhetően licencelt kódok nagy része.
Milyen képzési technika teszi lehetővé a StarCoder számára, hogy a kurzor mindkét oldalán kontextus használatával fejezze be a kódot?
A Fill-in-the-Middle képzés átrendezi a dokumentumokat, így a modell megtanulja előállítani a hiányzó tartományt az előző és a következő kontextusban.
Körülbelül mekkora a zászlóshajó StarCoderBase modell?
A StarCoderBase körülbelül 15,5 milliárd paraméterrel rendelkezik, amelyek határszabványokhoz képest szerények, de méretéhez képest erősek a kódfeladatokhoz.
Milyen figyelemoptimalizálást használ a StarCoder a memória csökkentésére és a következtetések felgyorsítására?
A StarCoder több lekérdezést használ, megosztja a kulcs- és értékprojekciókat a fejek között, hogy csökkentse a memóriát és felgyorsítsa a hosszú kontextusra vonatkozó következtetéseket.