LegközelebbKövetkező útmutató
LAION és Open Datasets
Vállalatok
Vállalkozási ÚTMUTATÓ
The original StarCoder models were developed by the BigCode collaboration, co-led by ServiceNow Research and Hugging Face.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
Their paper documents training data and model capabilities, while the OpenRAIL-M license permits use subject to stated restrictions.
The 2023 BigCode paper introduced StarCoderBase and StarCoder as 15.5-billion-parameter code models with an 8,000-token context. StarCoderBase was pretrained on about one trillion tokens from The Stack, and StarCoder was produced by further fine-tuning StarCoderBase on 35 billion Python tokens. The paper describes fill-in-the-middle training, multi-query attention, data documentation, opt-out mechanisms, and release under BigCode’s OpenRAIL-M license. StarCoder2 is a later, separate model family introduced in 2024.
Automatikus kiegészítési és kódkiegészítési javaslatok az IDE-bővítményeken és szerkesztőbővítményeken belül
Bojler-függvények, egységtesztek és docstringek generálása természetes nyelvű megjegyzésekből
Kód fordítása vagy átalakítása programozási nyelvek között egy vállalati kódbázison belül
Önkiszolgáló kódolási asszisztensként szolgál olyan szervezetek számára, amelyek nem tudnak saját kódot küldeni a zárt felhő API-knak
A kódmodellek az ügynöki munkafolyamatok felé haladnak, ahol nemcsak automatikus kiegészítést végeznek, hanem meg is tervezik, teszteket futtatnak és javítják saját kimenetüket. A StarCoder2, amely a Software Heritage segítségével épített nagyobb Stack v2 adatkészletre van kiképezve, a szélesebb nyelvi lefedettség és a jobb adatforrás felé mutat. Várhatóan továbbra is az átlátható képzési adatokra, a leiratkozási mechanizmusokra és a licencelés egyértelműségére kell helyezni a hangsúlyt, ahogy a kóddal betanított modellek jogi ellenőrzése növekszik, valamint a vállalati fejlesztői platformokba való szorosabb integráció.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
The original StarCoder models were developed by the BigCode collaboration, co-led by ServiceNow Research and Hugging Face. Their paper documents training data and model capabilities, while the OpenRAIL-M license permits use subject to stated restrictions.
A BigCode a ServiceNow Research és a Hugging Face közösen vezetett közös erőfeszítése nyílt, felelősségteljesen fejlesztett kódmodellek felépítésére.
StarCoderBase was pretrained on The Stack, a large collection of permissively licensed source code.
A Fill-in-the-Middle képzés átrendezi a dokumentumokat, így a modell megtanulja előállítani a hiányzó tartományt az előző és a következő kontextusban.
A StarCoderBase körülbelül 15,5 milliárd paraméterrel rendelkezik, amelyek határszabványokhoz képest szerények, de méretéhez képest erősek a kódfeladatokhoz.
A StarCoder több lekérdezést használ, megosztja a kulcs- és értékprojekciókat a fejek között, hogy csökkentse a memóriát és felgyorsítsa a hosszú kontextusra vonatkozó következtetéseket.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
LAION és Open Datasets
Vállalatok