Vállalkozási ÚTMUTATÓ

ServiceNow és StarCoder

The original StarCoder models were developed by the BigCode collaboration, co-led by ServiceNow Research and Hugging Face.

Hallgassa meg ezt az útmutatótAI-narrált · ~2 min

Ezen az oldalon2 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A ServiceNow és a StarCoder jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Their paper documents training data and model capabilities, while the OpenRAIL-M license permits use subject to stated restrictions.

Mély merülés

The 2023 BigCode paper introduced StarCoderBase and StarCoder as 15.5-billion-parameter code models with an 8,000-token context. StarCoderBase was pretrained on about one trillion tokens from The Stack, and StarCoder was produced by further fine-tuning StarCoderBase on 35 billion Python tokens. The paper describes fill-in-the-middle training, multi-query attention, data documentation, opt-out mechanisms, and release under BigCode’s OpenRAIL-M license. StarCoder2 is a later, separate model family introduced in 2024.

Valós megvalósítás

Automatikus kiegészítési és kódkiegészítési javaslatok az IDE-bővítményeken és szerkesztőbővítményeken belül

Bojler-függvények, egységtesztek és docstringek generálása természetes nyelvű megjegyzésekből

Kód fordítása vagy átalakítása programozási nyelvek között egy vállalati kódbázison belül

Önkiszolgáló kódolási asszisztensként szolgál olyan szervezetek számára, amelyek nem tudnak saját kódot küldeni a zárt felhő API-knak

A ServiceNow és a StarCoder jövője

A kódmodellek az ügynöki munkafolyamatok felé haladnak, ahol nemcsak automatikus kiegészítést végeznek, hanem meg is tervezik, teszteket futtatnak és javítják saját kimenetüket. A StarCoder2, amely a Software Heritage segítségével épített nagyobb Stack v2 adatkészletre van kiképezve, a szélesebb nyelvi lefedettség és a jobb adatforrás felé mutat. Várhatóan továbbra is az átlátható képzési adatokra, a leiratkozási mechanizmusokra és a licencelés egyértelműségére kell helyezni a hangsúlyt, ahogy a kóddal betanított modellek jogi ellenőrzése növekszik, valamint a vállalati fejlesztői platformokba való szorosabb integráció.

A gyakorlatba ültetés

Miért számít

  • Szállítói stratégia. A szállítói ütemterv befolyásolja, hogy csapata milyen funkciókat építhet fel legközelebb.
  • Költség és költségvetés. A kereskedelmi feltételek és a telepítési lehetőségek befolyásolják a hosszú távú költségeket és kockázatokat.
  • Kockázat és biztonság. A vállalati ösztönzők alakítják a termék alapértelmezett beállításait, a biztonsági testtartást és a nyitottságot.

Vigyázz

  • Az indítási bejelentések meghaladhatják a valódi termelési munkafolyamatok stabilitását.
  • Az API-árazás vagy az irányelvváltások egyik napról a másikra megdönthetik a feltételezéseket.
  • Az egyszállítótól való függőség növeli a bezárási és migrációs költségeket.

Következő lépések

  1. Értékelje a szolgáltatókat saját feladatai és adatkészletei segítségével.
  2. Az integráció előtt tekintse át az adatvédelmi, biztonsági és jogi feltételeket.
  3. Tartsa fenn a tartalék tervet a modellek vagy szállítók között.
  4. Figyelje a kiadási megjegyzéseket, hogy az ütemterv változásai ne lepjék meg a csapatokat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the ServiceNow and StarCoder quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az a ServiceNow és a StarCoder?

The original StarCoder models were developed by the BigCode collaboration, co-led by ServiceNow Research and Hugging Face. Their paper documents training data and model capabilities, while the OpenRAIL-M license permits use subject to stated restrictions.

Melyik két szervezet vezette a StarCodert létrehozó BigCode projektet?

A BigCode a ServiceNow Research és a Hugging Face közösen vezetett közös erőfeszítése nyílt, felelősségteljesen fejlesztett kódmodellek felépítésére.

Which dataset was used for StarCoderBase pretraining?

StarCoderBase was pretrained on The Stack, a large collection of permissively licensed source code.

Milyen képzési technika teszi lehetővé a StarCoder számára, hogy a kurzor mindkét oldalán kontextus használatával fejezze be a kódot?

A Fill-in-the-Middle képzés átrendezi a dokumentumokat, így a modell megtanulja előállítani a hiányzó tartományt az előző és a következő kontextusban.

Körülbelül mekkora a zászlóshajó StarCoderBase modell?

A StarCoderBase körülbelül 15,5 milliárd paraméterrel rendelkezik, amelyek határszabványokhoz képest szerények, de méretéhez képest erősek a kódfeladatokhoz.

Milyen figyelemoptimalizálást használ a StarCoder a memória csökkentésére és a következtetések felgyorsítására?

A StarCoder több lekérdezést használ, megosztja a kulcs- és értékprojekciókat a fejek között, hogy csökkentse a memóriát és felgyorsítsa a hosszú kontextusra vonatkozó következtetéseket.