Als nächstesNächster Leitfaden
LAION und offene Datensätze
Unternehmen
Leitfaden für Unternehmen
ServiceNow und StarCoder
StarCoder ist ein offenes, großes Sprachmodell für Code, das von ServiceNow Research und Hugging Face im Rahmen des BigCode-Projekts erstellt wurde.
Auf dieser Seite2 Minuten gelesen
Übersicht
It matters because it brought a permissively licensed, transparently trained coding assistant to a field dominated by closed models.
Tiefer Einblick
StarCoder ist eine Familie von Codegenerierungsmodellen, die im Mai 2023 von BigCode veröffentlicht wurde, einer Zusammenarbeit unter der gemeinsamen Leitung von ServiceNow Research und Hugging Face. Das Flaggschiff StarCoderBase ist ein Modell mit 15,5 Milliarden Parametern, das auf etwa einer Billion Token trainiert wird, die aus The Stack stammen, einem großen Datensatz freizügig lizenzierten Quellcodes, der mehr als 80 Programmiersprachen umfasst. Ein wesentliches Unterscheidungsmerkmal ist das 8.000-Token-Kontextfenster und das Fill-in-the-Middle-Training, das es ihm ermöglicht, den Code sowohl anhand vorhergehender als auch nachfolgender Zeilen zu vervollständigen, anstatt nur vorwärts vorherzusagen. BigCode legte Wert auf Data Governance: Es veröffentlichte die Trainingsdaten, bot ein Opt-out-Tool für Entwickler an und veröffentlichte das Modell unter der verantwortlichen OpenRAIL-M-Lizenz. StarCoder2 wurde 2024 veröffentlicht und erweiterte die Abdeckung auf über 600 Sprachen.
Strategische Auswirkungen
Anbieterstrategie
Anbieter-Roadmaps beeinflussen, welche Funktionen Ihr Team als Nächstes entwickeln kann.
Kosten und Budget
Kommerzielle Bedingungen und Bereitstellungsoptionen wirken sich auf die langfristigen Kosten und Risiken aus.
Risiko und Sicherheit
Unternehmensanreize prägen Produktstandards, Sicherheitslage und Offenheit.
Die Zukunft von ServiceNow und StarCoder
Codemodelle bewegen sich hin zu Agenten-Workflows, bei denen sie nicht nur automatisch vervollständigen, sondern auch planen, Tests ausführen und ihre eigene Ausgabe korrigieren. StarCoder2, das auf dem größeren, mit Software Heritage erstellten Stack v2-Datensatz trainiert wurde, weist auf eine breitere Sprachabdeckung und eine bessere Datenherkunft hin. Erwarten Sie, dass der Schwerpunkt weiterhin auf transparenten Trainingsdaten, Opt-out-Mechanismen und klarer Lizenzierung liegt, da die rechtliche Prüfung von Code-trainierten Modellen zunimmt, sowie eine engere Integration in Unternehmensentwicklerplattformen.
Reale Umsetzung
Unterstützt Vorschläge zur automatischen Vervollständigung und Code-Vervollständigung in IDE-Plugins und Editor-Erweiterungen
Generieren von Boilerplate-Funktionen, Komponententests und Dokumentzeichenfolgen aus einem Kommentar in natürlicher Sprache
Übersetzen oder Refactoring von Code zwischen Programmiersprachen innerhalb einer Unternehmenscodebasis
Dient als selbsthostbarer Codierungsassistent für Organisationen, die keinen proprietären Code an geschlossene Cloud-APIs senden können
Risiken und Leitplanken
Markteinführungsankündigungen können die Stabilität realer Produktionsabläufe übertreffen.
API-Preise oder Richtlinienänderungen können Annahmen über Nacht zunichte machen.
Die Abhängigkeit von einem einzigen Anbieter erhöht die Bindungs- und Migrationskosten.
Implementierungs-Roadmap
Bewerten Sie Anbieter anhand Ihrer eigenen Aufgaben und Datensätze.
Lesen Sie vor der Integration Datenschutz, Sicherheit und rechtliche Bestimmungen.
Pflegen Sie einen Fallback-Plan für alle Modelle oder Anbieter.
Überwachen Sie die Versionshinweise, damit Roadmap-Änderungen die Teams nicht überraschen.
Entdecken Sie weiter
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the ServiceNow and StarCoder quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Häufig gestellte Fragen
What is ServiceNow and StarCoder?
StarCoder ist ein offenes, großes Sprachmodell für Code, das von ServiceNow Research und Hugging Face im Rahmen des BigCode-Projekts erstellt wurde. Es ist wichtig, weil es einen freizügig lizenzierten, transparent ausgebildeten Codierungsassistenten in einen Bereich brachte, der von geschlossenen Modellen dominiert wird.
Welche beiden Organisationen haben gemeinsam das BigCode-Projekt geleitet, aus dem StarCoder hervorgegangen ist?
BigCode war eine gemeinsame Anstrengung von ServiceNow Research und Hugging Face zur Entwicklung offener, verantwortungsvoll entwickelter Codemodelle.
Wie heißt der Datensatz mit freizügig lizenziertem Quellcode, der zum Trainieren von StarCoder verwendet wird?
StarCoder wurde auf The Stack geschult, einem großen Korpus freizügig lizenzierten Codes in mehr als 80 Sprachen.
Mit welcher Trainingstechnik kann StarCoder den Code mithilfe des Kontexts auf beiden Seiten des Cursors vervollständigen?
Das Fill-in-the-Middle-Training ordnet Dokumente neu, sodass das Modell lernt, bei gegebenem vorhergehenden und folgenden Kontext eine fehlende Spanne zu generieren.
Wie groß ist das StarCoderBase-Flaggschiffmodell ungefähr?
StarCoderBase verfügt über etwa 15,5 Milliarden Parameter, was im Vergleich zu Grenzstandards bescheiden, aber für seine Größe bei Codeaufgaben stark ist.
Welche Aufmerksamkeitsoptimierung verwendet StarCoder, um den Speicher zu reduzieren und die Inferenz zu beschleunigen?
StarCoder nutzt die Aufmerksamkeit mehrerer Abfragen und teilt Schlüssel- und Wertprojektionen über mehrere Köpfe hinweg, um Speicher zu sparen und die Inferenz über lange Kontexte zu beschleunigen.
Lerne weiter
Verwandte Leitfäden
Weitere Leitfäden zu diesem Thema ausgewählt