ServiceNow dan StarCoder
StarCoder ialah model bahasa besar terbuka untuk kod, dibina oleh ServiceNow Research dan Hugging Face melalui projek BigCode.
Gambaran keseluruhan
It matters because it brought a permissively licensed, transparently trained coding assistant to a field dominated by closed models.
Menyelam dalam
StarCoder ialah keluarga model penjanaan kod yang dikeluarkan pada Mei 2023 oleh BigCode, kerjasama yang diketuai bersama oleh ServiceNow Research dan Hugging Face. StarCoderBase terulung ialah model 15.5 bilion parameter yang dilatih pada kira-kira satu trilion token yang diambil daripada The Stack, set data besar kod sumber berlesen permisif yang merangkumi lebih daripada 80 bahasa pengaturcaraan. Ciri pembezaan utama ialah tetingkap konteks 8,000 token dan latihan Isi-dalam-Tengah, membenarkannya melengkapkan kod diberikan kedua-dua baris sebelum dan seterusnya dan bukannya hanya meramal ke hadapan. BigCode menekankan tadbir urus data: ia menerbitkan data latihan, menawarkan alat menarik diri untuk pembangun, dan mengeluarkan model di bawah lesen OpenRAIL-M yang bertanggungjawab. StarCoder2, dikeluarkan pada 2024, meluaskan liputan kepada lebih 600 bahasa.
Wawasan Teknikal
StarCoder menggunakan pengubah dekoder sahaja dengan perhatian berbilang pertanyaan, yang berkongsi unjuran kunci dan nilai merentas kepala perhatian untuk mengecilkan penggunaan memori dan mempercepatkan inferens pada panjang konteks yang panjang. Ia telah dilatih dengan Fill-in-the-Middle, di mana dokumen dipecah dan disusun semula secara rawak supaya model belajar untuk menjana rentang yang hilang berdasarkan kod sekeliling. Ini menjadikannya sangat sesuai untuk pelengkapan automatik IDE, di mana konteks wujud pada kedua-dua belah kursor.
Kesan Strategik
Strategi vendor
Peta jalan vendor mempengaruhi ciri yang boleh dibina oleh pasukan anda seterusnya.
Kos dan bajet
Terma komersial dan pilihan penggunaan mempengaruhi kos dan risiko jangka panjang.
Risiko dan keselamatan
Insentif syarikat membentuk keingkaran produk, postur keselamatan dan keterbukaan.
Masa Depan ServiceNow dan StarCoder
Model kod sedang bergerak ke arah aliran kerja agenik di mana ia bukan sahaja autolengkap tetapi merancang, menjalankan ujian dan membetulkan outputnya sendiri. StarCoder2, dilatih pada set data Stack v2 yang lebih besar yang dibina dengan Warisan Perisian, menunjuk ke arah liputan bahasa yang lebih luas dan asal data yang lebih baik. Jangkakan penekanan berterusan pada data latihan yang telus, mekanisme menarik diri dan kejelasan pelesenan apabila penelitian undang-undang terhadap model terlatih kod berkembang, serta penyepaduan yang lebih ketat ke dalam platform pembangun perusahaan.
Pelaksanaan Dunia Sebenar
Menguasakan cadangan autolengkap dan pelengkapan kod dalam pemalam IDE dan sambungan editor
Menjana fungsi boilerplate, ujian unit dan docstrings daripada ulasan bahasa semula jadi
Menterjemah atau memfaktorkan semula kod antara bahasa pengaturcaraan dalam pangkalan kod perusahaan
Berkhidmat sebagai pembantu pengekodan yang boleh dihoskan sendiri untuk organisasi yang tidak boleh menghantar kod proprietari kepada API awan tertutup
Risiko & Pengawal
Pengumuman pelancaran mungkin melebihi kestabilan dalam aliran kerja pengeluaran sebenar.
Harga API atau anjakan dasar boleh memecahkan andaian semalaman.
Kebergantungan vendor tunggal meningkatkan kos kunci masuk dan penghijrahan.
Hala Tuju Pelaksanaan
Nilai penyedia menggunakan tugasan dan set data anda sendiri.
Semak privasi, keselamatan dan syarat undang-undang sebelum penyepaduan.
Kekalkan pelan sandaran merentas model atau vendor.
Pantau nota keluaran supaya perubahan peta jalan tidak mengejutkan pasukan.
Teruskan Meneroka
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the ServiceNow and StarCoder quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Panduan seterusnya
LAION dan Set Data Terbuka
Soalan lazim
What is ServiceNow and StarCoder?
StarCoder ialah model bahasa besar terbuka untuk kod, dibina oleh ServiceNow Research dan Hugging Face melalui projek BigCode. Ia penting kerana ia membawa pembantu pengekodan yang berlesen secara permisif, terlatih secara telus ke bidang yang dikuasai oleh model tertutup.
Dua organisasi manakah yang mengetuai projek BigCode yang menghasilkan StarCoder?
BigCode ialah usaha kerjasama yang diketuai bersama oleh ServiceNow Research dan Hugging Face untuk membina model kod yang dibangunkan secara terbuka dan bertanggungjawab.
Apakah nama set data kod sumber berlesen permisif yang digunakan untuk melatih StarCoder?
StarCoder telah dilatih pada The Stack, korpus besar kod berlesen permisif merentas lebih daripada 80 bahasa.
Apakah teknik latihan yang membolehkan StarCoder melengkapkan kod menggunakan konteks pada kedua-dua belah kursor?
Latihan Isi-dalam-Tengah menyusun semula dokumen supaya model belajar menjana rentang yang hilang berdasarkan konteks sebelum dan seterusnya.
Secara kasar berapa besar model StarCoderBase utama?
StarCoderBase mempunyai kira-kira 15.5 bilion parameter, sederhana mengikut piawaian sempadan tetapi kukuh untuk saiznya pada tugas kod.
Pengoptimuman perhatian manakah yang digunakan oleh StarCoder untuk mengurangkan memori dan mempercepatkan inferens?
StarCoder menggunakan perhatian berbilang pertanyaan, perkongsian kunci dan unjuran nilai merentas kepala untuk memotong memori dan mempercepatkan inferens konteks panjang.