SıradakiSonraki rehber
Magic AI Uzun Bağlamlı Kod Modelleri
Şirketler
Şirketler KILAVUZU
BigScience ve BLOOM Modeli
BLOOM, BigScience iş birliği tarafından üretilen ve araştırma dokümantasyonuyla birlikte yayınlanan 176 milyar parametreli çok dilli bir dil modelidir.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
Bu sayfada2 dakika okuma
Genel Bakış
Its ROOTS training corpus included natural and programming languages, making it a prominent open-access research model.
Derin Dalış
The BigScience paper describes BLOOM as a decoder-only Transformer with 176 billion parameters. It was trained on ROOTS, a corpus assembled from hundreds of sources in 46 natural languages and 13 programming languages. The collaboration released the model and code under the Responsible AI License and documented data and training choices. Its open-access release supports research, but does not remove the need to consider the license, model limitations, or the represented language distribution.
Gerçek Dünya Uygulaması
Ticari modellerin yetersiz hizmet verdiği diller de dahil olmak üzere düzinelerce dilde metin oluşturma ve tamamlama
Önyargı, çok dilli aktarım ve ölçeklendirme davranışını incelemek için açık bir araştırma temeli olarak hizmet etmek
İngilizce dışındaki topluluklar için BLOOMZ gibi göreve özgü veya talimatları takip eden değişkenlere ince ayar yapma
Eğitim verilerinin kaynağı ve sorumlu yapay zeka lisanslaması üzerinde çalışan akademisyenler için tamamen belgelenmiş bir model sağlamak
BigScience'ın Geleceği ve BLOOM Modeli
BigScience, büyük ölçekli, açık bir şekilde yönetilen yapay zekanın mümkün olduğunu gösterdi ve modeli, daha sonraki açık sürümleri ve şeffaflığa yönelik daha geniş baskıyı etkiledi. Gelecekteki çok dilli çalışmalar muhtemelen veri dokümantasyonu ve kapsayıcı dil kapsamı konularındaki derslere dayanacak ve daha yeni, daha verimli modeller ham yetenek açısından BLOOM'u geride bırakacaktır. Kalıcı mirası, model kartları, veri bildirimleri ve sorumlu lisansların yayınlanması normunun yanı sıra genel bilişimin sınır ölçekli modelleri eğitebileceğinin kanıtıdır.
Uygulamaya koymak
Neden önemli?
- Satıcı stratejisi. Satıcı yol haritaları, ekibinizin bundan sonra hangi özellikleri geliştirebileceğini etkiler.
- Maliyet ve bütçe. Ticari şartlar ve dağıtım seçenekleri uzun vadeli maliyet ve riski etkiler.
- Risk ve güvenlik. Şirket teşvikleri ürün temerrütlerini, güvenlik duruşunu ve açıklığı şekillendirir.
Dikkat edin
- Lansman duyuruları, gerçek üretim iş akışlarında istikrarın önüne geçebilir.
- API fiyatlandırması veya politika değişiklikleri, varsayımları bir gecede boşa çıkarabilir.
- Tek satıcıya bağımlılık, bağlılık ve geçiş maliyetlerini artırır.
Sonraki adımlar
- Sağlayıcıları kendi görevlerinizi ve veri kümelerinizi kullanarak değerlendirin.
- Entegrasyondan önce gizlilik, güvenlik ve yasal şartları inceleyin.
- Modeller veya satıcılar arasında bir geri dönüş planı sürdürün.
- Yol haritası değişikliklerinin ekipleri şaşırtmaması için sürüm notlarını izleyin.
Keşfetmeye Devam Edin
Ücretsiz bülten
Günlük AI brifingini alın
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Take the BigScience and the BLOOM Model quiz
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Sık sorulan sorular
What is BigScience and the BLOOM Model?
BLOOM is a 176-billion-parameter multilingual language model produced by the BigScience collaboration and released with its research documentation. Its ROOTS training corpus included natural and programming languages, making it a prominent open-access research model.
Zamanının benzer boyutlu modelleriyle karşılaştırıldığında BLOOM modelinin temel ayırt edici amacı neydi?
BLOOM, gerçekten çok dilli olacak şekilde tasarlandı ve karşılaştırılabilir ölçekteki kapalı modellerin aksine, tam belgelerle birlikte açık bir şekilde yayınlandı.
BLOOM'un yaklaşık olarak kaç parametresi vardır?
BLOOM, 176 milyar parametreli bir modeldir ve onu GPT-3 ile benzer ölçeğe yerleştirir.
BLOOM kaç doğal dili işlemek üzere eğitildi?
BLOOM'un ROOTS eğitim külliyatı 46 doğal dili ve 13 programlama dilini kapsıyordu.
BigScience işbirliğini hangi kuruluş koordine etti?
Hugging Face, 1000'den fazla gönüllü araştırmacının yer aldığı BigScience çalıştayını koordine etti.
BLOOM nerede eğitildi?
BLOOM, Fransa'daki Jean Zay süper bilgisayarı üzerinde eğitildi ve bu, halka açık bilişimin sınır ölçeğinde bir modeli eğitebileceğini gösterdi.
Öğrenmeye devam et
İlgili kılavuzlar
Bu konu için daha fazla rehber seçildi