SıradakiSonraki rehber
Ağırlıklar ve Önyargılar
Şirketler
Şirketler KILAVUZU
EleutherAI, yapay zekanın kurumsal duvarların arkasına kilitlendiği dönemde açık kaynaklı büyük dil modellerine öncülük eden, kar amacı gütmeyen, tabandan gelen bir araştırma topluluğudur.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
Gönüllü bir topluluğun kapalı sistemlerle rekabet eden modeller oluşturup özgürce yayınlayabileceğini, yapay zeka araştırmalarına katılanların kimlerin olacağını yeniden şekillendirebileceğini kanıtladı.
EleutherAI, Temmuz 2020'de Connor Leahy, Sid Black ve Leo Gao tarafından organize edilen ve başlangıçta OpenAI'nin GPT-3'ünü kopyalamayı amaçlayan bir Discord topluluğu olarak başladı. Bu tür modelleri eğitmek için ilk olarak standart bir açık eğitim külliyatı haline gelen 825 GB'lık seçilmiş bir metin veri kümesi olan The Pile'ı oluşturup yayınladılar. Daha sonra zamanlarının en büyük açık dil modelleri arasında yer alan GPT-Neo, GPT-J-6B ve 20 milyar parametreli GPT-NeoX-20B'yi piyasaya sürdüler. GPT-NeoX eğitim kütüphanesi ve sektör genelinde kıyaslama için kullanılan LM Evaluation Harness dahil olmak üzere araçları, diğerlerinin üzerine inşa ettiği altyapı haline geldi. 2023 yılında EleutherAI, kar amacı gütmeyen bir araştırma enstitüsü olarak resmileşti ve yorumlanabilirlik, hizalama ve modellerin nasıl öğrendiğine ilişkin bilimi kapsayacak şekilde genişledi.
Pile veri seti dünya çapındaki araştırmacılar tarafından açık dil modellerini tekrarlanabilir şekilde eğitmek ve incelemek için kullanılıyor.
GPT-J-6B ve GPT-NeoX-20B, ticari API modellerine ücretsiz alternatifler olarak startuplar ve akademisyenler tarafından kullanılıyor.
LM Değerlendirme Donanımı, birçok laboratuvarın yüzlerce görevde model performansını kıyaslamak için kullandığı standart araçtır.
Bağımsız güvenlik ve yorumlanabilirlik araştırmacıları, kapalı API'lerin gizlediği model dahili bileşenleri incelemek için EleutherAI'nin açık ağırlıklarını kullanıyor.
EleutherAI, saf model ölçeklendirme yarışından, açık bilimin en çok ihtiyaç duyulduğu alanlar olan yorumlanabilirliğe, eğitim-veri şeffaflığına ve titiz değerlendirmeye doğru geçiş yapıyor. Modellerin dahili olarak neyi temsil ettiğini anlamaya, iyi belgelenmiş veri kümelerini yayınlamaya ve bağımsız güvenlik araştırmalarını desteklemeye yönelik çalışmaların devam etmesini bekliyoruz. Sınır laboratuvarları daha gizli hale geldikçe, EleutherAI'nin yeni nesil araştırmacıları eğiten kamu çıkarını dengeleyen rolü, muhtemelen gönderdiği herhangi bir modelin parametre sayısından daha önemli.
Ücretsiz bülten
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
EleutherAI, yapay zekanın kurumsal duvarların arkasına kilitlendiği dönemde açık kaynaklı büyük dil modellerine öncülük eden, kar amacı gütmeyen, tabandan gelen bir araştırma topluluğudur. Gönüllü bir topluluğun, kapalı sistemlere rakip modeller oluşturup özgürce yayınlayabileceğini ve yapay zeka araştırmalarına kimlerin katılacağını yeniden şekillendirebileceğini kanıtladı.
EleutherAI’s history page describes it as beginning in July 2020 as a Discord server for discussing GPT-3 and open language models.
The Pile, dil modellerini eğitmek ve incelemek için oluşturulmuş geniş, çeşitli ve herkese açık bir metin külliyatı EleutherAI'dir.
GPT-NeoX-20B, EleutherAI'nin amiral gemisi açık modellerinden biridir; diğerleri Google veya Meta'den geliyor.
Koşum, dil modellerinin yüzlerce kıyaslamayla standartlaştırılmış değerlendirmesi için yaygın olarak benimsenen açık bir araçtır.
EleutherAI’s paper on open research acknowledges support and contributions from CoreWeave and TPU Research Cloud, among other supporters.
Öğrenmeye devam et
Bu konu için daha fazla rehber seçildi
SıradakiSonraki rehber
Ağırlıklar ve Önyargılar
Şirketler