دليل الشركات
إليوثيرAI
EleutherAI هي مجموعة بحثية شعبية غير ربحية كانت رائدة في نماذج اللغات الكبيرة مفتوحة المصدر عندما كان الذكاء الاصطناعي الحدودي مغلقًا خلف جدران الشركات.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
في هذه الصفحةقراءة لمدة دقيقتين
نظرة عامة
وقد أثبتت أن مجتمع المتطوعين يمكنه بناء وإطلاق نماذج تنافس الأنظمة المغلقة، مما يعيد تشكيل من يشارك في أبحاث الذكاء الاصطناعي.
الغوص العميق
بدأت EleutherAI في يوليو 2020 كمجتمع Discord نظمه كونور ليهي وسيد بلاك وليو جاو، بهدف تكرار OpenAI's GPT-3. لتدريب مثل هذه النماذج، قاموا أولاً ببناء وإصدار The Pile، وهي مجموعة بيانات نصية منسقة بسعة 825 جيجابايت والتي أصبحت مجموعة تدريب مفتوحة قياسية. ثم أطلقوا GPT-Neo، وGPT-J-6B، وGPT-NeoX-20B ذات 20 مليار معلمة، من بين أكبر نماذج اللغات المتاحة بشكل مفتوح في عصرهم. أدواتهم، بما في ذلك مكتبة التدريب GPT-NeoX وأداة تقييم LM المستخدمة على مستوى الصناعة لقياس الأداء، أصبحت بنية تحتية اعتمد عليها الآخرون. في عام 2023، أصبح EleutherAI رسميًا معهد أبحاث غير ربحي، يتوسع ليشمل إمكانية التفسير والمواءمة وعلم كيفية تعلم النماذج.
التنفيذ في العالم الحقيقي
يستخدم الباحثون في جميع أنحاء العالم مجموعة بيانات Pile لتدريب ودراسة نماذج اللغة المفتوحة بشكل متكرر.
يتم نشر GPT-J-6B وGPT-NeoX-20B بواسطة الشركات الناشئة والأكاديميين كبدائل مجانية لنماذج واجهة برمجة التطبيقات التجارية.
إن أداة تقييم LM هي الأداة القياسية التي تستخدمها العديد من المعامل لقياس أداء النموذج عبر مئات المهام.
يستخدم الباحثون المستقلون في مجال السلامة وقابلية التفسير أوزان EleutherAI المفتوحة لدراسة الأجزاء الداخلية للنموذج التي تخفيها واجهات برمجة التطبيقات المغلقة.
مستقبل إليوثير AI
تتحول شركة EleutherAI من سباق خالص لتوسيع نطاق النماذج نحو إمكانية التفسير، وشفافية بيانات التدريب، والتقييم الدقيق، وهي المجالات التي تشتد الحاجة إلى العلم المفتوح فيها. توقع استمرار العمل على فهم ما تمثله النماذج داخليًا، وإصدار مجموعات بيانات موثقة جيدًا، ودعم أبحاث السلامة المستقلة. مع تزايد سرية المختبرات الحدودية، من المحتمل أن يكون دور EleutherAI كثقل موازن للمصلحة العامة، وتدريب الجيل القادم من الباحثين، أكثر أهمية من عدد المعلمات لأي نموذج منفرد تقوم بشحنه.
وضعها موضع التنفيذ
لماذا يهم
- استراتيجية البائع. تؤثر خرائط طريق البائع على الميزات التي يمكن لفريقك إنشاءها بعد ذلك.
- التكلفة والميزانية. تؤثر الشروط التجارية وخيارات النشر على التكلفة والمخاطر على المدى الطويل.
- المخاطر والسلامة. تعمل حوافز الشركة على تشكيل الإعدادات الافتراضية للمنتج، ووضعية السلامة، والانفتاح.
احترس من
- قد تتجاوز إعلانات الإطلاق الاستقرار في سير عمل الإنتاج الحقيقي.
- يمكن أن يؤدي تسعير واجهة برمجة التطبيقات (API) أو تغيرات السياسة إلى كسر الافتراضات بين عشية وضحاها.
- يؤدي الاعتماد على بائع واحد إلى زيادة تكاليف الحجز والترحيل.
الخطوات التالية
- قم بتقييم مقدمي الخدمة باستخدام المهام ومجموعات البيانات الخاصة بك.
- راجع الخصوصية والأمان والمصطلحات القانونية قبل التكامل.
- احتفظ بخطة احتياطية عبر النماذج أو البائعين.
- راقب ملاحظات الإصدار حتى لا تفاجئ التغييرات في خارطة الطريق الفرق.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the EleutherAI quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
ما هو EleutherAI؟
EleutherAI هي مجموعة بحثية شعبية غير ربحية كانت رائدة في نماذج اللغات الكبيرة مفتوحة المصدر عندما كان الذكاء الاصطناعي الحدودي مغلقًا خلف جدران الشركات. لقد أثبت أن المجتمع التطوعي يمكنه بناء نماذج تنافس الأنظمة المغلقة وإطلاقها بحرية، مما يعيد تشكيل من يمكنه المشاركة في أبحاث الذكاء الاصطناعي.
How did EleutherAI first bring together its research community?
EleutherAI’s history page describes it as beginning in July 2020 as a Discord server for discussing GPT-3 and open language models.
ما هو "الكومة"؟
The Pile عبارة عن مجموعة نصية كبيرة ومتنوعة ومتاحة بشكل مفتوح من EleutherAI تم تصميمها لتدريب نماذج اللغة ودراستها.
أي مما يلي يعد نموذجًا للغة EleutherAI؟
يعد GPT-NeoX-20B أحد النماذج المفتوحة الرائدة لشركة EleutherAI؛ أما الآخرون فيأتون من Google أو Meta.
ما هو استخدام أداة تقييم LM؟
يُعد هذا الحزام أداة مفتوحة معتمدة على نطاق واسع للتقييم الموحد لنماذج اللغة بناءً على مئات المعايير.
Which organizations are named in EleutherAI’s retrospective as research supporters?
EleutherAI’s paper on open research acknowledges support and contributions from CoreWeave and TPU Research Cloud, among other supporters.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع