دليل اللغة AI

تحجيم حساب وقت الاختبار

يعني قياس الحوسبة في وقت الاختبار منح النموذج المزيد من وقت التفكير والحساب عندما يجيب على سؤال، بدلاً من جعله أكبر أثناء التدريب فقط.

استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min

في هذه الصفحةقراءة لمدة دقيقتين
  1. نظرة عامة
  2. الغوص العميق
  3. التنفيذ في العالم الحقيقي
  4. مستقبل قياس الحوسبة في وقت الاختبار
  5. وضعها موضع التنفيذ
  6. استمر في الاستكشاف
  7. الأسئلة المتداولة

نظرة عامة

إنه التقدم وراء "نماذج الاستدلال" التي يمكنها حل مسائل الرياضيات الصعبة والبرمجة من خلال التداول قبل الاستجابة.

الغوص العميق

لسنوات عديدة، كان التقدم في الذكاء الاصطناعي يعني توسيع نطاق التدريب: المزيد من البيانات، والمزيد من المعلمات، والمزيد من حوسبة التدريب المسبق. يضيف مقياس الحوسبة في وقت الاختبار محورًا ثانيًا، مما يؤدي إلى إنفاق المزيد من العمليات الحسابية عند الاستدلال. بدلاً من إصدار إجابة فورية، يقوم نموذج الاستدلال بتوليد سلسلة داخلية طويلة من الأفكار، واستكشاف الخطوات، والتحقق من العمل، والتراجع. تتضمن التقنيات سلسلة تفكير موسعة، وأخذ عينات من العديد من الحلول المرشحة واختيار الأفضل (الاتساق الذاتي أو الأفضل من N)، والبحث على نمط الشجرة الذي يسترشد بنموذج التحقق أو المكافأة. لقد أدى التفكير الموسع لـ OpenAI's o1 وo3 وDeepSeek-R1 وClaude إلى تعميم هذا: تقفز الدقة في رياضيات المنافسة والبرمجة بشكل حاد عندما تسمح للنموذج "بالتفكير لفترة أطول"، وزمن الاستجابة التجاري وتكلفة الصحة في المشكلات التي تفشل فيها الإجابة السريعة.

التنفيذ في العالم الحقيقي

يفكر نموذجا OpenAI o1 وo3 في مسائل الرياضيات على مستوى الأولمبياد خطوة بخطوة، ويتفوقان بشكل كبير على نماذج الإجابات الفورية في معايير AIME والمنافسة.

استخدم DeepSeek-R1 التعلم المعزز لتعليم التفكير المنطقي لسلسلة طويلة من الأفكار، مما يوضح بوضوح مكاسب كبيرة في الدقة من حساب الاستدلال الإضافي.

يتيح وضع التفكير الموسع لـ Claude للمطورين تعيين ميزانية رمزية بحيث يفكر النموذج لفترة أطول في مهام الترميز أو التحليل المعقدة قبل الرد.

يقوم AlphaCode والأنظمة المشابهة بأخذ عينات من آلاف البرامج المرشحة في وقت الاختبار، ثم تقوم بتصفيتها وتصنيفها لحل تحديات البرمجة التنافسية.

مستقبل قياس الحوسبة في وقت الاختبار

أصبح حساب وقت الاختبار الآن بمثابة أداة قياس أساسية إلى جانب التدريب. توقع ميزانيات قابلة للتكيف حيث يقرر النموذج مدى صعوبة التفكير بناءً على الصعوبة، والتفكير الأرخص من خلال تقطير السلاسل الطويلة إلى سلاسل أقصر، والحلقات "الفاعلة" التي تتداخل بين التفكير واستدعاءات الأدوات وعمليات البحث على الويب. مع تحسن أجهزة الاستدلال، سيصبح التفكير المتعمد هو الخيار الافتراضي للمهام عالية المخاطر مثل البحث العلمي وهندسة البرمجيات والتخطيط المعقد، بينما تظل عمليات البحث السريعة سريعة ورخيصة.

وضعها موضع التنفيذ

لماذا يهم

  • السرعة والحجم. يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
  • الوصول والوصول. فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
  • قرارات أوضح. يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.

احترس من

  • يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
  • يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
  • قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.

الخطوات التالية

  1. حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
  2. استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
  3. احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
  4. تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.

استمر في الاستكشاف

رسالة إخبارية مجانية

احصل على الإحاطة اليومية لمنظمة العفو الدولية

ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.

بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.

اختبر نفسك

Take the Test-Time Compute Scaling quiz

تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.

ابدأ الاختبار

دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع

الأسئلة المتداولة

ما هو مقياس الحوسبة في وقت الاختبار؟

يعني قياس الحوسبة في وقت الاختبار منح النموذج المزيد من وقت التفكير والحساب عندما يجيب على سؤال، بدلاً من جعله أكبر أثناء التدريب فقط. إنه الإنجاز الكبير وراء "نماذج الاستدلال" التي يمكنها حل مسائل الرياضيات الصعبة والبرمجة من خلال التداول قبل الاستجابة.

ما الذي يشير إليه "حساب وقت الاختبار"؟

حساب وقت الاختبار (وقت الاستدلال) هو العمل المنجز أثناء إنشاء إجابة، وهو يختلف عن الحساب المستخدم أثناء التدريب المسبق.

In test-time scaling studies, what can extra inference compute be used for?

The study examines inference-time strategies including sampling candidates, revising answers and using process-based reward models to allocate computation.

ما هي المفاضلة الأساسية لقياس حساب وقت الاختبار؟

إن السماح للنموذج بالتفكير لفترة أطول يؤدي إلى تحسين صحة المشكلات الصعبة ولكنه يزيد من وقت الاستجابة والتكلفة الحسابية.

ما هو أخذ العينات "الأفضل من بين N"؟

يقوم برنامج Best-of-N بإنشاء محاولات حل متعددة بالتوازي ويستخدم مُسجلًا أو مدققًا للاحتفاظ بأقوى محاولة، وهو شكل من أشكال قياس وقت الاختبار.

لماذا يعتبر حساب وقت الاختبار "محور قياس" جديدًا؟

لسنوات كان التوسع يعني دورات تدريبية أكبر؛ يضيف حساب وقت الاختبار طريقة ثانية لتعزيز القدرة، من خلال حساب المزيد عند الاستدلال.