الجيل المقيد والموجه نحويًا

It matters because it eliminates an entire class of parsing failures, making LLMs reliable enough to wire into real software pipelines.

يقوم نموذج اللغة العادية باختبار الرمز المميز التالي بحرية، بحيث يمكن أن ينتج JSON مشوهًا، أو قيمة تعداد غير صالحة، أو أقواس غير متوازنة. يؤدي التوليد المقيد إلى تغيير خطوة أخذ العينات نفسها: في كل موضع، يحسب النظام الرموز المميزة التي لا تزال قانونية وفقًا لمخطط أو قواعد نحوية، ثم يخفي احتمالات كل رمز مميز غير قانوني إلى الصفر قبل أخذ العينات. عادةً ما يتم التعبير عن القواعد كقواعد نحوية خالية من السياق (غالبًا ما يتم تجميعها في تنسيق GBNF الذي يستخدمه llama.cpp)، أو تعبير عادي، أو مخطط JSON. تقوم المكتبات مثل Outlines وGuidance وXGrammar، بالإضافة إلى المخرجات المنظمة لـ OpenAI و"وضع JSON" بتنفيذ ذلك. نظرًا لأنه يتم تقليم المسارات غير القانونية، لا يمكن للنموذج أبدًا إصدار سلسلة تفشل في التحليل، مع الاستمرار في الاختيار بحرية بين الاستمرارات الصالحة.