ДаліНаступний посібник
Оптимізація проксимальної політики
ШІ мови
Технічний КЕРІВНИЦТВО
Оптимізація групової відносної політики
Оптимізація групової відносної політики (GRPO) — це метод навчання з підкріпленням для точного налаштування мовних моделей, який порівнює кожну відповідь із групою однотипних відповідей на той самий запит, усуваючи окрему мережу значень, яку використовує PPO.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
It became famous as the core training trick behind DeepSeek's reasoning models.
Глибоке занурення
GRPO is a variant of policy-gradient reinforcement learning designed to make RL fine-tuning of large language models cheaper and more stable. Many PPO implementations train a value model to estimate returns; its size and cost depend on the implementation. GRPO removes that critic entirely. For each prompt it samples a group of completions (say 8-64), scores them all with a reward signal, and then computes each completion's advantage by standardizing its reward against the group's mean and standard deviation. Above-average answers are reinforced and below-average ones suppressed. A KL-divergence term keeps the model close to a reference policy. Introduced by DeepSeek, it powered DeepSeekMath and the DeepSeek-R1 reasoning models.
Реалізація в реальному світі
Навчання DeepSeek-R1 і DeepSeekMath виробляти довгий ланцюжок думок, використовуючи нагороди за правильність математичних задач на основі правил
Тонке налаштування моделей генерації коду, де кожне вибіркове рішення оцінюється за тим, чи проходить воно модульні тести, а група нормалізується для вибору переможців
Конвеєри RLHF з відкритим вихідним кодом (наприклад, у бібліотеках TRL і verl), що використовують GRPO для узгодження моделей чату, не сплачуючи за окрему мережу цінностей
Поліпшення виконання інструкцій або безпечної поведінки шляхом вибірки кількох відповідей на підказку та винагородження тих, які модель винагороди оцінює найвище порівняно з аналогами
Майбутнє оптимізації групової відносної політики
GRPO швидко став стандартним рецептом для навчання відкритих моделей міркування, і лабораторії повторюють його слабкі місця. Дослідники вивчають виправлення упереджень щодо довжини та складності (наприклад, Dr. GRPO), нормалізацію на рівні маркера, а не на рівні послідовності, а також видалення або зміну форми терміна KL. Очікуйте тіснішої інтеграції з винагородами, які можна перевірити (математика, код, використання інструментів), кращої обробки розріджених сигналів і гібридів, які поєднують групові базові показники з легкою критикою для агентських багатоетапних завдань.
Застосування на практиці
Чому це важливо
- Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
- Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
- Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Зверніть увагу на
- Оптимізація одного тесту може приховати ширші слабкі сторони системи.
- Витрати на інфраструктуру та обслуговування часто недооцінюються.
- Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Наступні кроки
- Визначте цільові показники затримки, якості та вартості перед впровадженням.
- Тест за реалістичних умов навантаження та даних.
- Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
- Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Group Relative Policy Optimization quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
What is Group Relative Policy Optimization?
Оптимізація групової відносної політики (GRPO) — це метод навчання з підкріпленням для точного налаштування мовних моделей, який порівнює кожну відповідь із групою однотипних відповідей на той самий запит, усуваючи окрему мережу значень, яку використовує PPO. Він став відомим як основний навчальний трюк, що лежить в основі моделей міркування DeepSeek.
Which separately learned estimator does the original GRPO approach avoid training?
GRPO uses a group-relative baseline rather than a separately learned value estimator. The size and resource savings depend on the PPO implementation used for comparison.
Як GRPO обчислює перевагу для даного завершення?
Перевага кожного виконання дорівнює (винагорода – середнє значення групи)/групове стандартне відхилення, тому група відповідей на те саме запитання діє як базова лінія.
Які моделі зробили GRPO відомим?
GRPO був представлений і популяризований DeepSeek, зокрема в DeepSeekMath і як механізм RL, що стоїть за моделями міркування DeepSeek-R1.
Яку роль відіграє термін KL-дивергенції в GRPO?
Покарання KL проти еталонної моделі (зазвичай попередньої RL) упорядковує навчання, щоб політика покращилася без згортання чи дрейфу до вироджених результатів.
Чому GRPO особливо привабливий для навчання моделям міркування на математиці чи програмуванні?
Вибірка багатьох рішень і оцінка їх за допомогою автоматичних перевірок правильності чітко поєднується з перевагами GRPO, нормалізованими групою, без критики.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми