Назад до новин
ІнноваціяAI Understanding брифінг

DataKernelBench перевіряє, чи можуть LLM оптимізувати запити до бази даних GPU

Новий контрольний тест оцінює, чи можуть мовні моделі генерувати та покращувати код графічного процесора для запитів у стилі бази даних, у документі повідомляється про прискорення до 2,11× на одному GPU H100 і 2,54× на чотирьох графічних процесорах H100.

5 min readRead the primary source
Primary-source image accompanying DataKernelBench tests whether LLMs can optimize GPU database queries
Першоджерельний документДжерело записано
Видавець
arxiv.org
Посилання на джерело
arxiv.orghttps://arxiv.org/abs/2608.25061
Тип джерела
Первинний документ — офіційне оголошення, папір, документ або сторінка першої сторони, яку ми безпосередньо читаємо.
КонтекстЗрозумійте це за 60 секунд

Почніть тут

Ключові терміни

Велика мовна модель (LLM)
Мовна модель, навчена на масивних текстових корпусах для створення та аналізу тексту.
Пам'ять (Пам'ять агента)
Збережений контекст агент штучного інтелекту використовує на етапах або сеансах для покращення безперервності.
Узагальнення
Наскільки добре модель працює на нових, невидимих даних за межами навчального набору.
Перевір себеВікторина «Пояснення моделей ШІ».

Що сталося

Дослідники представили DataKernelBench, еталонний тест для перевірки того, чи можуть великі мовні моделі оптимізувати нерегулярні операції з базою даних із великим переміщенням даних на графічних процесорах. Система переводить запити SQL у перевірені програми PyTorch TorchPlan, а потім оцінює моделі, оскільки вони оптимізують або центральний тензорний розділ коду, або повний запит у CUDA або Triton.

Стаття, надіслана arXiv 25 серпня 2026 року та визначена в джерелі як прийнята на EMNLP 2026, представляє DataKernelBench як оцінку спеціально для створеної ШІ оптимізації запитів до бази даних на графічних процесорах. Автори стверджують, що існуючі контрольні тести ядра LLM недостатньо перевіряють оператори стилю бази даних, які можуть бути нерегулярними, неоднорідними та з домінуванням руху даних. Це робить цільовий показник відмінним від більш звичайних операторів, які часто використовуються для оцінки згенерованого коду GPU.

DataKernelBench перетворює SQL на перевірені програми PyTorch TorchPlan. Потім моделі просять оптимізувати або основний фрагмент, обмежений тензором, або весь запит за допомогою CUDA або Triton. Оцінка включає ремонт під керуванням виконання, тобто створені програми перевіряються та переглядаються за допомогою зворотного зв’язку від їх виконання. У анотації йдеться, що дослідження охоплює десять запатентованих і відкритих моделей на робочому навантаженні TPC-H SF10 з використанням графічного процесора H100.

Згідно з результатами, опублікованими в статті, найпотужніша конфігурація CUDA з повним запитом досягла прискорення в 2,11 раза порівняно з базовою лінією порівняння за повної швидкості проходження. Джерело не розкриває назву базової лінії, оскільки анотація містить неправильне посилання в цій позиції, тому точну точку відліку неможливо визначити з наданого матеріалу. Автори також повідомляють про більш масштабне розширення: TorchPlan було об’єднано з Dask-cuDF для даних, обсяг яких перевищує пам’ять графічного процесора, а на TPC-H SF100 з використанням чотирьох графічних процесорів H100 система досягла прискорення в 2,54 раза.

У сукупності налаштування визначають послідовність від подання запиту до згенерованого виконання програми та звітної продуктивності. Вхідні дані SQL представлені як підтверджена програма TorchPlan, тоді як метою оптимізації може бути або центральний тензорний розділ, або повний запит. Згенерований моделлю результат не розглядається як повний лише тому, що він був написаний; оцінка використовує ремонт під керуванням виконання для тестування та перегляду програм за допомогою зворотного зв’язку від виконання. Налаштування апаратного забезпечення та робочого навантаження також є частиною експерименту, про який повідомляється: анотація описує десять пропрієтарних і відкритих моделей, робоче навантаження TPC-H SF10 і графічний процесор H100. Окремо описується масштабна конфігурація TorchPlan і Dask-cuDF на TPC-H SF100 із чотирма графічними процесорами H100. У цій структурі зареєстровані прискорення є результатами заявлених конфігурацій і умови проходження, тоді як неправильне базове посилання залишає посилання порівняння без назви в наданому джерелі. Це обсяг того, що анотація містить про еталонний показник і його оцінку. Отже, опис визначає об’єкти, що оптимізуються, варіанти програмування, механізм відновлення, оцінене робоче навантаження, параметри апаратного забезпечення та два зареєстровані результати продуктивності, але він не додає деталей, окрім тих, що надаються в анотації.

Деталі джерела: arxiv.org ↗

Чому це важливо

У роботі усувається прогалина в існуючих тестах кодування LLM, які, за словами авторів, здебільшого зосереджені на операторах машинного навчання, а не на навантаженні бази даних. Якщо отримані результати витримають ширші робочі навантаження, мовні моделі можуть стати корисними помічниками для спеціалізованої розробки ядра, необхідної для пришвидшення баз даних із прискоренням GPU.

Практичне значення полягає в тому, що продуктивність бази даних часто залежить від вибору реалізації, що залежить від робочого навантаження, а не лише від вибору швидшої системи загального призначення. Головне твердження статті полягає в тому, що магістри права можуть брати участь у цьому спеціалізованому процесі оптимізації, генеруючи та відновлюючи програми GPU для повних запитів. Це робить модель ближчою до структури фактичного робочого навантаження бази даних, ніж до еталонного тесту, який оцінює ізольовані ядра машинного навчання.

Повідомлені результати також вказують на розподіл праці між можливостями моделі та інформацією про робоче навантаження. Автори кажуть, що більш продуктивні реалізації зазвичай використовують злиття ядра та зміни стратегії виконання. Вони також повідомляють, що контекст робочого навантаження має більше значення, ніж контекст апаратного забезпечення, і що сильніші моделі найбільше виграють від повної спеціалізації запитів. З практичної точки зору результат свідчить про те, що надання моделі детального опису запиту та його даних може мати більше значення, ніж просто опис графічного процесора, на якому виконуватиметься код.

Результати мають важливе значення як напрямок дослідження, але вони не є доказом того, що розробка баз даних була автоматизована у виробництві. Джерело описує еталонний тест і контрольовані експерименти, а не розгортання в діючій службі бази даних. Він також не встановлює, що згенерований код постійно правильний поза перевіреними запитами, що його дешевше створювати, ніж ядра, написані людиною, або що прискорення витримають зміну розподілу даних і операційних вимог. Ці обмеження є важливими, оскільки швидкий запит, який завершується помилкою на крайньому випадку, не є корисною оптимізацією бази даних.

Interactive Mechanism

Інтерактивний механізм: як він насправді працює

Дослідіть технологію, що лежить в основі цієї розробки, в інтерактивному режимі.

Document Size:128K tokens
Needle Placement Depth (Location in document):50% into text
Attention Context Buffer Map:
Target Fact (50%)
Equivalent Pages~320Standard book pages
Retrieval Accuracy99.9%Needle recall score
RAM / KV Cache5.1 GBMemory overhead
Prompt CachingActive~80% discount on reuse
Core takeaway: Million-token context windows allow querying whole codebases or legal archives in one prompt. However, KV cache memory scales with context length, making prompt caching crucial for real-time production.
Інтерактивна перевірка концепції+10 Points
AI Models Explained Quiz

Which component of an AI application is the machine-learning model itself?

Що дивитися далі

Основні питання полягають у тому, чи результати узагальнюються за межі протестованих робочих навантажень TPC-H, як еталонний тест визначає повне проходження та чи залишаються зазначені прискорення після врахування витрат на розробку, валідацію та апаратне забезпечення. Надане джерело є анотацією, тому ці деталі та незалежне повторення залишаються невирішеними.

Перше, на що слід звернути увагу, — це відтворюваність. Анотація визначає кількість і широкі типи моделей, апаратне забезпечення та масштабні коефіцієнти TPC-H, але в ній не вказуються назви моделей, не описуються їхні підказки, не вказується розрахунок рівня проходження та не надається повна базова лінія порівняння. Ці деталі визначатимуть, наскільки справедливо було оцінено системи та наскільки готові інші зможуть повторити експерименти.

Ще одне відкрите питання – узагальнення. У повідомлених тестах використовується TPC-H SF10 на одному графічному процесорі H100 і TPC-H SF100 на чотирьох графічних процесорах H100. Джерело не повідомляє, чи охоплює DataKernelBench інші сімейства запитів, механізми баз даних, розподіл даних, покоління GPU або змішане розгортання CPU-GPU. Він також не встановлює, як поводиться підхід, коли дані перевищують обсяг пам’яті менш структурованими способами, або коли правильність і затримка повинні підтримуватися під змінними виробничими навантаженнями.

Нарешті, майбутні оцінки мають відокремлювати необроблену швидкість виконання від повної вартості використання оптимізатора на базі LLM. Відповідні показники включатимуть час створення, кількість спроб ремонту, накладні витрати на перевірку, використання графічного процесора, використання пам’яті та вартість невдалих або відхилених програм. Джерело каже, що ремонт під керівництвом виконання є частиною методу, але анотація не надає цифр для цього процесу. До тих пір, поки ці невідомі дані не будуть повідомлені та проведені незалежними перевірками, цифри 2,11 × і 2,54 × слід розглядати як результати, заявлені в цьому документі за заявлених експериментальних умов, а не як загальні гарантії продуктивності.

Пов’язані посібники та вікторини

Пояснення моделей AIНавчання ШІтрансформериПеревірте свої знання — пройдіть безкоштовну вікторину зі штучним інтелектомЗнайдіть термін ШІ в нашому глосаріїСлідкуйте за відстеженням випуску моделі AI
Знайшли це корисним?