Agentic Loop
Итеративен цикъл, при който AI агент наблюдава, планира, действа и отразява, докато не изпълни цел или достигне условие за спиране.
Основната техническа терминология е обяснена на най-високо ниво на яснота. Предназначен за изследователи, студенти и ориентирано към човека образование.
Итеративен цикъл, при който AI агент наблюдава, планира, действа и отразява, докато не изпълни цел или достигне условие за спиране.
Хипотетична AI система, която може да изпълнява повечето интелектуални задачи на човешко ниво в много области.
Софтуерна система, която може да наблюдава, разсъждава и предприема действия за постигане на цел, често използвайки инструменти и памет.
Област, фокусирана върху намаляването на вредното поведение, отказите и рисковете от злоупотреба в системите с изкуствен интелект.
AI извод, извършен локално на потребителски хардуер, а не в отдалечена облачна услуга.
Работата по карането на AI системите да се държат според човешките намерения, ценности и ограничения за безопасност.
Политики, стандарти и механизми за надзор, които ръководят как AI се разработва и използва в обществото.
Метод на позиционно отклонение, който наказва оценките за внимание въз основа на символично разстояние, като помага на моделите да екстраполират към по-дълги контексти.
Алгоритми, които намират вектори, близки до заявка, без изчерпателно сравнение, разменяйки точност за скорост.
Структуриран начин за една софтуерна система да изпраща заявки до и да получава отговори от друга система.
Алгоритъм за токенизиране на поддуми, който обединява най-честите двойки знаци в токени за многократна употреба.
Запис на това откъде идват данните, как са били трансформирани и къде се използват.
Метод на обучение, който прецизира моделите директно върху двойки предпочитания, без да е необходим отделен модел на възнаграждение.
Генеративна настройка, при която генератор и дискриминатор се тренират един срещу друг.
Еталон на текстови задачи по математика в началното училище, използвани за оценка на разсъждение стъпка по стъпка в езикови модели.
Съхранени тензори на ключове и стойности от предишни токени, които позволяват на трансформаторите да генерират нови токени, без да преизчисляват миналото внимание.
Използване на езиков модел за оценяване или сравняване на резултати от други модели по време на оценка.
Параметрично ефективен метод за фина настройка, който добавя адаптерни матрици с нисък ранг.
Отворен протокол, който позволява на AI приложенията да се свързват с външни инструменти, източници на данни и доставчици на контекст по стандартен начин.
Бенчмарк тестване на езикови модели в 57 академични и професионални предмета с помощта на въпроси с множествен избор.
Технология, която преобразува текст в изображения или сканиране в машинно четим текст.
Показател за оценка на кода, измерващ шанса поне една от k генерирани проби да премине тестовете.
Показател на езиков модел, измерващ колко изненадан е моделът от истинските следващи токени.
Проектиране на подкани за подобряване на качеството на изхода, надеждността и контролируемостта.
Техника за фина настройка, която комбинира 4-битово квантуване на теглото с LoRA адаптери за намаляване на нуждите от памет.
Метод, който извлича външно знание и го захранва за генериране по време на извод.
Метод за извличане, който генерира множество варианти на заявка, извлича резултати за всяка и обединява класирането.
Подканящ модел, който преплита стъпките на разсъждение с действията за използване на инструменти за по-надеждно решаване на задачи.
Стрес тестване на AI система с противопоставящи се подкани за разкриване на неуспехи и рискове.
Метод на позиционно кодиране, който завърта заявка и ключови вектори, за да кодира относителни позиции на токени.
Езиково-агностичен токенизатор, който научава единици поддуми директно от необработен текст без предварително разделяне на интервали.
Изпълнение на модел паралелно с производствения трафик, без да се засягат решенията, които са изправени пред потребителите.
Стратегия за декодиране, която взема проби от най-малкия набор от символи, чиято сума на вероятностите е p.
Техники и практики за правене на AI прогнозите по-прозрачни и разбираеми.
Решаване на задачи без конкретни примери за задачи, като се разчита на предварителни общи познания.
Система, която може да взема решения и да действа с ограничен или никакъв пряк човешки контрол в реално време.
Многоетапен процес, при който AI система планира, изпълнява, проверява резултатите и итерира към целта.
Методи, които прехвърлят модел, обучен в един домейн, за да се представя по-добре в друг домейн.
Колко ясно са документирани и разбираеми логиката на една AI система, източниците на данни и ограниченията.
Систематична несправедливост в резултатите от модела, причинена от изкривени данни, предположения или избор на моделиране.
Дефиниран набор от правила или стъпки, които компютърът следва, за да разреши проблем или да изпълни задача.
НЛП задача, която класифицира емоционалния тон или мнение в текста.
Логика, която валидира и преобразува изхода на модела в строго типизирани, машинно използваеми структури.
Добавени от човека етикети или метаданни, използвани за обучение или оценка на модели за машинно обучение.
Комбиниране на прогнози от множество модели за подобряване на устойчивостта или точността.
Подбрана колекция от документи или записи, използвани за извличане, автоматизация на поддръжката или заземяване на отговори.
Прост референтен модел, използван за сравнение дали по-сложните подходи наистина подобряват резултатите.
Структуриран аргумент, подкрепен от доказателства, че една AI система е безопасна за определен контекст на употреба.
Стандартизиран тест или набор от данни, използвани за измерване и сравняване на ефективността на модела.
Модел, който кодира заявки и документи в отделни вектори, така че да могат да се сравняват бързо в мащаб.
Модел на атака, при който злонамерени инструкции се вмъкват във входове на модела или извлечено съдържание.
Бърза техника, предназначена да заобиколи ограниченията за безопасност на модела.
Числово векторно представяне, което улавя семантичното значение на текст, изображения или други данни.
Плътно векторно представяне на думи, улавящи семантични връзки.
База данни, оптимизирана за съхраняване и заявки за високоразмерни вектори за вграждане.
Стил на разсъждение, при който AI модел разлага проблем на междинни стъпки.
Стратегия за декодиране, която взема проби само от k най-вероятните следващи токена.
Мултимодален модел, който съвместно обработва визуална и текстова информация.
Трансформиращ механизъм, който изпълнява няколко операции на вниманието паралелно, за да улови различни типове взаимоотношения.
Вграждане на откриваем сигнал в генериран от AI текст или медия, така че по-късно да може да бъде идентифициран като машинно произведен.
AI системи, които произвеждат ново съдържание като текст, изображения, аудио, видео или код.
Много големи и сложни набори от данни, които изискват мащабируеми техники за съхранение и обработка.
Езиков модел, обучен върху масивни текстови корпуси за генериране и анализиране на текст.
Вектор, показващ колко трябва да се промени всеки параметър, за да се намалят загубите.
Метод за оптимизация, който актуализира параметрите в посока, която намалява грешката.
Повърхността в пространството на характеристиките, която разделя класовете, предвидени от класификатор.
Графична структура от обекти и връзки, използвани за разсъждение или извличане.
Допълнителните разходи във времето, изчисленията или скоростта на продукта, необходими, за да направят системите по-безопасни и по-контролируеми.
Компресиране на знания от голям модел на учител в по-малък модел на ученик.
Обучение на по-малък модел да имитира резултатите от по-голям модел.
По-малък модел, обучен да имитира поведението на по-голям модел, като същевременно използва по-малко изчисления при извод.
Техника за поверителност, която добавя статистически шум, така че отделните записи не могат да бъдат надеждно изведени от резултатите.
Генеративна архитектура, която се научава да обръща шума, за да синтезира изображения, аудио или друго съдържание.
Изравняване на доверието на потребителите в резултатите от AI с действителната надеждност на системата при всяка задача.
Статистически диапазон, който вероятно съдържа истинската стойност на измерена метрика на модела.
Промяна във входните данни от реалния свят с течение на времето, която може да влоши производителността на модела.
Подмножество от машинно обучение, което използва многослойни невронни мрежи за представяне на обучение.
Подход на разсъждение, при който моделът изследва множество пътища за разклоняване на решения и избира най-обещаващите.
Модел, който прави прогнози чрез поредица от разделяния на характеристиките ако-тогава.
Повтаряща се рамка за оценка, която изпълнява подкани, набори от данни и логика за оценяване във версиите на модела.
Компонентът на модел, който трансформира входа в латентни представяния.
Процесът на присвояване на етикети или целеви изходи на необработени данни за контролирано обучение.
Стойността на грешката на модела, изчислена по време на обучение и оптимизирана надолу с времето.
Степента, до която отговорът на AI се подкрепя от изходни данни или извлечени доказателства.
Основаната на риска регулаторна рамка на Европейския съюз за системи и доставчици на ИИ.
Емпирична връзка, показваща как производителността се подобрява с размера на модела, данните или изчисленията.
Стратегия за генериране, която ограничава изходните токени до валидни структури или съвместими с правилата избори.
Способността на модела да поддържа производителност при шум, смени или противникови входове.
Възможност на модел за генериране на структурирани повиквания, които задействат външни инструменти или API.
Намиране на подходящи документи или записи от източник на знания за заявка.
Техника за извличане, която пренаписва потребителската заявка в няколко варианта, за да подобри запомнянето.
Модел за извличане, който търси малки парчета, но връща техните по-големи родителски документи за по-богат контекст.
Преобразуване на необработени данни в информативни функции, които моделът може да използва.
Фазата на изпълнение, при която обучен модел генерира прогнози или резултати.
Количеството процесорна мощност, изразходвана при генериране на всеки отговор.
Метод за регулиране, който омекотява твърдите етикети, за да подобри обобщението.
Широкото поле за изграждане на системи, които изпълняват задачи, изискващи разпознаване на модели, разсъждения, език или вземане на решения.
Способността на модела да извиква външни инструменти като търсене, калкулатори или API.
Когато в данните за обучение присъстват примери за сравнителен тест или близки варианти, завишаване на отчетената производителност.
Ресурсите за обработка, необходими за обучение и изпълнение на модели, често измервани във FLOPS или GPU часове.
Допълнителни изчисления за изводи, използвани по време на генериране на отговор за подобряване на качеството или разсъжденията.
Проектиране или трансформиране на входни променливи, за да направи ученето по-лесно и по-ефективно.
Фина настройка на модел на двойки инструкция-отговор, за да се подобри изпълнението на задачата.
Колко добре резултатите за увереност на модела съвпадат с реалните вероятности за коректност.
Преобразуване на теглата на модела във формати с по-ниска точност, като 8-битов или 4-битов.
Модел, създаден специално за класификационни задачи.
Задача, при която модел присвоява вход към една или повече предварително дефинирани категории.
Предсказване на целта на потребителя от текстова заявка, за да я маршрутизира правилно.
Архитектура на мултимодален модел, която научава споделени представяния между текст и изображения.
Набор от данни, използван по време на разработката за настройка на модели и предотвратяване на пренастройване.
Задържан набор от данни, използван за измерване на качеството на модела след обучение.
Клонът на AI, който извлича смисъл от изображения и видео.
Невронна архитектура, оптимизирана за обработка на мрежови данни, като изображения.
Подход за обучение и формиране на поведение, при който резултатите от модела се ръководят от фиксиран набор от писмени принципи.
Максималното количество входни токени, които един езиков модел може да обработва наведнъж.
Обучение на модел с обозначени примери, които картографират входове към известни изходи.
Разгърнат API интерфейс, който получава заявки за модели и връща прогнози в производството.
Модел, който оценява заявка и документ заедно с едно преминаване за преценки за уместност с висока точност.
Обща целева функция, използвана за обучение на класификационни модели чрез санкциониране на неправилни вероятности.
Компресирано репрезентативно пространство, където подобни концепции са разположени една до друга като вектори.
Времето между изпращането на заявка и получаването на изхода на модела.
Управлявана система за съхраняване и обслужване на валидирани ML функции последователно за обучение и изводи.
Учене или адаптиране на поведение само от малък брой примери.
Компактен езиков модел, оптимизиран за по-ниска латентност, цена или използване на устройството.
Правила, проверки и контроли, които ограничават небезопасното или нежелано поведение на модела.
Методи, които позволяват на системите да научават модели от данни и да се подобряват с течение на времето.
Компонент на модел, който динамично се фокусира върху съответните части на вход, когато създава изход.
Влошаване на производителността с течение на времето, тъй като условията в реалния свят се различават от допусканията за обучение.
Документация, описваща предвидената употреба на модела, показателите, ограниченията и рисковете.
Модел, специализиран за конвертиране на данни във вектори, използвани за семантично търсене, групиране и извличане.
Модел, който оценява резултатите въз основа на сигнали за предпочитания, често използвани в RLHF тръбопроводи.
Голям предварително обучен модел, който може да се адаптира към много задачи надолу по веригата.
Модел, чието вътрешно разсъждение е трудно да се интерпретира директно от хората.
Модел, обучен на човешки класации, за да предвиди кои отговори потребителите вероятно ще предпочетат.
Модел, издаден с публични тегла или код за проверка, адаптиране и повторно използване.
Намаляване на числената точност на теглата на модела, за да се намалят разходите за памет и изводи.
Модел, който може да обработва или генерира множество типове данни като текст, изображение и аудио.
Колекция от структурирани или неструктурирани примери, използвани за обучение, валидиране или тестване.
Настройка за декодиране, която намалява вероятността за токени, които моделът вече е произвел, за да намали циклите.
Настройка за декодиране, която намалява вероятността токените да са се появили изобщо, насърчавайки нови теми.
Настройка за декодиране, която намалява вероятността за токени пропорционално на това колко често са се появявали досега.
Слоест изчислителен модел, вдъхновен от биологични неврони и синапси.
Подходи за обучение, които позволяват на модела да продължи да се учи от нови данни, без да забравя предишни знания.
Трансформиране на стойности в последователен мащаб за подобряване на стабилността на оптимизацията.
Политика, при която полезните данни за заявка/отговор не се съхраняват след обработка извън краткотрайните оперативни прозорци.
Колко добре се представя моделът върху нови, невиждани данни извън набора за обучение.
Клонът на AI се фокусира върху разбирането и генерирането на човешки език.
Основният алгоритъм за обучение, който актуализира теглата на модела чрез разпространение на грешките при прогнозиране назад през мрежата.
Способността на модела да следва модели от примери, предоставени директно в подканата.
Метод на обучение, който използва сигнали за човешки предпочитания, за да оформи поведението на модела.
Обучение чрез сигнали за възнаграждение, при което агент научава действия, които максимизират дългосрочната възвръщаемост.
Степента, до която поведението на модела може да бъде интерпретирано и обяснено на хората.
Доверени референтни етикети, използвани за обучение или оценка на изходните данни на модела.
Съхраненият контекст, който AI агент използва през стъпките или сесиите, за да подобри непрекъснатостта.
Методи, които адаптират модели чрез обучение на малък поднабор от добавени параметри.
Научено тегло вътре в модел, което влияе на неговите резултати.
Модел на внимание, при който всеки токен обръща внимание само на прозорец с фиксиран размер от близки токени, за да намали изчисленията.
Междинна фаза на обучение между предварително и след обучение, често използвана за корекции на способности или домейн.
Инструкциите за въвеждане и контекстът, предоставени на генериращ модел.
Премахване на по-малко важни тегла на модела или неврони за намаляване на размера и изчисление.
Информация, добавена към вграждането на токени, така че трансформаторите да могат да разграничат реда на последователността.
Първоначално обучение за широкомащабни модели върху широки данни преди адаптиране надолу по веригата.
Слой за модериране, който блокира или пренаписва опасни входове или изходи на модела.
Модел, който пренарежда първоначален набор от извлечени резултати, за да постави най-подходящите елементи в горната част.
Когато моделът запаметява данни за обучение и се представя лошо при невидими входни данни.
Последният момент във времето, отразен в данните за обучение на модел.
Пропорцията на прогнозираните положителни резултати, които действително са правилни.
Пропорцията на извлечените елементи, които са подходящи за заявката на потребителя.
Пропорцията на действителните положителни резултати, които моделът идентифицира правилно.
Последователен модел на грешка или несправедливост в данните или поведението на модела.
Методи за оценка на причинно-следствените връзки, а не прости корелации.
Документираният произход, собственост и история на набор от данни или модел на артефакт.
NLP задача, която идентифицира обекти като хора, места, дати или организации.
Модел, при който много параметри са нула или неактивни, за да се намали изчислението.
Централен каталог за версии, одобряване и проследяване на модели в различни среди.
Обучаване на представяния от немаркирани данни чрез предвиждане на маскирани или трансформирани части.
Обучителна настройка, при която моделът се подобрява чрез генериране на данни чрез взаимодействия или състезания със свои копия.
Оптимизиран алгоритъм за внимание, който намалява използването на паметта и ускорява обучението на трансформатора и изводите.
Търсене, което съответства на значението, а не точното припокриване на ключови думи, често използвайки вграждания.
Изкуствено генерирани данни, използвани за увеличаване, симулиране или защита на чувствителни данни за обучение.
Модел на конвейер, който предвижда потребителските предпочитания за класиране на съдържание или продукти.
Инструкция с висок приоритет, която задава поведение, политика и стил на реакция за модел.
Хиперпараметър за обучение, контролиращ колко параметри се променят при всяка стъпка на актуализиране.
Използване на шумни, евристични или частични етикети за обучение на модели, когато чистите етикети са оскъдни.
Стъпки на обучение, приложени след предварително обучение, като настройка на инструкциите, оптимизиране на предпочитанията и настройка на безопасността.
Архитектура със специализирани подмрежи, където само избрани експерти работят на вход.
Метод за ускоряване на извода, при който малък чернови модел предлага токени, които по-голям модел проверява паралелно.
Изходът на модела е ограничен до дефинирана схема като JSON, аргументи на инструмента или въведени полета.
Ценообразуване, при което разходите се мащабират с извиквания на API, токени, време за извод или изразходвани изчисления.
Научена числова стойност, която мащабира сигнали, преминаващи през невронна мрежа.
Настройка за вземане на проби, контролираща произволността в генерираните изходи.
Част от текст, обработен от езикови модели, като част от дума или символ.
Процесът на разделяне на текст на токени за въвеждане на модел.
Прилагане на знания, научени в една задача или област, за подобряване на друга задача.
Невронна архитектура, която използва внимание, за да моделира паралелни връзки между последователности.
Подреден работен процес от предварителна обработка, стъпки на модела и етапи на последваща обработка.
Алгоритъм за декодиране, който запазва първите няколко кандидат последователности на всяка стъпка, за да намери изходни данни с по-висока вероятност.
Техники, които създават модифицирани примери за обучение за подобряване на обобщаването на модела.
Обучение на модели от немаркирани данни без изрични целеви изходи.
Колко точно твърденията на даден модел съвпадат с проверима информация от реалния свят.
Неправилна прогноза, при която модел пропуска истински положителен случай.
Неправилна прогноза, при която модел неправилно маркира отрицателен случай като положителен.
Продължаващо обучение върху специфични за домейн данни за адаптиране на предварително обучен модел към конкретна задача.
Математическа цел, която количествено определя грешката при прогнозиране по време на обучение.
Когато модел генерира плавна, но невярна или неподдържана информация.
Входна променлива, използвана от модел за правене на прогнози.
Подход за извличане, който комбинира търсене по ключови думи (лексикално) с векторно (семантично) търсене за по-добро запомняне и прецизност.
Конфигурационна стойност, зададена преди обучението, като скорост на обучение, размер на партида или дълбочина.
Препратки към изходни пасажи или документи, включени в отговора на модела в подкрепа на неговите твърдения.
Работен процес, при който хората преглеждат, насочват или отменят изходите на AI.
Повторно използваем модел на подкана с променливи, правила за форматиране и инструкции за специфични задачи.