AGI (Общий искусственный интеллект)
Гипотетическая система искусственного интеллекта, способная выполнять большинство интеллектуальных задач на человеческом уровне во многих областях.
Plain-language definitions of the AI terms you keep hearing — for students, professionals, and anyone curious about how AI works.
Гипотетическая система искусственного интеллекта, способная выполнять большинство интеллектуальных задач на человеческом уровне во многих областях.
Алгоритмы, которые находят векторы, близкие к запросу, без исчерпывающего сравнения, жертвуя точностью ради скорости.
Структурированный способ отправки одной программной системой запросов и получения ответов от другой системы.
Алгоритм токенизации подслов, который объединяет наиболее часто встречающиеся пары символов в токены многократного использования.
Метод обучения, который настраивает модели непосредственно на парах предпочтений без необходимости использования отдельной модели вознаграждения.
Генеративная установка, в которой генератор и дискриминатор тренируются друг против друга.
Эталон математических словесных задач в начальной школе, используемый для оценки пошаговых рассуждений в языковых моделях.
Использование языковой модели для оценки или сравнения результатов других моделей во время оценки.
Метод точной настройки с эффективным параметром, который добавляет матрицы адаптеров низкого ранга.
Открытый протокол, который позволяет приложениям ИИ стандартным образом подключаться к внешним инструментам, источникам данных и поставщикам контекста.
Технология, которая преобразует текст на изображениях или отсканированных изображениях в машиночитаемый текст.
Метрика языковой модели, измеряющая, насколько модель удивлена истинными следующими токенами.
Проектирование подсказок по повышению качества продукции, надежности и управляемости.
Метод тонкой настройки, сочетающий 4-битное весовое квантование с адаптерами LoRA для уменьшения потребности в памяти.
Метод, который извлекает внешние знания и вводит их в генерацию во время вывода.
Метод позиционного кодирования, который меняет векторы запроса и ключа для кодирования относительных позиций токенов.
Методы и практики, позволяющие сделать прогнозы ИИ более прозрачными и понятными.
Система, которая может принимать решения и действовать под ограниченным или отсутствующим прямым контролем человека в режиме реального времени.
Итеративный цикл, в котором агент ИИ наблюдает, планирует, действует и размышляет, пока не достигнет цели или не достигнет условия остановки.
Многоэтапный процесс, в котором система ИИ планирует, выполняет, проверяет результаты и движется к цели.
Методы, которые позволяют модели, обученной в одной области, работать лучше в другой области.
Определенный набор правил или шагов, которым следует компьютер для решения проблемы или выполнения задачи.
Насколько четко документированы и понятны логика, источники данных и ограничения системы ИИ.
Систематическая несправедливость в результатах модели, вызванная искажением данных, предположениями или выбором моделирования.
Метод позиционной предвзятости, который штрафует оценки внимания на основе расстояния между маркерами, помогая моделям экстраполировать на более длинные контексты.
Задача НЛП, которая классифицирует эмоциональный тон или мнение в тексте.
Добавленные человеком метки или метаданные, используемые для обучения или оценки моделей машинного обучения.
Объединение прогнозов из нескольких моделей для повышения надежности или точности.
База данных, оптимизированная для хранения и запроса многомерных векторов внедрения.
Курируемая коллекция документов или записей, используемая для поиска, автоматизации поддержки или обоснования ответов.
Простая эталонная модель, используемая для сравнения того, действительно ли более сложные подходы улучшают результаты.
Область, ориентированная на снижение вредного поведения, сбоев и рисков неправильного использования в системах искусственного интеллекта.
Модель, которая кодирует запросы и документы в отдельные векторы, чтобы их можно было быстро сравнивать в масштабе.
Цены, при которых затраты масштабируются в зависимости от вызовов API, токенов, времени вывода или потребляемых вычислительных ресурсов.
Очень большие и сложные наборы данных, требующие масштабируемых методов хранения и обработки.
Схема атаки, при которой вредоносные инструкции вставляются во входные данные модели или извлекаемый контент.
Изученное числовое значение, которое масштабирует сигналы, проходящие через нейронную сеть.
Встраивание обнаруживаемого сигнала в текст или медиафайлы, сгенерированные ИИ, чтобы впоследствии его можно было идентифицировать как созданный машиной.
Оптимизированный алгоритм внимания, который уменьшает использование памяти и ускоряет обучение и вывод преобразователей.
Числовое векторное представление, которое отражает семантическое значение текста, изображений или других данных.
Модель, специализированная для преобразования данных в векторы, используемые для семантического поиска, кластеризации и извлечения данных.
Плотное векторное представление слов, фиксирующее семантические отношения.
Стратегия декодирования, которая производит выборку из наименьшего набора токенов, сумма вероятностей которых равна p.
Фаза выполнения, на которой обученная модель генерирует прогнозы или выходные данные.
Возможность модели генерировать структурированные вызовы, которые запускают внешние инструменты или API.
Работа по обеспечению поведения систем ИИ в соответствии с человеческими намерениями, ценностями и ограничениями безопасности.
Логика, которая проверяет и преобразует выходные данные модели в строго типизированные структуры, пригодные для машинного использования.
Дополнительные вычисления вывода, используемые во время формирования ответа для улучшения качества или рассуждения.
Количество вычислительной мощности, потребляемой при создании каждого ответа.
Ресурсы обработки, необходимые для обучения и запуска моделей, часто измеряются в FLOPS или часах графического процессора.
Когда модель генерирует беглую, но ложную или неподтвержденную информацию.
Системы искусственного интеллекта, которые создают новый контент, такой как текст, изображения, аудио, видео или код.
Подход к поиску, который сочетает в себе поиск по ключевым словам (лексический) с векторным (семантическим) поиском для лучшей запоминаемости и точности.
Значение конфигурации, установленное перед обучением, например скорость обучения, размер пакета или глубина.
Подмножество машинного обучения, которое использует многослойные нейронные сети для обучения представлению.
Вектор, показывающий, насколько должен измениться каждый параметр, чтобы уменьшить потери.
Метод оптимизации, который обновляет параметры в направлении, уменьшающем ошибку.
Поверхность в пространстве признаков, разделяющая классы, предсказанные классификатором.
Графическая структура сущностей и отношений, используемая для рассуждений или поиска.
Подход к рассуждению, при котором модель исследует несколько путей решения ветвления и выбирает наиболее перспективные из них.
Модель, которая делает прогнозы с помощью последовательности разделений признаков «если-то».
Меньшая модель обучена имитировать поведение более крупной модели, используя при этом меньше вычислений.
Сжатие знаний из большой модели учителя в меньшую модель ученика.
Обучение меньшей модели имитации результатов более крупной модели.
Метод конфиденциальности, который добавляет статистический шум, поэтому отдельные записи не могут быть надежно выведены из выходных данных.
Генеративная архитектура, которая учится обращать шум для синтеза изображений, звука или другого контента.
Согласование уверенности пользователей в результатах работы ИИ с фактической надежностью системы в каждой задаче.
Статистический диапазон, который, вероятно, содержит истинное значение измеренного показателя модели.
Изменение реальных входных данных с течением времени, которое может ухудшить производительность модели.
Время между отправкой запроса и получением выходных данных модели.
Степень, в которой реакция ИИ подтверждается исходными данными или полученными доказательствами.
Эмпирическая зависимость, показывающая, как производительность повышается с увеличением размера модели, данных или вычислений.
Нормативно-правовая база Европейского Союза, основанная на рисках, для систем и поставщиков искусственного интеллекта.
Стратегия генерации, которая ограничивает выходные токены допустимыми структурами или вариантами, совместимыми с политикой.
Преобразование необработанных данных в информативные функции, которые может использовать модель.
Вывод ИИ выполняется локально на пользовательском оборудовании, а не в удаленном облачном сервисе.
Программная система, которая может наблюдать, рассуждать и предпринимать действия для достижения цели, часто используя инструменты и память.
Точная настройка модели на парах инструкция-ответ для улучшения выполнения задач.
Широкая область создания систем, выполняющих задачи, требующие распознавания образов, рассуждения, языка или принятия решений.
Способность модели вызывать внешние инструменты, такие как поиск, калькуляторы или API.
Насколько хорошо показатели достоверности модели соответствуют фактическим вероятностям правильности.
Сохраненные тензоры ключей и значений из предыдущих токенов, которые позволяют преобразователям генерировать новые токены без повторного вычисления прошлого внимания.
Преобразование весов модели в форматы более низкой точности, например 8-битные или 4-битные.
Снижение числовой точности весов модели для уменьшения затрат на память и логические выводы.
Модель, разработанная специально для задач классификации.
Задача, в которой модель присваивает входные данные одной или нескольким предопределенным категориям.
Прогнозирование цели пользователя на основе текстового запроса для его правильной маршрутизации.
Архитектура мультимодальной модели, которая изучает общие представления текста и изображений.
Компонент модели, который преобразует входные данные в скрытые представления.
Раздел искусственного интеллекта, который извлекает смысл из изображений и видео.
Развернутый интерфейс API, который получает запросы модели и возвращает прогнозы в рабочей среде.
Подход к обучению и формированию поведения, при котором результаты модели определяются фиксированным набором письменных принципов.
Способность модели следовать шаблонам из примеров, представленных непосредственно в подсказке.
Максимальное количество входных токенов, которые языковая модель может обработать одновременно.
Обучение модели с помощью размеченных примеров, которые сопоставляют входные данные с известными выходными данными.
Стандартизированный тест или набор данных, используемый для измерения и сравнения производительности модели.
Стресс-тестирование системы ИИ с состязательными подсказками для выявления сбоев и рисков.
Модель, которая оценивает запрос и документ вместе за один проход, обеспечивая высокую точность оценки релевантности.
Неверный прогноз, когда модель ошибочно помечает отрицательный случай как положительный.
Неверный прогноз, когда модель пропускает действительно положительный случай.
Управляемая система для последовательного хранения и предоставления проверенных функций машинного обучения для обучения и вывода.
Процесс назначения тегов или целевых результатов необработанным данным для контролируемого обучения.
Методы, которые позволяют системам изучать закономерности на основе данных и совершенствоваться с течением времени.
Компонент модели, который динамически фокусируется на соответствующих частях входных данных при создании выходных данных.
Язык эталонного тестирования моделирует 57 академических и профессиональных предметов с использованием вопросов с несколькими вариантами ответов.
Механизм-преобразователь, который параллельно выполняет несколько операций внимания для фиксации различных типов отношений.
Техника поиска, которая переписывает пользовательский запрос на несколько вариантов для улучшения отзыва.
Языковая модель, обученная на массивных текстовых корпусах для генерации и анализа текста.
Мультимодальная модель, совместно обрабатывающая визуальную и текстовую информацию.
Модель, которая оценивает выходные данные на основе сигналов предпочтений, часто используется в конвейерах RLHF.
Снижение производительности со временем, поскольку реальные условия отличаются от предположений обучения.
Документация, описывающая предполагаемое использование модели, показатели, ограничения и риски.
Компактная языковая модель, оптимизированная для снижения задержки, затрат и использования на устройстве.
Модель выпущена с общедоступными весами или кодом для проверки, адаптации и повторного использования.
Большая предварительно обученная модель, которую можно адаптировать для многих последующих задач.
Модель, обученная на человеческом рейтинге, чтобы предсказать, какие ответы пользователи, скорее всего, предпочтут.
Модель, внутренние рассуждения которой людям трудно интерпретировать напрямую.
Центральный каталог для управления версиями, утверждения и отслеживания моделей в разных средах.
Модель, которая может обрабатывать или генерировать несколько типов данных, таких как текст, изображение и аудио.
Коллекция структурированных или неструктурированных примеров, используемых для обучения, проверки или тестирования.
Набор данных, используемый во время разработки для настройки моделей и предотвращения переобучения.
Способность модели сохранять производительность в условиях шума, сдвигов или враждебных воздействий.
Дополнительные затраты времени, вычислений или скорости продукта, необходимые для того, чтобы сделать системы более безопасными и управляемыми.
Доля фактических положительных результатов, которые модель правильно идентифицирует.
Многоуровневая вычислительная модель, вдохновленная биологическими нейронами и синапсами.
Преобразование значений в согласованный масштаб для повышения стабильности оптимизации.
Политика, согласно которой полезные данные запроса/ответа не сохраняются после обработки за пределами кратковременных операционных окон.
Насколько хорошо модель работает с новыми, невидимыми данными за пределами обучающего набора.
Структурированный аргумент, подкрепленный доказательствами, о том, что система ИИ безопасна для определенного контекста использования.
Отрасль искусственного интеллекта сосредоточена на понимании и создании человеческого языка.
Основной алгоритм обучения, который обновляет веса модели путем распространения ошибок прогнозирования обратно по сети.
Удаление менее важных весов модели или нейронов для уменьшения размера и объема вычислений.
Шаблоны обучения на основе немаркированных данных без явных целевых результатов.
Обучение или адаптация поведения лишь на небольшом количестве примеров.
Решение задач без конкретных примеров, опираясь на предварительные общие знания.
Обучение с помощью сигналов вознаграждения, когда агент учится действиям, которые максимизируют долгосрочную отдачу.
Метод обучения, который использует сигналы человеческих предпочтений для формирования поведения модели.
Степень, в которой поведение модели можно интерпретировать и объяснить людям.
Правила, проверки и элементы управления, которые ограничивают небезопасное или нежелательное поведение модели.
Доверенные ссылочные метки, используемые для обучения или оценки результатов модели.
Разработка или преобразование входных переменных, чтобы сделать обучение более простым и эффективным.
Входная переменная, используемая моделью для прогнозирования.
Отложенный набор данных, используемый для измерения качества модели после обучения.
Сохраненный контекст, который агент ИИ использует на этапах или сеансах для улучшения непрерывности.
Изученный вес внутри модели, который влияет на ее выходные данные.
Метрика оценки кода, измеряющая вероятность того, что хотя бы один из k сгенерированных образцов пройдет тесты.
Общая целевая функция, используемая для обучения моделей классификации путем наказания неправильных вероятностей.
Когда модель запоминает обучающие данные и плохо работает с невидимыми входными данными.
Быстрый метод, предназначенный для обхода ограничений безопасности модели.
Входные инструкции и контекст, предоставленные генеративной модели.
Информация добавлена во встраивания токенов, чтобы преобразователи могли различать порядок последовательности.
Поиск соответствующих документов или записей из источника знаний для запроса.
Алгоритм декодирования, который сохраняет несколько верхних последовательностей-кандидатов на каждом этапе для поиска выходных данных с более высокой вероятностью.
Шаблон поиска, который ищет небольшие фрагменты, но возвращает более крупные родительские документы для более богатого контекста.
Этапы обучения, применяемые после предварительного обучения, такие как настройка инструкций, оптимизация предпочтений и настройка безопасности.
Подходы к обучению, которые позволяют модели продолжать обучение на новых данных, не забывая при этом предыдущие знания.
Значение ошибки модели вычисляется во время обучения и со временем оптимизируется в сторону уменьшения.
Первоначальное обучение крупномасштабной модели на обширных данных перед последующей адаптацией.
Постоянная модель ошибок или несправедливости в данных или поведении модели.
Независимый от языка токенизатор, который изучает единицы подслова непосредственно из необработанного текста без предварительного разделения на пробелы.
Уровень модерации, который блокирует или перезаписывает небезопасные входные или выходные данные модели.
Последний момент времени отражается в данных обучения модели.
Методы оценки причинно-следственных связей, а не простых корреляций.
Запись о том, откуда взялись данные, как они были преобразованы и где они используются.
Документированное происхождение, право собственности и история набора данных или артефакта модели.
Схема внимания, при которой каждый токен обращается только к окну соседних токенов фиксированного размера для сокращения вычислительных ресурсов.
Модель, в которой многие параметры равны нулю или неактивны для сокращения вычислений.
Задача НЛП, которая идентифицирует такие сущности, как люди, места, даты или организации.
Шаблон подсказок, в котором этапы рассуждения чередуются с действиями по использованию инструментов для более надежного решения задач.
Модель, которая изменяет порядок исходного набора полученных результатов, чтобы наиболее релевантные элементы располагались вверху.
Метод поиска, который генерирует несколько вариантов запроса, извлекает результаты для каждого и объединяет рейтинги.
Изучение представлений на основе немаркированных данных путем прогнозирования замаскированных или преобразованных частей.
Схема обучения, при которой модель совершенствуется за счет генерации данных посредством взаимодействия или соревнований с собственными копиями.
Нейронная архитектура, оптимизированная для обработки данных в виде сетки, таких как изображения.
Метод регуляризации, который смягчает жесткие метки для улучшения обобщения.
Поиск, который соответствует значению, а не точному совпадению ключевых слов, часто с использованием встраивания.
Промежуточный этап обучения между предварительным обучением и постобучением, часто используемый для корректировки возможностей или предметной области.
Искусственно сгенерированные данные, используемые для дополнения, моделирования или защиты конфиденциальных данных обучения.
Конвейер моделей, который прогнозирует предпочтения пользователей при ранжировании контента или продуктов.
Инструкция с высоким приоритетом, определяющая поведение, политику и стиль ответа модели.
Обучающий гиперпараметр, контролирующий, насколько параметры изменяются на каждом этапе обновления.
Сжатое репрезентативное пространство, в котором схожие понятия расположены рядом друг с другом как векторы.
Использование шумных, эвристических или частичных меток для обучения моделей, когда чистых меток не хватает.
Архитектура со специализированными подсетями, в которых на каждом входе работают только избранные эксперты.
Метод ускорения вывода, при котором небольшая черновая модель предлагает токены, которые параллельно проверяет более крупная модель.
Вывод модели ограничен определенной схемой, такой как JSON, аргументами инструмента или типизированными полями.
Настройка выборки, контролирующая случайность генерируемых выходных данных.
Запуск модели параллельно с производственным трафиком, не влияя на решения, принимаемые пользователем.
Фрагмент текста, обрабатываемый языковыми моделями, например фрагмент слова или символ.
Процесс разделения текста на токены для ввода модели.
Стратегия декодирования, которая производит выборку только из k наиболее вероятных следующих токенов.
Продолжение обучения на предметных данных для адаптации предварительно обученной модели к конкретной задаче.
Методы, которые адаптируют модели путем обучения небольшого подмножества добавленных параметров.
Доля прогнозируемых положительных результатов, которые на самом деле верны.
Доля полученных элементов, соответствующих запросу пользователя.
Применение знаний, полученных в одной задаче или области, для улучшения другой задачи.
Нейронная архитектура, которая использует внимание для параллельного моделирования отношений между последовательностями.
Упорядоченный рабочий процесс предварительной обработки, этапов модели и этапов постобработки.
Методы создания модифицированных обучающих примеров для улучшения обобщения модели.
Политика, стандарты и механизмы надзора, которые определяют, как ИИ разрабатывается и используется в обществе.
Когда в данных обучения присутствуют примеры эталонных тестов или близкие варианты, заявленная производительность завышается.
Насколько точно утверждения модели соответствуют поддающейся проверке реальной информации.
Математическая цель, позволяющая количественно оценить ошибку прогноза во время обучения.
Стиль рассуждения, при котором модель ИИ разлагает проблему на промежуточные этапы.
Ссылки на исходные отрывки или документы, включенные в ответ модели для подтверждения ее утверждений.
Рабочий процесс, в котором люди проверяют, направляют или игнорируют результаты ИИ.
Шаблон многократного использования с переменными, правилами форматирования и инструкциями для конкретных задач.
Параметр декодирования, который снижает вероятность токенов, которые модель уже создала, чтобы уменьшить количество циклов.
Настройка декодирования, которая снижает вероятность появления токенов вообще, поощряя новые темы.
Настройка декодирования, которая снижает вероятность появления токенов пропорционально тому, как часто они появлялись на данный момент.
Повторяемая среда оценки, которая запускает подсказки, наборы данных и логику оценки в разных версиях модели.