ДалееСледующее руководство
BloombergGPT и финансовые LLM
Языковой ИИ
РУКОВОДСТВО ПО ЯЗЫКУ ИИ
Ограничение знаний — это приблизительная дата, после которой данные обучения языковой модели содержат мало информации или вообще не содержат ее, поэтому модель не имеет встроенных знаний о более поздних событиях.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Это важно, поскольку модель может уверенно представлять устаревшие цены, версии программного обеспечения, должностных лиц или исследования как актуальные. Это происходит, если только это не связано с обыском или предоставлением свежих документов.
Большие языковые модели обучаются на основе снимка текста, собранного к определенному моменту. Затем они проходят дополнительную подготовку и работу по обеспечению безопасности перед освобождением. Прекращение знаний означает конец этого снимка. Релиз часто происходит через несколько месяцев после прекращения выпуска, а модель продолжает использоваться еще долго после выпуска, поэтому разрыв между тем, что она знает, и текущим состоянием продолжает увеличиваться. Граница скорее нечеткая, чем жесткая. Люди продолжают писать о событиях еще долго после того, как они произошли, поэтому последние месяцы перед прекращением участия в обучающих данных слабо представлены. Это одна из причин, по которой модели часто не уверены в своем пороге или недооценивают его. Продавцы обычно публикуют дату в документации модели. Спрашивать саму модель — ненадежный способ ее найти. Устаревшие знания проявляются предсказуемым образом: - устаревшие номера версий и синтаксис API - старые цены - бывшие должностные лица или руководители - замененные рекомендации - отсутствие осведомленности о новых моделях, включая собственные преемники модели. Модель также может предполагать, что текущая дата близка к ее конечному сроку. Это искажает его рассуждения о возрасте, сроках и том, что считается недавним. Основные обходные пути предоставляют свежую информацию, когда задается вопрос. Инструменты веб-поиска позволяют модели читать текущие страницы. Генерация с расширенным поиском извлекает данные из хранилища документов, которое кто-то постоянно обновляет. Простое указание текущей даты в системной подсказке исправляет многие ошибки даты. Точная настройка может добавить знания, но это медленный и дорогостоящий процесс по сравнению с поиском как способом поддержания актуальности фактов. Распространенным заблуждением является то, что чат-бот с просмотром страниц имеет более позднее отключение. Его порог обучения не изменился. Он читает новые источники, и его ответы столь же актуальны и точны, как и страницы, которые он извлекает.
Кто-то спрашивает модель, не просматривая последнюю версию библиотеки программного обеспечения. Он называет версию, которая была актуальной на момент сбора данных обучения.
Модель спросила, какой сейчас год, и угадывает год рядом с данными обучения, если приложение не укажет сегодняшнюю дату в системной подсказке.
Помощник по новостям выполняет поиск в Интернете, читает статьи, опубликованные на этой неделе, и цитирует их, что позволяет ему отвечать о событиях после его закрытия.
Внутренний помощник компании использует поиск по политическим документам, которые переиндексируются каждую ночь. Ее ответы отражают текущую политику независимо от порогового значения модели.
Выпуски моделей стали более частыми, что сокращает типичный разрыв между завершением и использованием, но ни одна обученная модель не может быть полностью актуальной. Более устойчивой тенденцией является более тесная интеграция поиска и извлечения данных, поэтому текущие факты поступают из источников, которые пользователь может проверить. Некоторые исследования изучают редактирование или обновление знаний внутри модели без полной переподготовки, хотя эти методы имеют известные ограничения. Для пользователей практические привычки остаются прежними. Проверьте указанное ограничение, обратите внимание, когда вопрос зависит от недавних событий, и сверьте ответы, чувствительные ко времени, с датированными источниками.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Ограничение знаний — это приблизительная дата, после которой данные обучения языковой модели содержат мало информации или вообще не содержат ее, поэтому модель не имеет встроенных знаний о более поздних событиях. Это важно, поскольку модель может уверенно представлять устаревшие цены, версии программного обеспечения, должностных лиц или исследования как актуальные. Это происходит, если только это не связано с обыском или предоставлением свежих документов.
Обрезка отмечает конец снимка обучающих данных. Релиз обычно приходит позже, и модель используется еще долго после этого.
Охват любого периода растет годами. Во время обучения за последние месяцы имеется относительно мало документов, поэтому модель мало о них видит.
Продавцы обычно публикуют отсечку. Собственный ответ модели ненадежен по причинам, изложенным в руководстве.
Модель склонна предполагать, что эта дата близка к предельной. Указание сегодняшней даты прямо указывает на этот факт.
Просмотр добавляет свежие источники на момент вопроса. Это не меняет того, чему модель научилась при обучении, а полученные страницы сами по себе могут быть неправильными.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
BloombergGPT и финансовые LLM
Языковой ИИ