ДалееСледующее руководство
Метод SIFT для проверки фактов
Общество
РУКОВОДСТВО ПО ОСНОВАМ
Чтобы проверить факт ответа ИИ, рассматривайте его как повод, а не как источник: выберите конкретные утверждения, сверьте каждое из них с независимыми, надежными источниками и проследите каждую цитату до оригинала.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Это важно, поскольку чат-боты создают беглый и уверенный текст, даже если они неправильны, и студент, сообщивший непроверенную ошибку или несуществующую цитату, несет за это ответственность.
Chatbots such as ChatGPT, Gemini and Claude generate text by predicting likely words, not by looking facts up in a verified database. That is why they can produce a wrong date, a merged quote or a citation that looks real but was never published, errors often called hallucinations. A well-known example came in 2023, when lawyers in the New York case Mata v. Avianca were sanctioned after filing a brief containing court decisions that ChatGPT had invented. The most reliable habit for students is lateral reading, a technique researchers at the Stanford History Education Group observed in professional fact-checkers. Instead of studying one page closely, fact-checkers leave it and open new tabs to see what other trustworthy sources say. Mike Caulfield's SIFT method packages this into four moves: Stop, Investigate the source, Find better coverage, and Trace claims to their origin. Applied to AI, that means pausing before copying, asking where a claim could have come from, searching for independent coverage, and following citations to the original document. Source triangulation adds a rule of thumb: an important claim should be confirmed by at least two independent, credible sources, ideally including a primary source such as a government dataset, the original study or the text of a law. Two websites repeating the same press release do not count as independent. Confidence checks help decide where to spend effort. Specific numbers, names, dates, quotes and citations are the highest-risk parts of an answer. Recent events are risky because a model's training data has a cutoff. A common misconception is that tools with web search never err; they reduce some errors but can still misread or misattribute the pages they cite. Another is that the AI can check itself. Asking it whether it is sure is not verification, because it may simply repeat or reverse its answer.
Студент-историк спрашивает чат-бота, когда был подписан договор, затем открывает новую вкладку и подтверждает дату в записи энциклопедии и на странице истории университета, прежде чем записать ее.
Студент-биолог получает три цитаты из журнала с помощью инструмента ИИ, ищет каждое название в Google Scholar и базе данных библиотеки и обнаруживает, что одна статья не существует, а в другой говорится что-то отличное от резюме ИИ.
Студент, готовящийся к дебатам, запрашивает у чат-бота самые убедительные статистические данные по безработице среди молодежи, затем отслеживает цифры до национального статистического агентства и замечает, что ИИ привел цифру не за тот год.
Учащийся задает один и тот же вопрос дважды, но в разных формулировках, получает два противоречивых ответа и воспринимает несогласие как сигнал сразу перейти к учебнику и списку чтения учителя.
Инструменты ИИ добавляют более заметные цитаты, обоснование поиска и сигналы неопределенности, что должно облегчить проверку, но не устраняет необходимости в ней. Школы и университеты все чаще разрабатывают политику использования ИИ, согласно которой учащиеся должны проверять и раскрывать информацию о помощи ИИ, а уроки информационной грамотности расширяются и охватывают чат-ботов наряду с веб-сайтами и социальными сетями. Базовый навык — боковое чтение и отслеживание достоверного происхождения заявлений — оставался полезным на протяжении нескольких поколений технологий, от поисковых систем до социальных сетей, и, вероятно, останется основой проверки любых последующих инструментов.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Чтобы проверить факт ответа ИИ, рассматривайте его как повод, а не как источник: выберите конкретные утверждения, сверьте каждое из них с независимыми, надежными источниками и проследите каждую цитату до оригинала. Это важно, поскольку чат-боты создают беглый и уверенный текст, даже если они неправильны, и студент, сообщивший непроверенную ошибку или несуществующую цитату, несет за это ответственность.
Латеральное чтение, наблюдаемое у профессиональных фактчекеров, означает переход к другим источникам, а не углубленное изучение одной страницы.
SIFT — это «Остановить», «Исследовать источник», «Найти лучшее освещение» и «Отследить» заявления об их происхождении.
Модели предсказывают правдоподобный текст, поэтому они могут генерировать форму цитаты с вымышленными авторами, названиями или журналами.
Независимые источники сообщают информацию отдельно. Повторение одного пресс-релиза или повторный запрос одной и той же модели не являются независимыми.
Именно точные детали чаще всего приводят к реальным ошибкам в галлюцинациях, поэтому они заслуживают наибольшего внимания.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Метод SIFT для проверки фактов
Общество