Что случилось
TechCrunch со ссылкой на газету Chicago Tribune и отчет офиса шерифа округа Сискию сообщает, что трое туристов использовали Google Gemini для планирования экспедиции на гору Шаста и достигли вершины в 19:00. после старта в 3 часа ночи и были спасены на следующее утро после попытки ночного спуска. В офисе шерифа заявили, что Gemini рекомендовал гораздо меньше еды и воды, чем требовалось группе.
TechCrunch сообщил 5 сентября, что трое молодых людей были спасены на горе Шаста в Калифорнии после использования чат-бота Google Gemini для планирования своего похода. В сообщении цитируются газета Chicago Tribune и отчет офиса шерифа округа Сискию; источник не предоставляет независимо проверенную стенограмму взаимодействия с чат-ботом.
Согласно отчету офиса шерифа, цитируемому TechCrunch, туристы отправились в 3 часа ночи и достигли вершины в 19:00, несмотря на указание, что туристы должны развернуться, если они не достигли вершины к полудню. Затем они попытались спуститься в темноте, позвонили в офис шерифа, чтобы узнать дорогу, и провели ночь в каньоне Мад-Крик.
TechCrunch сообщает, что рейнджеры и волонтеры Лесной службы спасли группу на следующее утро. В офисе шерифа сообщили, что Gemini посоветовал туристам взять с собой гораздо меньше еды и воды, чем требовалось группе, особенно после того, как запланированное восьмичасовое восхождение превратилось в многодневное испытание. Источник не указывает модель или версию Gemini, точную подсказку, рекомендуемое количество или реакцию туристов на совет.
Подробности об источнике: techcrunch.com ↗
Почему это важно
Этот инцидент иллюстрирует практический риск для безопасности, когда люди рассматривают чат-бота общего назначения с искусственным интеллектом как замену местного опыта в ситуациях, когда условия, время и запасы могут определить, безопасна ли поездка. В отчете независимо не указывается, что именно рекомендовал Gemini или насколько на него полагались туристы, но он показывает, почему рекомендации на открытом воздухе, созданные ИИ, требуют проверки на соответствие официальным источникам и текущим условиям.
Системы искусственного интеллекта могут предоставлять уверенные, конкретные рекомендации без надежного учета местных опасностей, изменения погоды, условий маршрута, правил разворота или последствий задержек. При планировании на открытом воздухе ошибка в расходах или сроках может стать проблемой физической безопасности, а не просто неудобным ответом.
Отчет представляет собой конкретное предупреждение о надежности и проверке, а не свидетельство того, что Gemini сам по себе вызвал спасение. TechCrunch отмечает, что неясно, сможет ли Gemini взять на себя всю вину за решения туристов. В исходный код не включены ни независимые тесты рекомендаций Gemini, ни стенограмма, ни ответ Google.
Практический вывод прост: люди, планирующие поездки с высоким уровнем риска или отдаленные поездки, должны проверять информацию, генерируемую ИИ, у официальных землеустроителей, рейнджеров и текущих уведомлений о безопасности, а также должны иметь при себе припасы и планы действий в чрезвычайных ситуациях, соответствующие отсроченному или ночному возвращению.
Интерактивный механизм: как он на самом деле работает
Изучите технологию, лежащую в основе этой разработки, в интерактивном режиме.
A route planner searches possible journeys using explicit rules. What does this illustrate about AI?
Что посмотреть дальше
Следите за дальнейшими сообщениями от местных властей, туристов или Google о подсказках, советах и моделях. Ключевой нерешенный вопрос заключается в том, предоставил ли Gemini существенно неверное руководство по планированию, был ли упущен важный контекст или туристы существенно отклонились от плана.
Дополнительная информация из офиса шерифа округа Сискию, Лесной службы США, туристов или Google может прояснить, что сказал Gemini и был ли совет чат-бота неточным, неполным или неправильно понятым.
Источник цитирует офис шерифа, который рекомендует посетителям перед поездкой связаться с местной лесной службой США на горе Шаста и никогда не полагаться исключительно на искусственный интеллект при планировании поездки. Неизвестно, внес ли Gemini изменения в продукт, выдал ли предупреждение или добавил в ответ меры безопасности для конкретного региона.
Любые более широкие данные должны отличать отдельные эпизодические неудачи от систематических проблем. Источник не предоставляет данных о тестировании, подсчете инцидентов или сравнительной оценке Gemini с другими инструментами планирования поездок.