- Нейросети рекомендуют путешественникам несуществующие или опасные достопримечательности.
- В одном из случаев пара туристов отправилась искать «Священный каньон Хумантай» в Перу, однако такого места не существует.
- 24% туристов планируют путешествия с помощью языковых моделей, что иногда приводит к проблемам и опасным ситуациям.
Руководители туристических компаний высказали серьёзную обеспокоенность в связи с тем, что пользователи, ориентируясь на рекомендации искусственного интеллекта, оказываются в затруднительных ситуациях. Языковые модели, которые многие воспринимают за надёжных помощников, порой советуют выдвигаться к вымышленным достопримечательностям или местам, расположенным в опасных районах.
Одним из тревожных примеров стала история с туристической парой в Перу. Вдохновлённые советом чат-бота, они отправились на поиски «Священного каньона Хумантай» в Андах. По прибытии к местному туристическому пункту выяснилось, что такого объекта в регионе не существует. Более того, район отличается сложными условиями: высота превышает 4000 метров, а для безопасности важны предварительная подготовка, проверка маршрутов, прогнозов погоды и уведомление спасателей. Отсутствие такой подготовки может привести к серьёзным проблемам, вплоть до оказания помощи в горах.
Компания Global Rescue в своём исследовании сообщает, что около четверти туристов (24%) формируют свои маршруты, опираясь на указания языковых моделей искусственного интеллекта. В некоторых ситуациях ошибки в рекомендации оказываются относительно безобидными — например, неожиданное требование визы при посадке в аэропорту. Однако встречаются и более серьёзные последствия: путешественники проделывают долгий путь к несуществующим объектам или получают неверные данные о времени работы маршрутов, что ставит под угрозу их безопасность.
Данный феномен иллюстрирует одну из известных проблем современных нейросетей — «галлюцинации», когда модели генерируют факты и объекты, на самом деле не существующие. Это подчёркивает важность внимательной проверки информации, особенно если она связана с путешествиями и потенциально опасными условиями. Эксперты рекомендуют использовать нейросети лишь как дополняющий источник и всегда сверять данные с официальными ресурсами и консультациями специалистов.
