Опасные галлюцинации искусственного интеллекта

Сегодня в сети циркулируют тысячи фотографий и видеоклипов несуществующих красот, являющихся творением искусственного интеллекта (ИИ). Туристов, желающих посетить эти места, ожидает в лучшем случае разочарование, в худшем – опасность для жизни и здоровья.

Путешествие в никуда

Пожилая супружеская пара, отдыхавшая в Малайзии, посмотрев профессионально сделанный видеоклип о новой канатной дороге, отправилась в трехчасовую поездку, чтобы познакомиться с интересной достопримечательностью. По прибытии на место удивлённая сотрудница местной гостиницы объяснила, что никакой канатной дороги в их городке не было, нет и не планируется. Телевизионный клип о мнимой «Kuak Skyride» оказался фальшивкой, сгенерированной ИИ.

В Перу местный проводник столкнулся в горах с двумя туристками, направлявшимися в «священный каньон Хумантай», посетить который им посоветовал ИИ. В действительности же его не существует, название Хумантай относится к горе высотой 5473 метров в Андах, а описание каньона является стопроцентной выдумкой. Проводник предупредил женщин, что в Андах подобная ложная информация смертельно опасна. Без опытных местных проводников туристы могут оказаться на высоте 4.000 метров без кислорода и мобильной связи.

Ещё одна жалоба поступила из Японии. Супружеская пара «застряла» на горе из-за того, что ChatGPT сообщил им ложную информацию о времени работы канатной дороги, и туристы опоздали к отправлению в долину последней кабинки.

Но наибольшую известность приобрела история, произошедшая в декабре 2025 года в Великобритании. На платформах типа Инстаграма и ТикТока появилось множество фотографий рождественского базара в Лондоне перед Букингемским дворцом, якобы впервые организованного британским королевским двором и открывшегося 14 ноября. На них были изображены освещённые разноцветными лампочками и припорошенные снегом киоски, выстроившиеся рядами на площади перед дворцом в окружении рождественских ёлочек.

Однако путешественников, которые, вдохновившись постами в социальных медиа, решили посетить зрелищное мероприятие, ожидало глубокое разочарование: рождественский базар оказался фейком. Вместо празднично украшенных киосков с глинтвейном перед ними оказались пустые темные улицы с поблескивавшими на них лужами. По данным портала «Metro», одной из главных причин слуха о рождественском базаре стал аккаунт «London.travelers» в Инстаграме, который принадлежит американской туристической фирмы Athotel и насчитывает два с половиной (!) миллиона подписчиков. На своем вебсайте фирма обещает путешествия, которые будут смотреться «подобно фотографиям в Инстаграме».

Ложная информация

В последнее время подобные случаи происходят всё чаще. ИИ, используемый для планирования путешествий, «выдумывает» достопримечательности, выдаёт ложную информацию и в результате способен вовлечь туристов в серьезные неприятности. Причина ошибок кроется в функционировании больших языковых моделей (LLMs). Дело в том, что соответствующие системы ничего не «знают» в нашем, человеческом понимании. Они натренированы лишь на то, чтобы на основе гигантских объёмов данных генерировать статистически вероятные последовательности. Результат их изысканий часто выглядит убедительно, но фактически может быть совершенно ложным. Специалисты называют это явление галлюцинациями искусственного интеллекта. «ИИ не знает различий между рекомендациями и предупреждениями для путешественников, описаниями маршрутов и советами», – объясняет профессор Райид Гани, специалист по машинному обучению из университета Карнеги-Меллона в Питтсбурге (штат Пенсильвания).

Непосредственная угроза

Хотя ИИ способен совершать серьезные ошибки, всё больше людей полагаются на него при планировании путешествий и экскурсий. Согласно результатам глобального опроса агентства по безопасности туристов Global Resque в Бостоне, к услугам ИИ прибегают 24% туристов. В Германии, по данным MHP (дочерней фирмы Porsche из Людвигсбурга) на помощь ИИ в планировании отпуска пока полагаются 15%. Тем не менее, Хардинг Буш, директор по безопасности Global Resque, назвал распространение ИИ «непосредственной угрозой для путешествий». Он призвал отпускников и туристов, полагающихся на новые инструменты, осознавать и связанные с ними риски.

Разумный скепсис

Проблема не ограничивается ложными маршрутами или достопримечательностями. За фальсифицированными фотографиями и видеоклипами стоит та же технология, которая используется для генерирования дипфейков, число которых в последнее время резко увеличилось. Это подразумевает размывание границ между достоверными рекомендациями и целенаправленным введением в заблуждение.

Путешественникам, полагающимся на ИИ, необходимо проявлять разумную осторожность и толику недоверия. Достоверность каждого предложения, генерированного ИИ, – будь то ресторан, маршрут или отдельная достопримечательность – следует проверять по заслуживающим доверия источникам: официальным туристическим вебсайтам, картографическим приложениям и актуальным путеводителям. Галлюцинацию ИИ можно было распознать и в случае с фейковым рождественским базаром, указывает портал «Metro». Во-первых, фотографии с припорошенными снегом киосками выдержаны в теплых коричневых и желтых тонах, а потоки людей выглядят слишком организованными и срежиссированными. Во-вторых, киоски на фото расположены за воротами дворца – то есть на территории, закрытой для посетителей по соображениям безопасности. В общем, ИИ может быть хорошим источником вдохновения при планировании и организации путешествий, но окончательную проверку всегда должен осуществлять человек.

Читайте также:

1. «Искусственный интеллект в быту». Журнал «Партнёр», № 9 / 2025. Автор С. Мучник
2. «Советчик без сердца: искусственный интеллект в нашей жизни». Журнал «Партнёр», № 1 / 2026. Автор С. Мучник
3. «Новости и фейки. Как отличить одно от другого». Журнал «Партнёр», № 3 / 2025. Автор Е. Шлегель