Планировать ли путешествие с помощью нейросетей?

Наблюдаю такой тренд: люди обращаются к ИИ, который быстренько может составить план поездки под любой запрос, посчитать примерный бюджет и отметить всё на карте. Это всё очень удобно и классно, но: за нейросетями всё нужно перепроверять.

Чаты ГПТ, Клоды и Гемини ошибаются не потому, что они глупые или не та версия, а потому что они основываются на открытой информации, в том числе непроверенной. Более того, они склонны «додумывать» информацию, которая часто оказывается ошибочной.

А дальше происходит следующий виток потенциальной дезинформации: новые версии нейросетей анализируют информацию на сайтах, текст для которых был сгенерирован прошлыми версиями нейросетей!

Проще говоря: условному бестолковому турагенту ИИ сгенерировал текст о том, что россиянам не нужна виза для посещения Италии, он выложил эту информацию на своём сайте, а затем новые нейросети проанализировали эту статью и приняли её за истину.

Бездумное использование нейросетей может привести даже к отказу в визе: например, он запросто может дать неверный список документов, а ещё составить маршрутный лист с ошибками.

Вот несколько недавних факапов туристов, к которым привела слепая вера нейросетям:

➖ В Калифорнии туристы пошли в поход, нейросеть неверно рассчитала время маршрута и необходимый запас еды. В результате они заблудились в темноте и вызвали спасателей (тык).

➖ Россиянам отказали в посадке на самолёт в Македонию, потому что нейросеть сказала, что туда не нужна виза. В целом туда действительно можно попасть без визы, но информации в интернете об этом очень мало и точно требуется подготовка (тык).

➖ На сайте туркомпании опубликовали статью с несуществующими природными источниками на севере Тасмании. Угадайте, кто написал текст? (тык).

Я не призываю отказываться от нейросетей, ни в коем случае. Но к ним нужно относиться как к помощнику — бестолковому, но исполнительному и услужливому помощнику, который не может сказать «нет» или «не знаю», поэтому додумывает ответы от себя. В идеале ему нужно «скармливать» проверенную информацию и просить её анализировать или структурировать.

🔜 @kak_ehat