Мы часто пишем, как нейросети помогают в повседневной жизни — от структуры задач до планирования путешествий и подбора подарков.

Но если работать с ИИ вслепую, можно легко ошибиться.

Сегодня — о том, что нейросети пока делают плохо.

На реальных ситуациях, без драматизации — просто, чтобы быть осознаннее.

1. «Уверенно врет» — и делает это красиво

Если вы хоть раз просили GPT или другую нейросеть найти исследование, цифры или пример из практики, то знаете этот эффект.

ИИ не теряется.

Он уверенно пишет:

“В 2017 году в Калифорнийском университете был проведён эксперимент…”

“Согласно данным из British Medical Journal…”

“Вот ссылка на публикацию…”

Ты переходишь — а там пусто.

Или такой страницы никогда не существовало.

Или ссылка ведёт на статью, в которой вообще не то.

Это называется галлюцинации ИИ — когда модель “дорисовывает” то, чего нет, потому что так логично звучит.

Она не врёт специально — у неё просто нет доступа к актуальным данным и нет внутреннего компаса “правда/вымысел”.

Важно:

Если ИИ что-то “цитирует” — проверяйте это вручную. Особенно, если это связано с принятием решений, финансами, здоровьем.

2. Ошибки в логике и расчётах

ИИ умеет считать — но не как человек.

Он строит ответы на основе шаблонов, а не алгоритмической точности.

Я однажды просила GPT рассчитать прирост прибыли с учётом скидок и разных периодов.

Он выдал красивую таблицу. Всё выглядело убедительно.

А потом я вручную пересчитала — и поняла: ошибка в логике.

Он не понял, куда применить скидку: к выручке или к марже.

Ошибся в процентах. Сдвинул период. И всё посыпалось.

Что с этим делать?

– Всегда перепроверяйте важные вычисления

– Не доверяйте расчётам “под ключ”

– Используйте ИИ как черновик — а не как калькулятор

3. Эмпатия — это всё ещё не про ИИ

ИИ может говорить мягко.

Может задать “внимательный” вопрос:

“Что вы сейчас чувствуете?”

“Что было самым сложным моментом?”

“Чем я могу поддержать вас?”

Но он не чувствует. Он не понимает, что вы на грани, что вы устали, что вы просто не в ресурсе.

Почему так?

Потому что его обучали не эмпатии, а сценариям вежливости.

Десятки тысяч анонимных людей по всему миру размечали ответы вручную: «хорошо», «нейтрально», «оскорбительно».

Часто — за копейки. Часто — без глубокого образования. Без понимания психологии.

Именно на этих людях ИИ учился “быть тактичным”.

Если вам нужна реальная поддержка — обращайтесь к живым людям.

ИИ может быть зеркалом.

Но не собеседником, который действительно рядом.

Что делать?

Учиться говорить с ним на одном языке. Иногда ИИ как очень старательный но в чем-то недалекий дальний родственник который оооооооочень хочет помочь!

Что с ИИ делать хорошо: структурировать, подкидывать идеи, писать черновики, объяснять просто, подсказывать шаблоны.

Где проверять вручную: расчёты и проценты, цитаты, ссылки, источники, эмоциональные разговоры, юридические и мед. тексты, решения, где цена ошибки велика.

ИИ — это мощный инструмент.

Но, как и любой инструмент, он требует внимания.

Он может быть фантастически полезен — если не ждать от него того, на что он пока не способен.

Поделитесь в комментариях, если вы сталкивались с “галлюцинациями” или логическими ошибками ИИ.

Соберём мини-базу — чтобы меньше путаться и больше понимать.