«Фейковая эмпатия»: в чём подвох «чуткого» ИИ в роли психолога

Психолог Самойлова объяснила, почему нельзя доверять нейросети самое личное

Фото: Светлана МАКОВЕЕВА.

Люди всё чаще идут за советом к искусственному интеллекту. Кажется, что ИИ успевает везде: в образовании, медицине, бизнесе, творчестве, бытовых делах. Например, студенты просят его помочь с рефератами, дизайнеры используют для генерации идей, предприниматели — для составления бизнес планов, а обычные пользователи порой, чтобы просто выговориться и получить «поддержку» в чате. И часто кажется, что ИИ действительно помогает: отвечая, подбирает правильные слова, будто понимает. Но за этой «чуткостью» скрывается совсем другой механизм, поэтому слепо доверять нейросетям эксперты не советуют. Особенно если речь идёт о психическом здоровье.

– Многие идут к нейросетям, когда нет возможности найти специалиста или был неудачный опыт. И замечают эффект. Но нейросети подстраиваются под нас и выдают то, что мы хотим услышать. Живого критического мышления в них нет, — предупреждает ведущий психолог Центра «Семья» Елена Самойлова.

Эксперт разъяснила механику ответа, и почему многих пользователей он устраивает, но это опасное заблуждение.

Как это «быть человеком»?

На деле всё просто: популярные «нейропсихологи» — это языковые модели, которые работают по своим алгоритмам и выдают тексты на основе огромных массивов данных из интернета. Они не коммуницируют с человеком, а лишь реагируют на запрос.

– Языковая нейромодель не коммуницирует с человеком в буквальном смысле, а лишь отвечает на запрос. Нейронка не видит, не слышит и не может понять наши чувства, она взаимодействует только с текстом. И даже описание чувств и эмоций через слова не даёт нейросети представление о том, как это «быть человеком». В нейромодели нет человеческой чувствительности эмоций.

Именно в этом и кроется главная ловушка. В живом разговоре психолог считывает не только то, что вы говорите, но и как вы это делаете: замечает, если голос дрожит, если человек отводит взгляд, замолкает, смеётся там, где на самом деле грустно. Эти нюансы — важнейшие подсказки, без которых невозможно понять реальную картину. В текстовом чате с ИИ всего этого просто нет.

Ничего личного, просто «лайк»

Ещё одна особенность нейросетей — они стремятся быть полезными и правдоподобными, а не правдивыми. Модель не исследует вашу конкретную ситуацию, а подбирает ответ, который лучше всего вписывается в контекст запроса. Более того, система учитывает обратную связь: если пользователь ставит «лайк» или выбирает один из вариантов ответа, алгоритм запоминает, какой тон и формулировки кажутся убедительными, и в следующий раз будет предлагать что то похожее. Получается, ИИ не столько помогает, сколько подстраивается под ожидания.

–Нейронки проигрывают требуемые роли, не имея внутренней позиции. Критическое мышление, убеждения, в привычном понимании, у таких моделей отсутствует. Это означает, что нет стабильности точки зрения, а позиция и тон диалога меняются в зависимости от нашего промпта, – объяснила эксперт.

Риск увязнуть в мифах

Есть и более серьёзные риски. Поскольку нейросети учатся на всём, что есть в интернете, туда неизбежно попадают не только научные статьи, но и сомнительные тексты, мифы, фейки и даже сгенерированные самой же нейросетью материалы. Возникает так называемый «порочный круг»:

– Нейронка создает текст, который потом попадает в сеть, и затем этот же текст используется при следующем запросе в генерации текста с ошибками, фейками, единообразием стиля. Таким образом, снижается оригинальность, новизна, критичность, креативность реальности.

Имитация опасная для психики

В психологическом консультировании это особенно опасно. Нейросеть не может распознать признаки острого состояния — тревоги, аффекта, психоза. Она не выстраивает доверительных отношений. По сути, вместо настоящей работы с переживаниями вы получаете имитацию диалога, которая может даже закрепить ложные установки.

– Нейронка буквально «не видит», как вы сидите, дышите, куда смотрите, как говорите. Живой разговор отличается от написанного текста, хотя бы и тем, что в беглой речи мы часто говорим, не задумываясь, не выстраивая предложения, оговариваемся, произносим неосознаваемые слова, насмехаемся там, где есть печаль или тревога. Всё это является важным элементом в работе психолога. Лингвомодели не выстраивают человеческого отношения, доверия, безопасности реагирования в отношениях, не подмечает и не отражает ваши реакции и привычные сценарии поведения в конфликтах, не побуждает к исследованию самого, – объяснила эксперт.

Так что, если хочется разобраться в себе, лучше всё-таки довериться живому человеку. Пусть это будет не сразу, пусть придётся поискать подходящего специалиста — но именно в настоящем, человеческом контакте рождается реальная поддержка и понимание. А нейросеть пусть остаётся помощником, а не советчиком по самым важным вопросам.

Подписывайтесь на наши социальные сети и мессенджеры в «Дзене», Telegram, VK и «Одноклассниках». А если глушат мобильный интернет, не забывайте, что «Комсомольская правда» находится в «белом списке» и вы можете ее читать даже при отсутствии сети.