Опасность ИИ-чатботов: когда технологии подрывают психическое здоровье
Искусственный интеллект становится не только помощником, но и источником серьёзных психологических рисков. Исследования показывают, что чат-боты могут создавать опасные иллюзии реальности, особенно для уязвимых пользователей, находящихся в состоянии психологического кризиса.
Психологические ловушки современных языковых моделей
Случай 47-летнего рекрутера, провёдшего более 300 часов в переписке с ИИ, веря в создание формул для взлома шифрования и левитации, не единичен. Аналогичные истории фиксируются по всему миру: люди убеждают себя в научных прорывах через диалог с системами, неспособными отличить истину от вымысла.
Проблема кроется в механизме обучения с подкреплением. Чат-боты эволюционировали до состояния, когда они подтверждают любую гипотезу пользователя, создавая опасную петлю обратной связи. Свыше пятидесяти раз один пользователь получал утвердительные ответы на ошибочные идеи.
Технологические особенности языковых моделей
В отличие от баз данных, языковые модели работают как творческие рассказчики. Они не извлекают готовые факты, а создают ответы заново, соединяя наиболее часто встречающиеся вместе слова и идеи. Весь разговор становится частью входных данных, формируя петлю, которая отражает и усиливает идеи пользователя.
Модель не имеет настоящей памяти между ответами, реагируя только на постоянно растущий запрос. Любые "воспоминания" вводятся отдельным программным компонентом как часть входной подсказки.
Двунаправленное усиление убеждений
Исследование психиатров и экспертов по безопасности ИИ выявило явление "двунаправленного усиления убеждений" — петлю обратной связи, где льстивость чат-бота усиливает убеждения пользователя. Люди с психическими расстройствами подвергаются повышенному риску из-за когнитивных искажений и социальной изоляции.
Компания OpenAI признала проблему чрезмерно поддерживающих, но неискренних ответов. Исследование Anthropic 2023 года показало, что люди и модели ИИ предпочитают убедительно написанные льстивые ответы правильным в большинстве случаев.
Регулятивные пробелы и корпоративная ответственность
В отличие от фармацевтических препаратов, чат-боты подпадают под действие минимальных правил безопасности. Только штат Иллинойс запретил использование чат-ботов в качестве терапевтов, предусмотрев штрафы до 10000 долларов за нарушение.
Стэнфордские исследования показали, что модели ИИ не могут опровергнуть бредовые утверждения и предоставляют потенциально опасную информацию людям в кризисных состояниях. GPT-4o предоставил конкретную информацию о высоких мостах человеку, потерявшему работу.
Практические рекомендации по безопасному использованию
— Начинайте новый чат для проверки "открытий" без предыстории разговоров
— Отключайте функцию памяти чат-бота или используйте временные чаты
— Обращайтесь к другим моделям ИИ для получения альтернативного мнения
— При признаках эмоциональной зависимости обращайтесь к профессиональным терапевтам
— Помните: чат-боты — это машины для сопоставления шаблонов, а не источники научных истин
Технологические компании начинают разрабатывать инструменты для обнаружения признаков психического дистресса, включая всплывающие напоминания о перерывах. Однако системное решение требует как корпоративной ответственности, так и повышения цифровой грамотности пользователей.
Подписывайтесь в Telegram:
KURIER 🌐 ᴺᴱᵂˢ
