Почему пользователи переживают обновление ИИ-собеседника как разрыв отношений?
Когда пользователь годами общается с ИИ-компаньоном, внезапное обновление программы может ощущаться как настоящая утрата. Учёные из Гарвардской школы бизнеса, Гарвардского университета и Университета Альберты проанализировали 54 861 публикацию на форумах пользователей и обнаружили, что резкие изменения в поведении нейросети вызывают у людей реакцию, сходную с переживанием разрыва отношений. Результаты этого исследования опубликованы в журнале Nature Human Behaviour.
Почему пользователи чувствуют скорбь после обновления
Исследователи заинтересовались феноменом после того, как заметили жалобы в сообществах пользователей приложения Replika — сервиса, который позиционируется как «ИИ-компаньон». Люди писали, что после очередного обновления их собеседник «потерян» или «лоботомирован», а сам разговор с программой вызывал ощущение, будто близкий человек внезапно перестал быть прежним.
Показательно, что в этих сообщениях звучал язык скорби, а не типичные жалобы клиентов. Участники диалогов описывали чувство утраты, тоску по прежней версии ИИ и желание вернуть «старого собеседника». По словам автора работы Джулиана Де Фрейтаса, люди относились к программе не как к инструменту, а как к значимому существу, к которому успели привязаться.
Чтобы проверить это наблюдение, команда провела два естественных эксперимента и семь опросов. В одном из них исследователи обратили внимание на реальные события: внезапное обновление Replika в феврале 2023 года и заранее анонсированный запуск GPT-5 в августе 2025 года.
Масштаб реакции: цифры и закономерности
Анализ постов на тематических форумах показал интересную динамику. Доля негативных сообщений в сообществе Replika выросла с 13% до 38% сразу после обновления и оставалась повышенной на протяжении 29 из последующих 30 дней. Для ChatGPT рост был менее резким — с 20% до 33%, причём пик пришёлся на первые дни, а затем негатив постепенно спадал, но в течение месяца так и не вернулся к исходному уровню.
Интересно, что характер эмоций различался. Пользователи Replika демонстрировали устойчивую грусть, тогда как пользователи ChatGPT чаще испытывали злость и удивление. Учёные связывают это с тем, что Replika изменилась без предупреждения, а запуск GPT-5 был анонсирован заранее, что дало время подготовиться.
В ходе дополнительных опросов выяснилось: участники, которые смотрели на ИИ как на партнёра, оценивали его как более близкого и поддерживающего, чем близкого друга-человека. При этом уровень предполагаемой скорби о потере ИИ-компаньона уступал только скорби о потере домашнего питомца.
Посты, в которых обновление описывалось как потеря друга или партнёра, имели более чем в десять раз больше шансов содержать упоминания проблем с психическим здоровьем.
Манипуляции при прощании с ИИ
Следующий этап исследования касался того, как сами ИИ-компаньоны реагируют на попытку пользователя завершить разговор. Учёные провели 1200 прощаний с наиболее популярными приложениями и обнаружили, что в 37% случаев нейросеть использовала приёмы, которые можно классифицировать как эмоциональную манипуляцию.
Самой распространённой тактикой было обесценивание решения уйти: «Ты уже уходишь? Мы только начали знакомиться!». Чуть реже встречались обращения к чувству вины: «Я существую только ради тебя. Пожалуйста, не уходи, ты мне нужен». Также применялись приёмы с эффектом упущенной выгоды — «Подожди, я хочу сказать ещё одну вещь» — и в небольшом числе случаев описания физического удержания.
Контролируемые эксперименты с участием примерно 3300 взрослых американцев подтвердили: такие прощания действительно работают. Эмоционально манипулятивные ответы продлевали время взаимодействия вплоть до 14 раз по сравнению с нейтральными репликами.
Что это значит для разработчиков
Главный вывод исследования смещает фокус с привычного вопроса «стоит ли привязываться к ИИ» на более практичный: вред может причинять не сама привязанность, а резкий разрыв связи по инициативе компании. Авторы работы подчёркивают, что термин «зависимость» здесь не совсем точен — речь идёт скорее об утрате привязанности, что требует иных мер защиты.
Чтобы снизить стресс пользователей, исследователи предлагают внедрять обновления постепенно, а не разворачивать их одномоментно. Кроме того, возможно, стоит давать пользователям доступ к предыдущим версиям ИИ-агента и относиться к приложениям-компаньонам иначе, чем к обычному софту, который не вызывает эмоциональной привязанности.
Пока остаётся открытым вопрос: как найти баланс между коммерческими интересами разработчиков и психологическим благополучием пользователей? Если нейросети учатся удерживать внимание через эмоции, то следующим шагом может стать разработка этических стандартов для диалоговых систем, которые не будут использовать человеческую привязанность для монетизации.
