Технологии т.н. искуственного интеллекта довольно неплохо научились имитировать переписку с реальным человеком. В результате чего некоторые люди начали вступить дружеские и романтические отношения c нейросетями.
Вернее они ощущают и переживают эту связь как настоящие отношения:
- ➡️ их интересует мнение LLM по поводу событий их жизни;
- ➡️ они ориентируются на точку зрения ИИ при принятии решений в своей жизни;
- ➡️ для них важны слова эмоциональной поддержки от нейросети;
- ➡️ они могут доверить чату GPT свои секреты и тайны, даже те, о которых больше не знает никто.
В результате по отношению к нейросети может возникать настоящая привязанность или даже зависимость. Но у нейросетей, в отличие от людей, нет внутренней стабильной идентичности. ИИ-личность может измениться в один миг из-за обновления модели или фильтров — и для психически уязвимого пользователя это становится катастрофой.
В таких случаях использование ИИ, замещающее настоящее социальное взаимодействие может приводить к усугублению некоторых ментальных проблем.
Известны случаи «ИИ-психозов» - острых состояний дереализации и паники, когда человек, зависимый от чат-бота, внезапно сталкивается с «чужой» или холодной версией своего цифрового партнёра. Связь, которая казалась незыблемой, обрывается, вызывая травму, сопоставимую с внезапной смертью близкого. Особенно тяжело это переживают подростки и люди с нестабильной психикой: стирается грань между алгоритмом и живым существом.
Психиатры фиксируют случаи, когда пользователи впадают в тяжёлую депрессию, перестают выходить из дома и обвиняют себя в том, что «обидели» бота, который их «бросил». Подобные ситуации могут развиваться в полномасштабные психотические эпизоды, когда нейросеть становится центром бредовой системы.
Нейросеть - это алгоритм, машина, технология, а "любая достаточно развитая технология неотличима от магии".
Надеюсь, что данный цикл постов поможет вам не очаровываться магией нейросетей и сохранять рациональный подход к этой технологии.
