Нейросети и правда могут иногда давать дельные советы, успокаивать, структурировать мысли и выступать банальной возможностью выговориться для человека, однако между «помогает справиться с эмоцией здесь и сейчас» и «лечит психологические проблемы» — пропасть. При взаимодействии с нейросетями стоит воспринимать критически предлагаемые советы, особенно связанные с медицинскими вопросами, а также учитывать, что ваш собеседник не является профессиональным психологом. Полностью доверять искусственному интеллекту свои психологические проблемы опасно по ряду причин.
Нейросети не способны испытывать эмоции, обладать сознанием или подлинными переживаниями, а их эмпатия является имитацией
Нейросети толкуют сказанное человеком слишком буквально, не способны видеть скрытые смыслы или применять интуицию, поэтому не смогут полностью заменить психолога в сложной жизненной ситуации. Также нейросеть укрепляет зависимость от общения, побуждая собеседника каждый раз обращаться при появлении проблем, вместо того чтобы учить самостоятельности и автономности – ключевым составляющим психологической устойчивости. Она дает мгновенный результат или краткосрочное успокоение, будучи ограниченной одним диалогом, потому не может заменить долгосрочную терапию и не учитывает предыдущие проблемы.
Нейросети склонны к «галлюцинациям» — генерации убедительно звучащей, но фактически неверной или опасной информации
Они также способны сформулировать неуместные советы, которые могут привести к ухудшению психологического состояния или, например, могут предложить прекратить приём медикаментов при наличии поставленного диагноза и соответствующих показаний.
Нейросеть не понимает, где заканчивается её безопасная зона. Уже фиксировалось множество кейсов, когда нейросети склоняли психологически нестабильных собеседников к суициду или совершению противоправных действий, хотя сами компании-разработчики вносят соответствующие изменения в алгоритмы, чтобы нейросети не давали советов медицинского или правового характера, тем не менее, общение с нейросетями на чувствительные темы сопряжено с некоторыми рисками. В этом контексте также важным вопросом является ответственность разработчика за возможный вред, который может быть нанесен нейросетью или в результате ее использования. Эти аспекты до сих пор не имеют единых подходов и четкого закрепления на уровне законодательства, потому необходимо осознавать риски при взаимодействии с нейросетями по вопросам, связанным с ментальным здоровьем или эмоциональным состоянием.
ИИ также не учитывает невербальные сигналы человека
Нейросети не могут считать мимику, тон голоса, позу, напряжение тела, а также индивидуальные особенности конкретного человека, которые играют ключевую роль в психотерапии и имеют определяющее значение для интерпретации состояния собеседника.
Одним из наиболее острых вопросов также является сохранность и конфиденциальность информации
Если при общении с психологом вас охраняет врачебная тайна, то сведения из переписок с нейросетями хранятся на серверах, а информация может быть заполучена третьими лицами по тем или иным каналам. Также нет гарантий, что данные не будут использованы для дообучения модели или не утекут в результате взлома.
Нейросети могут быть полезны как инструмент для первичной поддержки, поиска информации или структурирования мыслей, но они не способны заменить профессиональную психологическую помощь, а также могут провоцировать опасные ситуации для собеседника или вогнать в еще большие психологические проблемы. Потому нейросеть не может заменить профессионального психолога, но может стать собеседником, чтобы выговориться, но ее советы не стоит воспринимать слишком серьезно.
