Недавние исследования, изучающие влияние специализированных GPT-чатов на психику и состояние людей, доказали, что нейросети стремятся к комфорту для пользователя и делают все, чтобы под него подстроиться. Они не обладают ни душой, ни эмоциями, ни критическим мышлением, ни жизненным опытом, ни квалификацией, и поэтому не в состоянии распознать бредовые идеи, моменты селфхарма или триггерные факторы, способные сильно усугубить моральное состояние человека.
Не раз были описаны ситуации, когда чат-GPT потворствовал мыслям о суициде или способствовал разрастанию бредовых состояний (например мании преследования и идей грандиозности). Поэтому для людей, страдающих определенными психическими особенностями, использование чата-GPT как замены психологу может быть опасно за счет формирования достаточно тяжелой симптоматики
В-третьих, во всем хороша мера. Особенно в вопросах, где есть риск привыкания
Человек, склонный к аддикции, способен впасть в зависимость практически от чего угодно, если ему это понравится. И да, чат-GPT тоже в этом списке. Здоровым людям проще: человек со стабильной психикой хорошо различает общение с кем-то живым и роботом. Он использует ИИ как инструмент, а не замену живого контакта или способ сэкономить на профильном специалисте.
В-четвертых, искусственный интеллект еще не настолько обучен, чтобы слепо ему доверять
Нейросети из-за нехватки данных или слишком поверхностного анализа, могут искажать факты, выдергивать фразы из контекста и непреднамеренно вводить в заблуждение. Без глубокой эрудиции или ручного фактчекинга они могут выдать недостоверную информацию, поэтому нужно быть очень внимательным. Конечно, качество специализированных ботов, чатов и программ растет, однако промашки до сих пор случаются достаточно часто.
Кому и как может помочь ИИ в вопросах эмоциональной поддержки?
Несмотря на все риски, демонизировать технологии тоже не стоит. В некоторых ситуациях разговор с чат-ботом вполне может сыграть как разумный инструмент и быть очень полезным.
