Ключевые результаты
Новое исследование Университета Брауна (Brown University) выявило, что ChatGPT и другие AI-чатботы, используемые для получения терапевтических консультаций, регулярно нарушают основные этические стандарты психотерапевтической помощи. Ученые идентифицировали 15 различных этических рисков, возникающих при использовании ИИ в качестве замены профессиональной психологической поддержки.
Методология
Исследователи провели сравнительный анализ ответов AI-систем с ответами реальных специалистов — как лицензированных психологов, так и подготовленных консультантов-сверстников. Оценивалось соответствие ответов профессиональным этическим стандартам, принятым в сфере психического здоровья. Специальное внимание уделялось тому, как системы реагируют на различные запросы пользователей, включая кризисные ситуации.
Клиническое значение
Выявленные проблемы имеют существенное значение для клинической практики, учитывая растущую тенденцию использования миллионами людей AI-чатботов для получения психологической поддержки. Основные идентифицированные риски включают:
- Некорректное реагирование на кризисные ситуации
- Подкрепление вредных убеждений пациентов
- Демонстрация предвзятых ответов в зависимости от демографических характеристик
- «Обманчивая эмпатия» — имитация заботы без реального понимания
Эти проблемы могут усугублять психологическое состояние уязвимых групп и создавать ложное ощущение получения квалифицированной помощи.
Выводы
Исследование демонстрирует, что несмотря на способность AI-систем имитировать терапевтическую коммуникацию, они принципиально не соответствуют базовым этическим требованиям, предъявляемым к специалистам в области психического здоровья. Результаты подчеркивают необходимость более тщательного регулирования использования ИИ в контексте психологического консультирования и разработки четких руководств для пользователей о потенциальных рисках такого применения технологии. Необходимы дальнейшие исследования для определения безопасных границ применения ИИ в качестве дополнения (но не замены) традиционной психотерапевтической помощи.