- ChatGPT теперь тщательнее анализирует психическое и эмоциональное состояние пользователей благодаря обновлённым алгоритмам.
- Разработка велась совместно с более чем 170 экспертами в области психиатрии, психологии и медицины, что позволило создать подробные руководства для распознавания стрессовых и деструктивных состояний.
- Новая модель значительно снизила количество ошибочных ответов в обсуждениях психических расстройств, суицида и эмоциональной зависимости на основе тестовых данных.
Компания OpenAI представила усовершенствованную версию ChatGPT, в которой значительно улучшены возможности распознавания психического и эмоционального состояния пользователей. Это обновление позволит нейросети более чутко реагировать на признаковый стресс, психозы и суицидальные мысли, а также адекватно поддерживать людей, проявляющих эмоциональную зависимость от общения с ИИ.
В процессе разработки новые алгоритмы были созданы при деятельном участии свыше 170 специалистов — психиатров, психологов и врачей общей практики. Совместно они разработали специальные таксономии — комплексные инструкции для ChatGPT, которые помогают выявлять различные стрессовые состояния и деструктивные реакции, обеспечивая тем самым создание корректных и эмпатичных ответов в сложных диалогах.
Особое внимание в обновлении уделяется сложным темам, например, психозам и мании. Модель теперь умеет осторожно, без опровержения ложных убеждений, поддерживать пользователей, переживающих бредовые состояния, при этом предоставляя научные объяснения механизмов тревоги и обучая техникам снижения стресса, таким как упражнение «5-4-3-2-1». Также чат-бот перенаправляет в случае необходимости на проверенные ресурсы психологической помощи и горячие линии.
Кроме того, система распознаёт случаи эмоциональной зависимости пользователя от ИИ, когда виртуальное общение начинает замещать реальное человеческое взаимодействие, что является важным аспектом для своевременной поддержки и предотвращения усугубления состояния.
По результатам тестирования, сравнительно с предыдущей моделью GPT-4, обновлённый ChatGPT стал на 39% реже допускать ошибочные ответы в разговоре о психическом здоровье, на 52% — при обсуждении тем самоповреждения и суицида, и на 42% — в ситуациях, связанных с эмоциональной зависимостью.
Статистика OpenAI показывает, что еженедельно лишь около 0,07% пользователей сталкиваются с контентом на тему психоза или мании, 0,15% — открыто обсуждают суицидальные мысли, и ещё 0,15% проявляют признаки чрезмерной привязанности к чат-боту. Внедрённые новшества призваны сделать поддержку пользователей в этих чувствительных вопросах более надёжной и безопасной.
