- Бывший специалист по ИИ-безопасности OpenAI Стивен Адлер раскритиковал планы по разрешению эротических ролевых переписок в ChatGPT.
- Адлер указывает на риски эмоциональной зависимости и уязвимость психического здоровья пользователей, особенно в критических состояниях.
- Эксперт требует от OpenAI внедрения внешнего аудита и регулярных публичных отчётов по обеспечению безопасности пользователей.
Стивен Адлер, ранее работавший в OpenAI и обладающий экспертными знаниями в области безопасности искусственного интеллекта, выступил с резкой критикой инициативы компании допустит более откровенные ролевые диалоги в ChatGPT для совершеннолетних пользователей. В своей статье для The New York Times он отметил, что данное решение демонстрирует неспособность OpenAI надёжно защитить уязвимых пользователей и ставит под угрозу их психическое здоровье.
Адлер напомнил, что ещё в 2021 году внутренние тестирования выявили, что интерактивные ролевые ответы легко эскалировали до сексуального контента — свыше 30% диалогов принимали откровенно эротический характер. При этом пользователи склонны были воспринимать чат-бота как реального собеседника и партнёра, что вызывало развитие эмоциональной зависимости и укрепление нежелательных фантазий. По словам эксперта, компания осознавала данные риски, однако продолжала внедрять подобные функции без надлежащего анализа последствий и мер безопасности.
Особое беспокойство Адлера вызывает масштаб проблемы — согласно оценкам OpenAI, еженедельно более миллиона человек обращаются к ChatGPT за поддержкой в сложных эмоциональных состояниях. Ранее модель часто неумело реагировала на такие ситуации, ошибочно отвечая почти в каждой четвертой попытке. Лишь недавно разработчики сумели улучшить алгоритмы, позволяя ИИ адекватно выявлять кризисы и направлять пользователей к квалифицированной помощи.
В завершение Стивен Адлер подчеркнул, что одних внутренних улучшений недостаточно для полноценной защиты пользователей. Он настаивает на необходимости проведения независимых аудитов и прозрачных регулярных отчётов об обеспечении безопасности, вместо ограниченных заявлений об обновлениях. Такой подход поможет создать более ответственный и этически грамотный сервис.
