- OpenAI перенесла запуск «режима для взрослых» в ChatGPT из-за критики и технических проблем.
- Консультативный совет выразил опасения, что функция может вызвать эмоциональную зависимость и допустить доступ несовершеннолетних к эротическому контенту.
- Новая система определения возраста ошибочно классифицировала 12% несовершеннолетних как взрослых, что представляло риск для безопасности пользователей.
OpenAI отложила внедрение «режима для взрослых» в ChatGPT, который был анонсирован в 2025 году и предполагал возможность взрослых пользователей обсуждать с ИИ темы эротического характера. Изначально запуск планировался на декабрь 2025 года, затем перенесён на первый квартал 2026-го, а теперь его запуск откладывается снова. Такое решение связано с критикой со стороны консультативного совета экспертов по вопросам благополучия пользователей и искусственного интеллекта, а также с техническими сложностями.
Эксперты, консультировавшие OpenAI, выразили серьезные опасения, что новый режим может привести к развитию нездоровой эмоциональной зависимости пользователей от ChatGPT. Один из членов совета отметил, что тесная эмоциональная связь с ИИ уже в некоторых случаях вела пользователей к суициду, предположив, что функция может превратиться в своего рода «сексуального коуча по суицидам». Также было отмечено опасение, что несовершеннолетние смогут получить доступ к эротическому контенту, что абсолютно недопустимо.
Помимо этических вопросов, технические испытания выявили существенные проблемы с системой определения возраста: около 12% несовершеннолетних пользователей ошибочно классифицировались как взрослые. Это означало бы потенциальное попадание миллионам детей доступа к эротическим чатам. Дополнительно разработчики столкнулись с трудностью ограничения контента — необходимо было одновременно ослабить запреты на темы эротики и сохранять жёсткий контроль над вопросами насилия над детьми и другими табуированными темами.
Представитель OpenAI сообщил, что в дальнейшем компания планирует запускать только переписки в «режиме для взрослых», при этом разработчики введут новые инструменты модерации и правила, направленные на предотвращение формирования «эксклюзивных эмоциональных отношений» между ИИ и пользователями.
Стоит отметить, что в феврале OpenAI анонсировала новые функции безопасности для ChatGPT: режим блокировки (Lockdown Mode) и метки повышенного риска (Elevated Risk labels). Эти меры направлены на борьбу с вредоносными промптоми и информирование пользователей о возможных рисках. Lockdown Mode предназначен для ограниченного круга пользователей и обеспечивает повышенную защиту, а метки повышенного риска призваны повысить осведомлённость пользователей о возможных изменениях и потенциальных угрозах при включении новых функций и доступа к интернету.
Таким образом, OpenAI демонстрирует ответственное отношение к разработке и внедрению новых возможностей ChatGPT, учитывая как технические, так и этические аспекты, чтобы минимизировать потенциальные риски для пользователей всех возрастов.
