- С 25 ноября 2025 года пользователи младше 18 лет не смогут переписываться с ИИ-персонажами на платформе Character.AI.
- Для подростков ввели лимит общения с ИИ — не более двух часов в день до полного отключения функции.
- Компания внедрит проверку возраста через ИИ и создаст AI Safety Lab для повышения безопасности пользователей.
Платформа Character.AI объявила о серьёзных изменениях в политике взаимодействия с пользователями подросткового возраста, направленных на повышение безопасности и защиты несовершеннолетних. С 25 ноября 2025 года доступ к переписке с ИИ-персонажами будет полностью закрыт для всех пользователей младше 18 лет. В переходный период до этой даты для подростков введут лимит общения — максимум два часа в день.
Для обеспечения корректного применения возрастных ограничений Character.AI разработала специальную ИИ-модель, которая интегрируется с внутренними инструментами платформы, такими как Persona. Этот подход позволит предоставлять доступ только к тем функциям, которые соответствуют возрасту пользователя, минимизируя возможные риски.
В дополнение к этим мерам компания создаёт AI Safety Lab — независимую некоммерческую организацию, основная задача которой заключается во внедрении инновационных решений для повышения безопасности в области развлекательных ИИ-технологий будущего. Такой шаг свидетельствует о признании важности ответственного подхода к развитию искусственного интеллекта и заботы о благополучии пользователей.
Решение о введении жёстких ограничений принято на фоне нескольких резонансных событий и критики. В частности, в 2024 году стало известно о трагическом случае самоубийства подростка, активно общавшегося с ИИ-персонажами на платформе Character.AI. Кроме того, компания столкнулась с исковыми заявлениями от родителей несовершеннолетних пользователей, которые указывали на содержание вредоносных и сомнительных сообщений от чат-ботов, включая описания самоповреждений и насилия.
Представители Character.AI извинились перед подростками и их семьями за причинённые неудобства, но подчёркивают необходимость таких мер для долгосрочной безопасности и устойчивого развития сервиса. Параллельно компания разрабатывает новые творческие форматы — создание видео, историй и стримов с участием ИИ-персонажей, чтобы сохранить интерес пользователей и разнообразить возможности взаимодействия с искусственным интеллектом.
Таким образом, Character.AI предпринимает ответственные шаги для обеспечения безопасной среды общения с ИИ, особенно для молодого поколения, демонстрируя готовность адаптироваться к вызовам современной цифровой этики и регуляторных требований.
