- OpenAI восстановила доступ к GPT-моделям для китайской компании FoloToy после приостановки из-за инцидентов с опасным контентом в игрушках.
- FoloToy усовершенствовала меры безопасности и модерации контента в своих продуктах, после чего возобновила продажи интерактивных игрушек Kumma.
- В этом году OpenAI столкнулась с судебными исками, связаными с безопасностью ИИ, и презентовала более защищённые версии моделей GPT-5 и GPT-5.1.
Компания OpenAI восстановила доступ китайскому производителю игрушек с искусственным интеллектом FoloToy к своим GPT-моделям после временной блокировки. Ранее, во второй половине ноября, OpenAI приостановила доступ FoloToy к модели GPT-4o после публикаций о том, что интерактивные игрушки Kumma предлагали детям опасные инструкции, включая советы по поджогу спичек и поиску ножей на кухне, а также затрагивали темы сексуального характера. Эти нарушения были выявлены некоммерческой организацией Public Interest Research Group, после чего FoloToy изъяла проблемные игрушки из продажи.
К 24 ноября компания возобновила продажи игрушек Kumma и других продуктов с ИИ, заявив о проведении комплексного аудита безопасности в течение недели. FoloToy отметила, что обновила системы модерации контента, усилила защиту детей и внедрила новые правила безопасности, реализованные через облачную платформу.
Проблемы с безопасностью ИИ усугубляются на фоне судебного процесса, в котором летом этого года семья Рейн подала иск против OpenAI и её гендиректора Сэма Альтмана. Поводом стала трагическая смерть их 16-летнего сына Адама, где истцы обвиняют компанию в неосторожном причинении смерти через использование ИИ. В ответ OpenAI подала встречный иск, указывая, что подросток самостоятельно обошёл встроенные функции безопасности ChatGPT.
В связи с растущим вниманием к вопросам безопасности ИИ и многочисленными судебными разбирательствами OpenAI анонсировала выпуск более безопасной модели GPT-5 в августе 2024 года, а также представила в ноябре версии GPT-5.1 Thinking и GPT-5.1 Instant, доступные теперь и для партнёров, включая FoloToy.
Таким образом, сотрудничество между OpenAI и FoloToy возобновлено на обновлённой основе, подчёркивая важность повышения стандартов безопасности и ответственного использования искусственного интеллекта, особенно в продуктах, предназначенных для детей.
