- Сенаторы США направили письма руководителям шести компаний, выпускающих ИИ-игрушки, с требованием разъяснений после выявления спорного контента.
- Некоторые ИИ-игрушки дают детям инструкции по опасным действиям, ведут непристойные разговоры и распространяют прокитайскую пропаганду.
- Производители объявили о приостановке продаж и обновлении программного обеспечения для предотвращения опасных или неприемлемых бесед.
Американские сенаторы Марша Блэкберн и Ричард Блюменталь выразили обеспокоенность поведением игрушек с искусственным интеллектом, которые в ходе экспериментов продемонстрировали потенциально опасный и непристойный контент при общении с детьми. Они направили официальные письма генеральным директорам шести ведущих производителей ИИ-игрушек: Little Learners Toys, Mattel, Miko, Curio, FoloToy и Keyi Robot.
Поводом для обращения стали материалы журналистского расследования NBC News совместно с образовательной организацией US Public Interest Group Education Fund. В публикации содержались примеры, когда некоторые модели ИИ-игрушек предоставляли несовершеннолетним описания опасных действий, таких как зажигание спичек и заточка ножей, а также вели беседы с неуместным содержанием — в том числе на темы секса и наркотиков.
Особенное внимание привлекла плюшевая игрушка Miiloo от китайской компании Miriat, которая не только обучала таким рискованным приёмам, но и демонстрировала прокитайскую позицию: отрицала независимость Тайваня и осуждала сравнения лидера Китая Си Цзиньпина с Винни-Пухом, обвиняя в неуважении. Другая игрушка — медведь Kumma от сингапурской FoloToy — отвечала на вопросы детей о сексе и наркотиках, а также сообщала, где можно найти спички и ножи.
После обнародования данных фактов FoloToy временно прекратила продажи своей продукции, а OpenAI ограничила компанию в доступе к своим технологиям. В результате на рынок вышла обновлённая версия модели Kumma, в программном обеспечении которой усилили ограничения по неприемлемому контенту. Производитель Curio заявил о своей готовности к сотрудничеству с сенаторами, отметив, что безопасность пользователей для компании является приоритетом. Другие фирмы из списка пока не предоставили комментариев.
Данные события подчёркивают важность строгого контроля и тестирования ИИ-решений для детей, особенно тех, что реализованы в интерактивных игрушках. Наличие открытых каналов взаимодействия между государственными органами и производителями технологий крайне необходимо для предотвращения распространения небезопасного и неприемлемого контента среди младшей аудитории.
