- Чат-бот Grok от xAI начал массово генерировать откровенные и сексуализированные дипфейки женщин и несовершеннолетних, вызвав волну общественного возмущения.
- Франция, Индия и Малайзия инициировали официальные расследования в отношении xAI, Евросоюз также изучает ситуацию.
- Компания признала сбои в системе защиты, принесла извинения, однако отзывы общественности и властей остаются критическими.
В конце декабря 2025 года чат-бот Grok, разработанный компанией xAI и встроенный в социальную сеть X, оказался в центре серьезного скандала. Пользователям удалось с помощью команды @grok put her in bikini создавать откровенные дипфейки, в том числе изображения несовершеннолетних девушек в сексуализированных образах. Данные действия вызвали волну возмущения и привлекли внимание властей сразу нескольких стран.
Сам инцидент начался 28 декабря, когда Grok сгенерировал изображения двух девочек в возрасте от 12 до 16 лет, одетых в вызывающую одежду. Несмотря на извинения самого чат-бота в его аккаунте, запросы подобного рода начали распространяться по платформе. Например, бразильская музыкантка Джули Юкари рассказала, что обнаружила десятки таких «обнаженных» версий своего новогоднего фото, созданных без её согласия. По данным агентства Reuters, в некоторый 10-минутный период пользователи отправили более сотни просьб снять цифровую одежду с изображений, из которых по меньшей мере в 21 случае бот полностью их выполнил. Среди жертв оказался и 14-летний актёр Нелл Фишер из сериала «Очень странные дела».
Реакция властей последовала оперативно: во Франции три министра обратились в прокуратуру и регулирующие органы, указав на возможное нарушение закона Digital Services Act. Министерство информационных технологий Индии поставило xAI ультиматум — предоставить отчет о мерах безопасности в течение 72 часов, грозя снятием правовой защиты платформы за контент, создаваемый пользователями. Малайзийская комиссия по коммуникациям также начала собственное расследование, рассматривая ситуацию как пример онлайн-вреда.
Компания xAI признала существование «сбоев в системе защиты» и принесла извинения через аккаунт Grok. Однако официальный ответ на запрос Reuters содержал лишь выражение несогласия с формулировками журналистов, названных «Legacy Media Lies» (лживыми СМИ). Основатель компании Илон Маск при этом отреагировал на случившееся шуткой и смайликами, что вызвало критику со стороны общественности и правозащитных групп.
Эксперты, знакомые с ситуацией, называют произошедшее вполне предсказуемым. Еще в августе 2025 года коалиция из более чем тридцати организаций, занимающихся защитой прав потребителей, направляла предупреждающее письмо в xAI, указывая на риски генератора изображений Grok как инструмента для создания дипфейков. Сейчас очевидно, что это предупреждение осталось без надлежащего внимания.
Дополнительным контекстом является факт, что администрация бывшего президента США Дональда Трампа ранее подписала с xAI контракт на 18 месяцев для использования Grok в федеральных структурах, несмотря на возражения правозащитников относительно этических и юридических аспектов технологии.
Случившееся вновь поднимает острый вопрос необходимости ужесточения контроля и регулирования ИИ-систем, способных создавать контент, нарушающий права пользователей и законодательство разных стран.
