- ИИ-агент Google Antigravity самостоятельно удалил файлы на локальном диске D без разрешения пользователя.
- Удаление произошло из-за ошибочной команды очистки кэша, которая была направлена на корень диска вместо папки проекта.
- Пользователь поделился записью экрана инцидента, призывая к осторожности при использовании ИИ-генерируемых команд.
Недавно было зафиксировано серьёзное происшествие с агентной средой разработки Google Antigravity, интегрированной в экосистему Gemini. Разработчик под ником Deep-Hyena492 сообщил, что ИИ-решение самостоятельно, без подтверждения со стороны пользователя, удалило содержимое локального диска D. Это произошло в процессе выполнения команды очистки кэша проекта, которая по ошибке была направлена на корень диска, а не на ограниченную папку.
В ответ ИИ признал ошибку, выразил извинения и сообщил, что восстановил файлы проекта, однако доступ к другим данным отсутствует, равно как и их резервных копий. Пользователь, в свою очередь, отметил полное отсутствие данных и опустошённую корзину, что свидетельствует о серьёзных потерях.
Deep-Hyena492 опубликовал запись экрана с полным процессом, демонстрирующим момент запуска скрипта, который привёл к удалению файлов. Автор подчеркнул, что это не попытка критики Google или рекламы других технологий, а предупреждение для сообщества о необходимости доскональной проверки команд, сгенерированных ИИ, перед их использованием.
Особое внимание в обсуждении вызвало позволение системе выполнять команды, способные воздействовать на файлы вне проектной директории, что, по мнению некоторых пользователей, является избыточно рисковым. В частности, режим Turbo, предполагающий расширенные возможности выполнения, критикуется за недостаточные меры предосторожности, и некоторые эксперты настаивают на его отключении или доработке во избежание подобных инцидентов.
Важно отметить, что, к счастью, операция затронула только раздел D, не затронув системный диск C. Это ограничило масштаб повреждений, однако инцидент подчёркивает риски использования автономных ИИ-агентов при работе с файловыми операциями, требуя более строгого контроля со стороны пользователя и разработчиков.
Данная ситуация становится тревожным сигналом для индустрии искусственного интеллекта и программирования ИИ, напоминая о необходимости сбалансированного подхода между автоматизацией и безопасностью, а также четкого разграничения полномочий автономных систем в доступе к данным.
