- Google запустила новую программу вознаграждений за обнаружение уязвимостей и мошеннических действий в продуктах с искусственным интеллектом с выплатами до $30 000.
- Основное внимание уделяется выявлению серьезных злоупотреблений, например, несанкционированному доступу и утечке данных через ИИ.
- За два года участники бета-программы уже получили более $430 000, а наряду с этим Google представила ИИ-инструмент CodeMender для автоматического исправления уязвимого кода.
Корпорация Google объявила о запуске специализированной программы вознаграждений, направленной на выявление уязвимостей и злоупотреблений в своих продуктах с искусственным интеллектом. Размер премий за обнаруженные ошибки в «флагманских» решениях компании — таких как поисковая система, приложения Gemini и основные сервисы Workspace (включая Gmail и Drive) — может достигать $20 000. Благодаря системе множителей за качественные и уникальные отчёты максимальная сумма выплаты возрастает до $30 000. Для менее критичных ошибок в других продуктах, например, в Jules или NotebookLM, установлены награды до $5 000.
Критерии включают выявление вредоносных действий, среди которых примеры — обманное внедрение запросов в ИИ, позволяющих несанкционированно разблокировать дверь через Google Home или собрать и передать личные данные пользователя злоумышленникам. Программа чётко выделяет баги, связанные с большими языковыми моделями и генеративным ИИ, направленные на причинение вреда, а также традиционные уязвимости безопасности.
Особое внимание уделяется сценариям, когда с помощью ИИ возможно изменение учётных записей или данных для обхода систем безопасности или исполнения нежелательных действий. В числе описанных кейсов — ранее выявленные уязвимости, позволяющие управлять умным домом через события в Google Календаре.
За два года участники предыдущих инициатив Google, связанных с безопасностью ИИ, получили вознаграждения на сумму свыше $430 000. При этом простое обнаружение ошибок, вызывающих галлюцинации в модели Gemini, не рассматривается как основание для выплаты; подобные проблемы рекомендуется сообщать через стандартные каналы обратной связи в продуктах компании. Это обеспечивает возможность для команд ИИ-безопасности проводить глубокий анализ моделей и внедрять долгосрочные меры по улучшению защиты.
Кроме того, вместе с программой вознаграждений Google представила интеллектуальный агент CodeMender — инструмент на базе ИИ, который автоматически исправляет уязвимости в программном коде. В ходе тестирования CodeMender успешно устранил 72 выявленные уязвимости в проектах с открытым исходным кодом после проверки работы исследователем-человеком.
Таким образом, Google укрепляет позиции в области информационной безопасности искусственного интеллекта, стимулируя внешних специалистов выявлять сложные проблемы и одновременно совершенствуя свои технологии автоматизированного обеспечения безопасности.
