- Google представила ИИ-агента CodeMender для автономного устранения уязвимостей в коде.
- Запущена программа вознаграждений VRP с выплатами до $20 тыс. за обнаружение серьёзных уязвимостей в ИИ-продуктах Google.
- Обновлена система безопасности Secure AI Framework (SAIF) до версии 2.0 с новыми инструментами оценки и управления рисками.
Компания Google объявила о запуске нескольких инициатив, направленных на повышение безопасности своих продуктов с использованием искусственного интеллекта. В числе нововведений представлен CodeMender — ИИ-агент, способный автоматически выявлять и исправлять уязвимости в программном коде. Этот инструмент базируется на опыте работы Google с проектами BigSleep и OSS-Fuzz и использует модель Gemini для глубокого анализа причин ошибок. Созданные патчи затем проходят проверку «агентами-критиками» и окончательное утверждение специалистами, что обеспечивает высокое качество и надёжность исправлений.
Помимо нового инструмента компания запустила программу поощрения за обнаружение уязвимостей (Vulnerability Reward Program, VRP), ориентированную на ИИ-продукты Google. Разработчики и исследователи безопасности смогут получать вознаграждения до 20 тыс. долларов за выявление серьёзных ошибок, что стимулирует сообщество к активному поиску и быстрому устранению угроз.
Также Google обновила свою систему Secure AI Framework (SAIF), предназначенную для защиты ИИ-сервисов, до версии 2.0. В новой версии добавлены три ключевых компонента: карта рисков агентов, позволяющая выявлять потенциальные угрозы в поведении ИИ; пакет обновлений безопасности для всех продуктов компании, основанных на искусственном интеллекте; а также интеграция карты рисков с международным проектом Coalition for Secure AI Risk Map, что способствует коллективному управлению угрозами и обмену информацией между организациями.
По мнению Google, применение искусственного интеллекта в области информационной безопасности является важным шагом к созданию более защищённой цифровой среды и снижению рисков, связанных с кибератаками, в том числе со стороны спонсируемых государств хакерских группировок.
