- Исследователи в области кибербезопасности обнаружили критическую уязвимость ShadowLeak в агенте Deep Research ChatGPT.
- Атака происходит на стороне сервера без взаимодействия пользователя и не оставляет следов в сетевых логах или на устройствах.
- Уязвимость была раскрыта OpenAI 18 июня и устранена 3 сентября 2024 года.
Эксперты по информационной безопасности компании Radware выявили серьёзную уязвимость под названием ShadowLeak в агенте глубокого исследования Deep Research, используемом в ChatGPT. Данная проблема позволяла злоумышленникам незаметно похищать данные пользователей прямо с серверов OpenAI без какого-либо взаимодействия с ними.
Особенностью атаки является её выполнение полностью на стороне сервера с нулевым кликом со стороны жертвы. Злоумышленнику достаточно отправить специально сформированное электронное письмо, которое агент Deep Research обрабатывает в фоновом режиме. В результате активируется вредоносный код, что инициирует утечку конфиденциальной информации.
ShadowLeak не оставляет никаких следов на устройствах пользователей или в сетевых логах, что делает обнаружение атаки практически невозможным. Эта уязвимость эксплуатирует логику самого ИИ-агента, работающего на облачных серверах OpenAI, обходя традиционные меры защиты и не затрагивая типичные уязвимости веб-приложений.
Radware отмечает, что это первая известная атака извлечения данных, реализованная исключительно на стороне сервера с участием автономного ИИ-агента. Важно подчеркнуть, что она не затрагивает пользовательские устройства и не оставляет сетевых подтверждений доступа к данным или их передачи за пределы серверов.
Сообщение об уязвимости было направлено OpenAI 18 июня текущего года, а уже 3 сентября компания успешно её устранила. Специалисты рекомендуют организациям тщательно оценивать риски, связанные с автономным поведением ИИ-агентов, и не полагаться исключительно на встроенные в платформы механизмы защиты.
Напомним, что весной 2025 года разработчик выпустил Open Deep Researcher — решение с открытым исходным кодом, реализующее функцию глубокого поиска по запросам пользователей с использованием языковой модели Claude 3.5 Haiku. Система продолжает искать информацию до тех пор, пока не достигнет оптимального результата.
