- Президент Signal Foundation Мередит Уиттакер считает AI-агентов с доступом к ОС экзистенциальной угрозой защищённым приложениям и шифрованию.
- Microsoft планирует интегрировать AI-агентов в Windows 11 с функцией Ask Copilot, что даёт агентам полный доступ к файлам, приложениям и данным пользователя.
- Уиттакер призывает ввести механизмы opt-out и формальную верификацию AI-агентов для защиты приватности и безопасности пользователей.
Издание WIRED включило AI-агентов с полным доступом к операционной системе в число ключевых технологических трендов 2025 года. Ранее основные риски в области приватности связывались с массовым сбором данных из публичных источников для обучения нейросетей. Теперь же компании всё активнее нацеливаются на персональные данные пользователей, что вызывает серьёзные опасения, особенно у защищённых сервисов обмена сообщениями.
Мередит Уиттакер, президент Signal Foundation, в интервью изданию Fortune на конференции Slush в Хельсинки выразила обеспокоенность новым подходом к интеграции AI-агентов на уровне операционной системы. В частности, она подчеркнула, что инструменты, как Ask Copilot в Windows 11 от Microsoft, предоставляющие агентам доступ к файлам, приложениям и данным, существенно подрывают эффективность шифрования, используемого в приложениях вроде Signal. По её словам, такой уровень доступа становится потенциальным вектором атаки и обнуляет фундаментальный смысл существования защищённых мессенджеров.
Новая архитектура AI-агентов основывается на открытом протоколе Model Context Protocol, позволяющем им обнаруживать инструменты и взаимодействовать через защищённый реестр. Несмотря на технологический прогресс, Уиттакер считает, что данный процесс внедрения происходит без должного внимания к основам кибербезопасности и приватности, что крайне рискованно.
Кроме угрозы для шифрованных мессенджеров, проблема затрагивает и другие сервисы: AI-агенты, составляя плейлисты или бронируя рестораны, получают доступ к персональным данным, включая рекомендательные алгоритмы, платежные системы и контакты. При этом третьи лица, чьи данные становятся доступны через контакты пользователя, не дают согласия на такую обработку. Существуют и риски проведения атак, основанных на внедрении вредоносных инструкций через prompt injection, которые могут заставить агента выполнять нежелательные действия.
В ответ на эти вызовы Мередит Уиттакер настаивает на разработке и внедрении возможности opt-out — инструмента, позволяющего разработчикам ограничивать доступ AI-агентов к своим приложениям. Кроме того, она требует внедрения формальной верификации компонентов агентных систем перед их использованием в критически важных областях, включая государственную и военную инфраструктуру.
Таким образом, высказанные экспертные оценки привлекают внимание к проблемам приватности и безопасности, возникающим на фоне стремительной интеграции AI-агентов в операционные системы. Это требует сбалансированного подхода, учитывающего современные технологические возможности и фундаментальные принципы защиты пользовательских данных.
