- В Windows 11 в тестовом режиме доступна функция Copilot Actions с использованием искусственного интеллекта, требующая прав администратора.
- Microsoft предупреждает о возможных рисках безопасности, связанных с внедрением перекрёстных запросов (XPIA), которые могут привести к краже данных или установке вредоносного ПО.
- Функция Copilot имеет доступ к важным пользовательским папкам и может выдавать неожиданные результаты из-за потенциальных «галлюцинаций» ИИ, при этом Microsoft не дала чётких рекомендаций по предотвращению угроз.
Microsoft запустила в рамках тестовых сборок Windows 11 новую функцию Copilot Actions, которая интегрирует возможности искусственного интеллекта в операционную систему. Данная функция требует для настройки прав администратора и имеет доступ к личным папкам пользователя, таким как «Документы», «Загрузки», «Рабочий стол», «Изображения», «Видео» и «Музыка». Все действия Copilot Actions регистрируются с помощью журналов аудита, а пользователь должен одобрять запросы на доступ к своим данным.
Однако в Microsoft признали, что работа новой ИИ-функции связана с повышенными рисками безопасности. Особую тревогу вызывает возможность внедрения так называемых перекрёстных запросов (XPIA), когда вредоносный контент в документах или элементах интерфейса способен переопределять команды искусственного интеллекта. Такое поведение может стать причиной кражи персональных данных или установки вредоносного программного обеспечения на устройство пользователя.
При попытке активировать Copilot Actions пользователи видят предупреждение о том, что функция находится на стадии тестирования и может повлиять как на безопасность, так и на производительность системы. Microsoft рекомендует включать её только тем, кто понимает потенциальные последствия.
Кроме того, компания сообщает, что ИИ-модель может демонстрировать ограниченную надёжность, проявляя так называемые «галлюцинации» — то есть выдавать непредсказуемые или некорректные результаты. В документации Microsoft отмечает, что данные функциональные ограничения существуют и требуют внимательного подхода при использовании функций с искусственным интеллектом.
Ранее Microsoft анонсировала запуск Copilot — голосового помощника, способного выполнять действия на компьютере, понимая голосовые команды и сканируя экран пользователя. Для активации достаточно произнести кодовую фразу «Hey, Copilot». Основной целью компании является интеграция ИИ-технологий в массовые ПК под управлением Windows 11 без необходимости приобретать специализированное оборудование.
Тем не менее, пока Microsoft не предоставила конкретных рекомендаций по минимизации рисков эксплуатации уязвимостей, связанных с новой ИИ-функцией. Это ставит пользователей и администраторов в сложное положение, требуя от них повышенной осторожности при активации и использовании Copilot Actions.
