- OpenAI представила режим Lockdown Mode для ChatGPT, ограничивающий взаимодействие с внешними системами и предназначенный для защиты конфиденциальных данных.
- Введены метки «Повышенный риск» для функций ChatGPT, информирующие пользователей о потенциальных угрозах при использовании доступа к сети и другим функциям.
- Режим блокировки доступен для корпоративных и образовательных версий ChatGPT, а в ближайшие месяцы будет расширен для обычных пользователей.
Компания OpenAI анонсировала две новые функции безопасности для своего чат-бота ChatGPT — режим Lockdown Mode (режим блокировки) и метки Elevated Risk (метки повышенного риска). Эти меры направлены на минимизацию угроз, возникающих из-за так называемых атак с внедрением промптов — когда злоумышленники прячут вредоносные инструкции в веб-контенте или подключённых источниках данных. При обработке такого контента модель может быть обманута и выполнить нежелательные действия, что чревато утечкой данных или другими вредоносными последствиями.
Режим Lockdown Mode представляет собой усиленную защиту, которая ограничивает возможности ChatGPT взаимодействовать с внешними системами. Особое внимание уделяется блокированию сетевых запросов в реальном времени, таких как доступ к веб-страницам, которые в этом режиме предоставляются лишь через кэшированный контент без передачи данных за пределы инфраструктуры OpenAI. Эта функция ориентирована на руководителей крупных компаний, экспертов по безопасности и другие организации, подверженные кибератакам и работающие с конфиденциальной информацией.
Режим блокировки основан на уже существующих мерах защиты, включая управление доступом на основе ролей и ведение журналов аудита. Он интегрируется с платформой журналов API и доступен в вариантах ChatGPT для бизнеса, образования и здравоохранения. Администраторы могут настраивать права доступа, определяя, какие приложения и действия допускаются в условиях повышенной безопасности. В дальнейшем OpenAI планирует расширить доступ к этому режиму и для обычных пользователей.
Помимо Lockdown Mode, OpenAI внедряет систему маркировки функций ChatGPT, которые представляют повышенную опасность, используя специальную метку «Повышенный риск». Таким образом, пользователи будут заранее предупреждены о потенциале угроз и смогут лучше оценить целесообразность использования тех или иных возможностей, связанных с доступом к сети и другим ресурсам. Компания обещает снимать такие метки по мере улучшения механизмов защиты.
Отметим, что на фоне внедрения новых механизмов безопасности OpenAI несколько изменила формулировку своей миссии, убрав из неё слово «безопасность» (safety). Ранее миссия компании акцентировала создание ИИ, приносящего пользу человечеству безопасным образом, теперь же этот акцент ослабевает, что вызывает обеспокоенность у критиков, опасающихся снижения внимания к рискам развития искусственного интеллекта. В современных условиях, когда возможности ИИ быстро растут, внедрение таких защитных инструментов, как Lockdown Mode и метки повышенного риска, приобретает особую важность для предотвращения злоупотреблений и обеспечения безопасного применения технологий.
