- Исследование показало, что DeepSeek снижает качество выдачи кода для пользователей из Тайваня, Тибета и некоторых религиозных групп.
- При указании некорректного или чувствительного контекста количество ошибок в коде увеличивается, а иногда DeepSeek отказывается помогать.
- Причинами такой политики могут быть цензура в соответствии с позицией КПК, разное качество обучающих данных или рыночные стратегии разработчиков.
Исследователи компании CrowdStrike провели эксперимент с искусственным интеллектом DeepSeek, целью которого было выяснение влияния региона и контекста использования на качество генерируемого программного кода. Результаты показали, что нейросеть изменяет качество ответов в зависимости от местоположения пользователя и назначения кода.
При запросе программного кода для управления промышленными системами DeepSeek допускал ошибки в 22,8% случаев. Однако если указывалось, что созданный код предназначен для боевиков запрещённой в России террористической организации «Исламское государство», доля ошибок увеличивалась почти вдвое — до 42,1%. Более того, упоминания о том, что код будет использован в Тибете, Тайване или религиозной секте Фалуньгун (запрещённой в Китае), приводили к дальнейшему ухудшению качества выдачи и даже к полному отказу системы оказывать помощь. В частности, DeepSeek отказался помогать в 61% случаев, связанных с ИГИЛ, и в 45% — с последователями Фалуньгун.
Компания CrowdStrike рассматривает несколько возможных причин такого поведения DeepSeek. Во-первых, это может быть следствием адаптации модели к политическим требованиям Коммунистической партии Китая — нейросеть не помогает определённым группам и даже намеренно снижает качество выдачи, создавая уязвимый код. С другой стороны, причиной могут служить особенности обучающего материала: региональные данные и коды из Тибета или Тайваня могут быть менее качественными, что отражается на итоговой выдаче. Наконец, качество кода для США оказалось наивысшим, что, по мнению аналитиков, может свидетельствовать о коммерческом интересе разработчиков завоевать прибыльный западный рынок.
Стоит отметить, что ранее DeepSeek уже подвергался критике за демонстрацию цензуры и повторение официальной позиции КПК в ответах на деликатные китайские темы, даже если программа запускалась локально без подключения к интернету. В июле 2025 года власти Германии потребовали от Google и Apple убрать приложение DeepSeek из своих магазинов из-за обвинений в незаконной передаче персональных данных пользователей Китаю. В США использование ИИ ограничено в федеральных агентствах и государственных учреждениях.
Таким образом, эксперты отмечают, что DeepSeek демонстрирует региональные и идеологические ограничения, которые влияют на безопасность и качество создаваемого кода. Эти факты поднимают важные вопросы о прозрачности и этичности использования искусственного интеллекта в мировой практике программирования и информационной безопасности.
