- Платформа искусственного интеллекта Hugging Face начала сотрудничество с облачным антивирусным сканером VirusTotal.
- Новая интеграция позволяет пользователям получать информацию о безопасности загружаемых моделей ИИ и наборов данных.
- VirusTotal использует технологии машинного обучения для выявления скрытых угроз, включая подмену файлов и заражение данных.
Платформа Hugging Face, известная своими открытыми решениями в области искусственного интеллекта, объявила о начале сотрудничества с антивирусным сервисом VirusTotal. Целью данного партнерства является усиление защиты пользователей от новых и развивающихся киберугроз, связанных с использованием моделей ИИ и сопутствующих артефактов.
Теперь при загрузке модели на Hugging Face пользователи смогут оперативно получать сведения о потенциальных рисках благодаря информации, предоставляемой различными антивирусными движками, объединёнными в сервисе VirusTotal. Такой подход позволяет выявлять небезопасные файлы и зависимости ещё до их загрузки и использования.
VirusTotal реализовал ряд специализированных инструментов на базе искусственного интеллекта для анализа поведения кода и файлов. Среди них — Code Insight, который применяется для интерпретации и объяснения функционала программ, а также форматы picklescan, safepickle и ModelScan, предназначенные для обнаружения опасных паттернов и проблем с десериализацией данных.
Данное партнёрство становится своевременным в условиях растущей сложности и масштабов угроз: недавно VirusTotal выявил фишинговую кампанию, замаскированную под файлы в формате SVG, имитирующие работу официальных порталов судебной системы Колумбии. Это стало возможным благодаря внедрению в платформу поддержки анализа новых форматов с применением методов машинного обучения.
В целом интеграция Hugging Face и VirusTotal представляет собой важный шаг в развитии комплексной защиты цифровых экосистем ИИ, позволяя заранее выявлять и предотвращать использование уязвимых или вредоносных ресурсов. Это повышает доверие к открытым технологиям и способствует снижению рисков кибербезопасности в сфере искусственного интеллекта.
