- OpenAI приобрела Promptfoo — платформу для автоматического тестирования безопасности ИИ-приложений.
- Promptfoo используется более чем 25% компаний из списка Fortune 500 и предлагает инструменты для выявления уязвимостей в ИИ, таких как инъекции промптов и утечки данных.
- Технологии Promptfoo будут интегрированы в корпоративную платформу OpenAI Frontier для улучшения безопасности и автоматизации перед запуском ИИ-агентов.
Компания OpenAI объявила о покупке стартапа Promptfoo, специализирующегося на тестировании и обеспечении безопасности приложений с искусственным интеллектом. Этот шаг направлен на усиление ее корпоративной платформы Frontier, выпущенной месяц назад и предназначенной для создания и управления ИИ-агентами. Promptfoo завоевал популярность среди крупного бизнеса — более 25% компаний из рейтинга Fortune 500 уже используют его решения для выявления и предотвращения уязвимостей в ИИ-системах.
Основная специализация Promptfoo — red-teaming и пентестинг ИИ-приложений. Платформа автоматически сканирует ИИ-модели и приложения на наличие таких проблем, как инъекции промптов, обходы ограничений (джейлбрейки), утечки конфиденциальных данных и злоупотребления возможностями инструментов. Стартап был основан Иэном Вебстером и Майклом Д’Анджело, ранее приложившими усилия к масштабированию ИИ в Discord до 200 миллионов пользователей. Открытый CLI-инструмент Promptfoo популярный среди более чем 125 тысяч разработчиков, а коммерческую платформу разворачивают свыше 30 крупных компаний из Fortune 500. Стартап к настоящему моменту привлек финансирование в объёме $23,4 млн в двух раундах.
После объединения с OpenAI технологии Promptfoo будут встроены в платформу Frontier, что позволит автоматизировать безопасность в процессе создания и эксплуатации ИИ-агентов. Среди новых возможностей – автоматическое тестирование агентов перед их запуском, интеграция процедур безопасности в цикл разработки и расширенная отчётность, необходимая для аудита и соответствия нормативным требованиям. При этом разработчики Promptfoo и OpenAI планируют продолжать развитие открытого исходного кода отдельно от корпоративной платформы.
Для OpenAI данный сервис стал логичным и важным дополнением, способным устранить ключевые барьеры на пути внедрения генеративного ИИ в корпоративном секторе. Платформа Frontier за первый месяц после запуска уже установила партнёрства с такими компаниями, как Accenture, McKinsey и Capgemini, а лидеры рынка — Uber, State Farm и Intuit — начали тестировать возможности ИИ-агентов в своих бизнес-процессах. Однако конкуренция в области корпоративных ИИ-решений растёт: Anthropic активно продвигает свои продукты Claude Code и Cowork, а Google усиливает позиции с помощью бизнеса и платформы Gemini.
Таким образом, покупка Promptfoo — стратегический шаг OpenAI для повышения безопасности и надёжности своих корпоративных технологий, что особенно актуально на фоне роста запросов на проверенные и регулируемые ИИ-приложения.
