Hugging Face приобрела команду llama.cpp, софт останется открытым Обложка: Skyread

Hugging Face приобрела команду llama.cpp, софт останется открытым

Новости
Главное:

  • Компания Hugging Face приобрела команду GGML, разработчиков движка llama.cpp для локального запуска больших языковых моделей.
  • Проект останется с открытым исходным кодом, команда сохранит автономию и продолжит развивать софт, получив доступ к дополнительным ресурсам.
  • Планируется интеграция llama.cpp с библиотекой Transformers и улучшение удобства использования для широкого круга пользователей.

Компания Hugging Face объявила о покупке команды GGML, которая стоит за разработкой llama.cpp — эффективного движка, позволяющего запускать большие языковые модели локально. GGML — это небольшая команда из трёх человек во главе с Георгием Гергановым, которая с 2021 года получает помощь от специалистов Hugging Face, что способствовало внедрению таких важных функций, как поддержка мультимодальности и совместимости с форматом GGUF.

По словам Герганова, сделка с Hugging Face стала формализацией уже сложившегося сотрудничества, и для команды ничего принципиально не изменится. Разработчики сохранят автономность и продолжат полностью посвящать себя развитию llama.cpp. Важным моментом является сохранение открытости проекта: сторонние разработчики по-прежнему смогут вносить свои улучшения в код.

Технически планируется углубленная интеграция движка с библиотекой Transformers, разработанной Hugging Face, а также работа над улучшением пользовательского опыта. Цель команд — сделать локальный запуск языковых моделей доступным не только для инженеров и исследователей, но и для конечных пользователей, расширяя доступность технологий искусственного интеллекта.

Сообщество в основном восприняло эту новость положительно, отмечая перспективы развития и увеличения ресурсов. Вместе с тем некоторые участники выразили обеспокоенность тем, что после покупки GGML стала частью американской компании, что потенциально может наложить ограничения, связанные с законодательством США и требованиями правительства.

В целом, приобретение GGML Hugging Face рассматривается как важный шаг в развитии экосистемы больших языковых моделей с открытым кодом, способствующий более широкому внедрению инновационных решений в сфере искусственного интеллекта.

Tagged