- Raspberry Pi представила обновлённую плату AI HAT+ 2 для локального запуска генеративных моделей ИИ.
- Модуль основан на ускорителе Hailo-10H с производительностью 40 TOPS и оснащён 8 ГБ оперативной памяти для инференса моделей.
- Плата поддерживает уменьшенные версии DeepSeek, Qwen и LLaMA с параметрами до 1,5 млрд и позволяет запускать пользовательские ИИ-модели.
Компания Raspberry Pi выпустила обновлённый модуль AI HAT+ 2, предназначенный для запуска генеративных моделей искусственного интеллекта непосредственно на устройствах Raspberry Pi. Новинка стала логичным продолжением оригинальной платы AI HAT+, которая год назад была анонсирована с целью ускорения задач распознавания объектов и работы с компактными моделями vision. Однако первоначальная версия имела ограниченные возможности для генеративных моделей, что и привело к созданию новой версии.
AI HAT+ 2 базируется на новейшем ИИ-ускорителе Hailo-10H, обеспечивающем производительность в 40 триллионов операций в секунду (40 TOPS). Кроме того, модуль получил 8 ГБ встроенной оперативной памяти, что значительно расширяет возможности инференса, позволяя более эффективно обрабатывать модели искусственного интеллекта. Благодаря этому устройство способно работать с крупными языковыми моделями (LLM), визуальными языковыми моделями (VLM) и другими генеративными приложениями, что особенно востребовано в современных задачах машинного обучения.
На старте поддержки доступны уменьшенные и адаптированные версии таких моделей, как DeepSeek-R1-Distill, Qwen2.5 (Coder и Instruct версии), Qwen2 и Llama3.2. Все эти модели имеют масштаб до 1,5 миллиарда параметров, что оптимально для работы на локальном железе. В дальнейшем ожидается появление новых уменьшенных моделей, а также поддержка более крупных ресурсов. Уникальной особенностью AI HAT+ 2 является возможность запуска пользовательских моделей, обученных под конкретные задачи, что расширяет спектр применения платформы.
Стоимость модуля в официальном магазине Raspberry Pi составляет около 130 долларов США. Для разработчиков доступны ресурсы в репозитории Hailo на GitHub, где можно найти примеры, демо-версии и фреймворки для создания приложений. Дополнительная документация и программное обеспечение размещены в специализированном разделе для разработчиков, что способствует быстрой интеграции и адаптации решения под нужды пользователей.
Таким образом, Raspberry Pi AI HAT+ 2 существенно расширяет возможности одноплатных компьютеров серии Raspberry Pi в области искусственного интеллекта, делая локальный запуск и обработку генеративных моделей более доступными, эффективными и гибкими. Это важный шаг в сторону автономности вычислительных систем и снижения зависимости от облачных сервисов, что особенно актуально для разработчиков и энтузиастов, работающих с машинным обучением и ИИ-приложениями.
