AI-ускорители
Предварительная версия. Здесь мы начинаем собирать AI-ускорители, NPU IP и AI SoC из экосистемы RISC-V, а также закладываем поля и методику оценки для будущей «матрицы зрелости совместимости моделей, операторов и версий ПО».
Сейчас данные охватывают только публично доступные характеристики оборудования и сведения об инструментарии; для позиций без публичных бенчмарков оценки не придумываются. Несколько AI SoC на архитектуре ARM оставлены для сравнения и явно отмечены в поле «архитектура» и в фильтрах. Будем рады результатам измерений в issue.
| Продукт / производитель | Тип / страна | Производительность | Точность | Фреймворки | SDK / инструментарий | Зрелость | Чипы-представители |
|---|
Подходящих записей нет
Попробуйте ослабить условия по производительности или фреймворкам.
Далее: зрелость совместимости моделей и версий ПО
Аппаратная производительность — только начало. Реальный срок проекта определяют «запустится ли модель на вашей версии инструментария, насколько упадёт точность после квантования и полностью ли покрыты операторы». В будущем каждая запись AI будет дополнена матрицей ниже.
Производительность и точность
Пиковые INT8 / INT4 / FP16, пропускная способность памяти, потребление и энергоэффективность, корпус и интерфейсы.
Версии инструментария
Комбинации версий SDK, компилятора, инструментов квантования, драйверов и Runtime, шаги установки и воспроизведения.
Модели и операторы
Экспорт ONNX / TFLite / PyTorch, покрытие операторов, динамические shape, регрессия точности после квантования.