search

radxa-edge / TPU-Edge-AI

AI Example for BM1684X TPU
Other
6 stars 0 forks source link

readme

简体中文 | English

Radxa Model-Zoo 介绍

简介

Radxa Model-Zoo 基于 Sophon demo 进行二次开发，由Radxa独立管理，Radxa Model-Zoo 提供一系列主流算法的移植例程与预编译好的TPU平台模型下载。包括基于TPU-NNTC和TPU-MLIR的模型编译与量化，基于BMRuntime的推理引擎移植，以及基于BMCV/OpenCV的前后处理算法移植。

Radxa Model--Zoo 利用 SophonSDK 接口进行开发，SophonSDK是算能科技基于其自主研发的深度学习处理器所定制的深度学习SDK，涵盖了神经网络推理阶段所需的模型优化、高效运行时支持等能力，为深度学习应用开发和部署提供易用、高效的全栈式解决方案。目前可兼容BM1684X。

目录结构与说明

目录 算法类别 编程语言 BModel 支持多batch 预处理库
LPRNet 车牌识别 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
ResNet 图像分类 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
RetinaFace 人脸检测 C++/Python FP32 YES BMCV/OpenCV
segformer 语义分割 C++/Python FP32/FP16 YES BMCV/OpenCV
yolact 实例分割 Python FP32 YES BMCV/OpenCV
PP-OCR OCR C++/Python FP32/FP16 YES BMCV/OpenCV
OpenPose 人体关键点检测 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
C3D 视频动作识别 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
DeepSORT 多目标跟踪 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
ByteTrack 多目标跟踪 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
CenterNet 目标检测、姿态识别 C++/Python FP32/FP16/INT8 YES BMCV
YOLOv5 目标检测 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
YOLOv34 目标检测 C++/Python FP32/INT8 NO BMCV/OpenCV
YOLOX 目标检测 C++/Python FP32/INT8 YES BMCV/OpenCV
SSD 目标检测 C++/Python FP32/INT8 YES BMCV/OpenCV
YOLOv7 目标检测 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
YOLOv8 目标检测 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
YOLOv5_opt 目标检测 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
ppYOLOv3 目标检测 C++/Python FP32/FP16/INT8 YES BMCV/OpenCV
WeNet 语音识别 C++/Python FP32/FP16 YES -
BERT 语言模型 C++/Python FP32/FP16 YES -
ChatGLM2 语言模型 C++/Python FP16/INT8/INT4 YES -
Llama2 语言模型 C++ FP16/INT8/INT4 YES -

环境依赖

Radxa Model-Zoo主要依赖tpu-mlir、tpu-nntc、libsophon、sophon-ffmpeg、sophon-opencv、sophon-sail，其版本要求如下： Radxa Model-Zoo tpu-mlir tpu-nntc libsophon sophon-ffmpeg sophon-opencv sophon-sail 发布日期
0.1.0 >=1.2.2 >=3.1.7 >=0.4.6 >=0.6.0 >=0.6.0 >=3.7.0 >=23.10.01