search

axinc-ai / ailia-models-tflite

Quantized version of model library
21 stars 1 forks source link

Implement pose_resnet #64

Closed craft-c closed 1 year ago

craft-c commented 1 year ago

@kyakuno

残りの問題は以下の1点です。 ・float32モデル と ailia-tflite runtime の組み合わせで 精度が出ない

[float32モデル] 表に示すように、公式TFlite だと精度良く推論できますが、 ailia-tflite runtime　だと精度が出ない。 また、onnx2tfで変換したモデルの方は、PADV2エラーが出る。

[int8モデル] openvino2tensorflowで変換したモデルの精度は良好。 onnx2tfで変換したモデルの精度は良くない & PADV2 エラーが出る。

image

image

craft-c commented 1 year ago

@kyakuno

モデルのダウンロード float32は onnx2tf で変換したモデルを int8は openvino2tensorflow で変換したモデルを参照してもらいたいです。 DLはこちらから

kyakuno commented 1 year ago

モデルをアップロードしました。 https://storage.googleapis.com/ailia-models-tflite/pose_resnet/pose_resnet_50_256x192_float32.tflite https://storage.googleapis.com/ailia-models-tflite/pose_resnet/pose_resnet_50_256x192_int8.tflite

kyakuno commented 1 year ago

PADV2とFCのFusedActivationに対応したailia TFLite Runtime 1.1.9で動作確認できました。

int8

int8

float

float