axinc-ai / ailia-models-tflite

Quantized version of model library
21 stars 1 forks source link

ADD vgg16 #58

Closed kyakuno closed 1 year ago

kyakuno commented 1 year ago

https://github.com/axinc-ai/ailia-models/tree/master/image_classification/vgg16

craft-c commented 1 year ago

作業内容 ・.onnx → .tflite (float32) (int8) 変換作業 ・ailia-models-tflite版 vgg16サンプル 作成

craft-c commented 1 year ago

現状メモ  - サンプルスクリプト作成完了

 - onnxモデル → tfliteモデル (float32)(int8) 変換できた   -(float32モデル) 公式TFだと上手く推論できるが、ailia-tfだと上手く推論できない。   -(int8モデル) 公式TF ailiaTF共に、上手く推論できた。    - float32モデル&ailia-tf の問題を除けば、サンプルは完成。   - 次:COCOデータセットでキャリブレーションした、公開用の量子化モデルを生成する

craft-c commented 1 year ago

@kyakuno

作成したvgg16 サンプルの推論結果をスライドに示します。

ailia-tflite と float32 モデルを用いた推論結果(赤枠で囲んだ部分) の推論結果のみ良くありません。 公式のTFliteでは上手く推論できているので、モデルの問題ではないと思うのですが。

この問題以外の部分は完成しているので、 現状で一旦PRでも良いでしょうか。

image

kyakuno commented 1 year ago

はい、現状でPRをいただければと思います。ailia TFLite Runtimeのfloatの問題は、私の方で確認してみます。