Closed kyakuno closed 1 year ago
作業内容 ・.onnx → .tflite (float32) (int8) 変換作業 ・ailia-models-tflite版 vgg16サンプル 作成
現状メモ - サンプルスクリプト作成完了
- onnxモデル → tfliteモデル (float32)(int8) 変換できた -(float32モデル) 公式TFだと上手く推論できるが、ailia-tfだと上手く推論できない。 -(int8モデル) 公式TF ailiaTF共に、上手く推論できた。 - float32モデル&ailia-tf の問題を除けば、サンプルは完成。 - 次:COCOデータセットでキャリブレーションした、公開用の量子化モデルを生成する
@kyakuno
作成したvgg16 サンプルの推論結果をスライドに示します。
ailia-tflite と float32 モデルを用いた推論結果(赤枠で囲んだ部分) の推論結果のみ良くありません。 公式のTFliteでは上手く推論できているので、モデルの問題ではないと思うのですが。
この問題以外の部分は完成しているので、 現状で一旦PRでも良いでしょうか。
はい、現状でPRをいただければと思います。ailia TFLite Runtimeのfloatの問題は、私の方で確認してみます。
https://github.com/axinc-ai/ailia-models/tree/master/image_classification/vgg16