axinc-ai / ailia-models-cpp

C++ version of ailia models repository
17 stars 2 forks source link

GPT SoVITSの実装、ailia SDK 1.4に移行 #51

Closed kyakuno closed 2 weeks ago

kyakuno commented 2 months ago

50

kyakuno commented 2 months ago

Pythonだと131msだが、C++だと何故か700msかかる。

kyakuno commented 2 months ago

テンソルのコピーを減らすと350msになる。

kyakuno commented 2 months ago

入出力のテンソルのコピーが支配的みたい。

kyakuno commented 2 months ago

clock()はマルチコアの場合、合計値になる。 ailia processing time 216 ms

std::chronoは実時間になる。 ailia processing time 116 ms

kyakuno commented 2 months ago

一通り実装できた。

kyakuno commented 2 months ago

現状は、5secの音声のCPU合成に17sec程度。