search

ZTMIDGO / Android-Stable-diffusion-ONNX

使用Android手机的CPU推理stable diffusion
138 stars 27 forks source link

原始模型转ort脚本 #9

Open caofx0418 opened 1 year ago

caofx0418 commented 1 year ago

您好，现在的apk中的ort模型，是通过pytorch还是onnx量化和转换而来的？能合入原始模型的路径、量化和转ort脚本不？ 方便扩展和新增APP功能

ZTMIDGO commented 1 year ago

是由onnx转为ort: https://onnxruntime.ai/docs/performance/model-optimizations/ort-format-models.html

pytorch转onnx的方法: https://github.com/ZTMIDGO/Android-Stable-diffusion-ONNX/issues/6

bitxsw93 commented 4 months ago

这是采用int8精度计算的吗？会有精度损失的问题存在吗

ZTMIDGO commented 4 months ago

这是采用int8精度计算的吗？会有精度损失的问题存在吗

会有精度损失

Danes43 commented 4 months ago

How much do you charge me to quantify some stable diffusion models?

I don't have a gamer PC and your apk has helped me a lot.