search

nihui / realcugan-ncnn-vulkan

real-cugan converter ncnn version, runs fast on intel / amd / nvidia / apple-silicon GPU with vulkan
MIT License
771 stars 46 forks source link

3倍放大下输出的图片不正常 #7

Closed hokejyo closed 2 years ago

hokejyo commented 2 years ago

其它放大倍率正常，只有3倍下会输出异常图片： ev201c ev101a 参数： image 报错： vkAllocateMemory failed -2 vkWaitForFences failed -4 vkWaitForFences failed -4 vkQueueSubmit failed -4 vkQueueSubmit failed -4 vkQueueSubmit failed -4 vkQueueSubmit failed -4

hokejyo commented 2 years ago

哦还有显卡是N卡2060 image

nihui commented 2 years ago

20220217 发布了～ 试试看

hokejyo commented 2 years ago

20220217 发布了～ 试试看

大佬，现在单张图片放大是正常的，就是批量放大会间隔一个输出异常图片，报错是相同的 image 还有就是同一显卡3x放大速度是10张/55s，4x放大只要10张/23s，而且还没有异常

nihui commented 2 years ago

20220217 发布了～ 试试看

大佬，现在单张图片放大是正常的，就是批量放大会间隔一个输出异常图片，报错是相同的 image 还有就是同一显卡3x放大速度是10张/55s，4x放大只要10张/23s，而且还没有异常

可以尝试调小 tilesize，比如 400 200 这样 3x 比 4x 更消耗显存，也更慢，确实是这样

看来自动 tilesize 的设置还需要进一步优化。。

hokejyo commented 2 years ago

20220217 发布了～ 试试看

大佬，现在单张图片放大是正常的，就是批量放大会间隔一个输出异常图片，报错是相同的 image 还有就是同一显卡3x放大速度是10张/55s，4x放大只要10张/23s，而且还没有异常

可以尝试调小 tilesize，比如 400 200 这样 3x 比 4x 更消耗显存，也更慢，确实是这样

看来自动 tilesize 的设置还需要进一步优化。。

哦，tile size调到200正常了，tql！