只有12g显存， 能否使用mini使用内存进行加速。

[496672097]

mini都是使用cpu进行推理的， 是否可以使用gpt进行加速。 比如我用的3060-12G . 是否能够充分发挥下显存。加快mini的推理速度。