Open h3clikejava opened 3 months ago
我用4090跑的效果比huggingFace Space上的差,图片中的文字和数字均不能正常识别出来,是因为用的 llama-8B-4bit的原因吗?直接用8B(我没A100)对于OCR识别会有改进效果吗?
量化肯定是有损失的,没有A100 测试不了对比
我用4090跑的效果比huggingFace Space上的差,图片中的文字和数字均不能正常识别出来,是因为用的 llama-8B-4bit的原因吗?直接用8B(我没A100)对于OCR识别会有改进效果吗?