Open wuQi-666 opened 3 months ago
你好，按照第三节中，Llama3图片理解能力的微调文档进行操作，在进行测试的时候，执行如下的命令 export MKL_SERVICE_FORCE_INTEL=1 xtuner chat /root/model/Meta-Llama-3-8B-Instruct \ --visual-encoder /root/model/clip-vit-large-patch14-336 \ --llava /root/llama3_llava_pth/iter_1200_hf \ --prompt-template llama3_chat \ --image /root/tutorial/xtuner/llava/llava_data/test_img/oph.jpg 并且输入describe this image . 后，模型一直重复输出相同的内容，就是一句话输出之后，又重复生成，没有暂停。，好像是续写模式，请问出现这种情况是什么原因？谢谢
export MKL_SERVICE_FORCE_INTEL=1 xtuner chat /root/model/Meta-Llama-3-8B-Instruct \ --visual-encoder /root/model/clip-vit-large-patch14-336 \ --llava /root/llama3_llava_pth/iter_1200_hf \ --prompt-template llama3_chat \ --image /root/tutorial/xtuner/llava/llava_data/test_img/oph.jpg
你好，按照第三节中，Llama3图片理解能力的微调文档进行操作，在进行测试的时候，执行如下的命令
export MKL_SERVICE_FORCE_INTEL=1 xtuner chat /root/model/Meta-Llama-3-8B-Instruct \ --visual-encoder /root/model/clip-vit-large-patch14-336 \ --llava /root/llama3_llava_pth/iter_1200_hf \ --prompt-template llama3_chat \ --image /root/tutorial/xtuner/llava/llava_data/test_img/oph.jpg并且输入describe this image . 后，模型一直重复输出相同的内容，就是一句话输出之后，又重复生成，没有暂停。，好像是续写模式，请问出现这种情况是什么原因？谢谢