Closed 459737087 closed 10 months ago
ValueError: Trying to set a tensor of shape torch.Size([55296, 4096]) in "weight" (which has shape torch.Size([49954, 4096])), this look incorrect.
报错信息写的很明确了,词表大小不一致。你训练脚本里写的是我们一代模型,但你的openai_api脚本加载的是2代的tokenizer,自然对不上。
对,应该就是这样
提交前必须检查以下项目
问题类型
模型转换和合并
基础模型
Chinese-Alpaca-2 (7B/13B)
操作系统
Linux
详细描述问题
我对模型进行预测的时候报错了,训练都是正常的,这很奇怪
依赖情况(代码类问题务必提供)
这是预测的脚本
这是训练的脚本
运行日志或截图
训练的结果正常 推理的报错如上