deepseek-coder-1.3b-instruct运行问题

deepseek-ai / DeepSeek-Coder

DeepSeek Coder: Let the Code Write Itself

https://coder.deepseek.com/

MIT License

6.85k stars 473 forks source link

Closed tjlcast closed 1 year ago

tjlcast commented 1 year ago

你好，我尝试运行deepseek-ai/deepseek-coder-1.3b-instruct这个模型

下载后根据README.md的例子运行，在如下代码会报错

inputs = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)

错误如下：

AttributeError: 'LlamaTokenizerFast' object has no attribute 'apply_chat_template'

这个是因为环境问题么？能提供这个模型的运行api或demo吗？

guoday commented 1 year ago

环境问题，pip install --upgrade transformers