Open qq594495953 opened 10 months ago
比较简单的方式应该就是直接通过 TGI 部署 checkpoint,然后按照 llama-2-chat 的格式发送请求进行交互。由于是多任务训练的模型,工具调用指令没有特殊的要求。 如果是要在论文中的 benchmark 上验证结果,可以参考 README 中的说明。
比较简单的方式应该就是直接通过 TGI 部署 checkpoint,然后按照 llama-2-chat 的格式发送请求进行交互。由于是多任务训练的模型,工具调用指令没有特殊的要求。 如果是要在论文中的 benchmark 上验证结果,可以参考 README 中的说明。