关于本地模型实现function call的提示词

[AlphaINF]

您好，请问如果我们要在本地实现function_call的功能，需要如何将函数的信息放入到prompt中？ 是否和其他模型一样，需要添加一个system prompt，然后直接放入即可？

[livelxw]

直接将函数信息以 json schema 的形式放入 prompt 即可。

[AlphaINF]

请问要不要加一些system_prompt之类的东西来辅助？我试着设置了### system，然后发现没有什么效果

[livelxw]

要加一些其他的描述。比如：

Q: <query>
Schema: <func_json_schema>
从 Q 中提取出 Schema 中描述的函数参数：

不同的模型和不同的函数效果上可能会有差别，可以多测试一下，找到最合适的 Prompt。

[AlphaINF]

谢谢！！