Closed alvinwee07 closed 4 months ago
config里把tool choice 和function call关掉,另外工具调用对openai兼容性比较好,其他模型建议用分类。
config里把tool choice 和function call关掉,另外工具调用对openai兼容性比较好,其他模型建议用分类。
改成false 【问题分类】可以用了, 【工具调用】还是不行;然后又试了试把functioncall 改成true,工具调用还是不行
6b的模型,基本不可能靠提示词~ 况且工具调用提示词还挺长的,建议跑点qwen32b这种主流。
遇到同样的问题
例行检查
你的版本
私有部署版本, 具体版本号: 4.7
问题描述, 日志截图 私有部署版本工具调用不生效,看调试窗口应该是判断出了要用哪个工具,但没有调用工具返回内容; 模型:chtglm3-6b
复现步骤
预期结果 正常获取到工具的返回并调用模型输出
相关截图