change LinkAI的gpt_model

dfldylan commented 10 months ago

前置确认

[X] 我确认我运行的是最新版本的代码，并且安装了所需的依赖，在FAQS中也未找到类似问题。

⚠️ 搜索issues中是否已存在类似问题

[X] 我已经搜索过issues和disscussions，没有跟我遇到的问题相关的issue

操作系统类型?

Docker

运行的python版本是?

python 3.8

使用的chatgpt-on-wechat版本是?

Latest Release

运行的`channel`类型是?

wx(个人微信, itchat)

复现步骤 🕹

通过 https://link-ai.tech/platform/link-app/wechat 部署
和bot对话，可以看到linkai计费，底层模型是Gpt-3.5-16k

bot中设置#set_gpt_model gpt-4 对话
还是gpt-3.5-16k

set_gpt_model LinkAI-4
还是gpt-3.5-16k，另外在console中也能看到请求LINKAI的参数为gpt-3.5-16k

问题描述 😯

聊天中没法改底层模型，如gpt-4 实际上在配置文件中我也没找到在哪里改

终端日志 📒

[DEBUG][2023-11-02 03:16:07][chat_channel.py:153] - [WX] ready to handle context: Context(type=TEXT, content=在吗, kwargs={'isgroup': False, 'msg': <channel.wechat.wechat_message.WechatMessage object at 0x7fc9c9a9ee60>, 'origin_ctype': <ContextType.TEXT: 1>, 'openai_api_key': None, 'gpt_model': 'gpt-4', 'session_id': '@xxx', 'receiver': '@xxx'})
[DEBUG][2023-11-02 03:16:07][plugin_manager.py:187] - Plugin GODCMD triggered by event Event.ON_HANDLE_CONTEXT
[DEBUG][2023-11-02 03:16:07][godcmd.py:220] - [Godcmd] on_handle_context. content: 在吗
[DEBUG][2023-11-02 03:16:07][plugin_manager.py:187] - Plugin KEYWORD triggered by event Event.ON_HANDLE_CONTEXT
[DEBUG][2023-11-02 03:16:07][keyword.py:52] - [keyword] on_handle_context. content: 在吗
[DEBUG][2023-11-02 03:16:07][plugin_manager.py:187] - Plugin LINKAI triggered by event Event.ON_HANDLE_CONTEXT
[DEBUG][2023-11-02 03:16:07][summary.py:93] - [LinkSum] unsupported url, no need to process, url=在吗
[DEBUG][2023-11-02 03:16:07][plugin_manager.py:187] - Plugin TOOL triggered by event Event.ON_HANDLE_CONTEXT
[DEBUG][2023-11-02 03:16:07][tool.py:68] - [tool] on_handle_context. content: 在吗
[DEBUG][2023-11-02 03:16:07][plugin_manager.py:187] - Plugin ROLE triggered by event Event.ON_HANDLE_CONTEXT
[DEBUG][2023-11-02 03:16:07][plugin_manager.py:187] - Plugin DUNGEON triggered by event Event.ON_HANDLE_CONTEXT
[DEBUG][2023-11-02 03:16:07][dungeon.py:73] - [Dungeon] on_handle_context. content: ['在吗']
[DEBUG][2023-11-02 03:16:07][plugin_manager.py:187] - Plugin HELLO triggered by event Event.ON_HANDLE_CONTEXT
[DEBUG][2023-11-02 03:16:07][hello.py:56] - [Hello] on_handle_context. content: 在吗
[DEBUG][2023-11-02 03:16:07][plugin_manager.py:187] - Plugin FINISH triggered by event Event.ON_HANDLE_CONTEXT
[DEBUG][2023-11-02 03:16:07][finish.py:30] - [Finish] on_handle_context. content: 在吗
[DEBUG][2023-11-02 03:16:07][chat_channel.py:173] - [WX] ready to handle context: type=TEXT, content=在吗
[DEBUG][2023-11-02 03:16:07][session_manager.py:70] - prompt tokens used=79
[INFO][2023-11-02 03:16:07][link_ai_bot.py:85] - [LINKAI] query=在吗, app_code=default, mode=gpt-3.5-turbo-16k, file_id=None
[INFO][2023-11-02 03:16:09][link_ai_bot.py:97] - [LINKAI] reply=是的，我在这里。有什么我可以帮助您的吗？, total_tokens=102
[DEBUG][2023-11-02 03:16:09][session_manager.py:81] - raw total_tokens=102, savesession tokens=106
[DEBUG][2023-11-02 03:16:09][link_ai_bot.py:216] - [LinkAgent] res={'choices': [{'index': 0, 'message': {'role': 'assistant', 'content': '是的，我在这里。有什么我可以帮助您的吗？'}, 'finish_reason': 'stop'}], 'usage': {'prompt_tokens': 79, 'completion_tokens': 23, 'total_tokens': 102}}
[DEBUG][2023-11-02 03:16:09][chat_channel.py:157] - [WX] ready to decorate reply: Reply(type=TEXT, content=是的，我在这里。有什么我可以帮助您的吗？)

zhayujie commented 10 months ago

你好，要通过 #model gpt-4 来设置模型，或者直接修改config.json 中的model字段， set_gpt_model 这个命令是无效的

alannewlife commented 5 months ago

LINKAI 应用里面，已经配置好了默认的model，比如（LinkAI-3.5）。

我在config.json里面，配置了Azure的model,比如：gpt35（azure名字里不能带小数点）

然后，当我切换到LinkAI的这个应用的时候，它传递过去也会用全局的gpt35（query=你好你好, app_code=XXXXX, model=gpt35,），导致linkAI应用执行不了。

我还得手工#model gpt-3.5-turbo改一下。用完，再手工关闭。

这样是不是很繁琐，LinkAI的应用设置里已经设定了model，为啥还要用config里面设定的全局model呢？这是两个model，为何共用了？

zhayujie / chatgpt-on-wechat