Open Kepler-16b opened 1 year ago
1.输入框可以ctrl+回车发送,发送后自动清空 2.可以对12g显存更友好一点么emoji CUDA out of memory. Tried to allocate 128.00 MiB (GPU 0; 11.99 GiB total capacity; 11.15 GiB already allocated; 0 bytes free; 11.15 GiB reserved in total by PyTorch) If reserved memory is >> allocated memory try setting max_split_size_mb to avoid fragmentation.
输入框可以ctrl+回车发送,发送后自动清空,很有同感
增加多轮对话的轮数。我看写了但是又注释了
除头像功能在gradio不方便实现外,其他的都可以加入规划。也欢迎大家继续在这条issue下提出建议
1大概是bug,会修 2这个不太行,一个是从头我就用的是gradio,这个框架我看来不太适合实现这种东西
可否像ChatGPT一样把聊天记录显示在一侧?
输入框已支持ctrl+回车发送,发送后自动清空 最大对话轮数已经重新加入
可否像ChatGPT一样把聊天记录显示在一侧?
style.css里加入
.message {
width: inherit!important;
}
目前分有选项卡,但仅有chat一个标签,建议把左侧设置内容放在新标签里简化界面
不知道能否添加文本编辑功能?修改历史对话里的文本
能否改为在局域网也能访问,想让小伙伴分享我运行的chatGLM
能否改为在局域网也能访问,想让小伙伴分享我运行的chatGLM
好吧,这个功能已经有了(加 --listen 参数),我只是设置有问题,顺便给大家也提醒一下。 运行 chatGLM 的主机上不要打开梯子,否则就会提示502 bad gateway。
首先,谢谢作者给我们这么一个方便使用的工具!! 我个人用得爱不释手,哈哈哈 顺便咨询一下,左边的三个参数,MaxLength, Top P 和温度,分别准确的理解应该是什么呀? 谢谢~
首先,谢谢作者给我们这么一个方便使用的工具!! 我个人用得爱不释手,哈哈哈 顺便咨询一下,左边的三个参数,MaxLength, Top P 和温度,分别准确的理解应该是什么呀? 谢谢~
Max Length
是生成文本时的长度限制
Top P
控制输出文本中概率最高前 p 个单词的总概率
Temperature
控制生成文本的多样性和随机性。
Top P
变小会生成更多样和不相关的文本;变大会生成更保守和相关的文本。Temperature
变小会生成更保守和相关的文本;变大会生成更奇特和不相关的文本
1.希望增加多人聊天功能(可共用一个上下文,其他人可以看到) 2.希望增加会话自动保存和快捷切换(ChatGPT那种) 3.打开页面时,直接在chatbox中显示history,而不是在一次会话后才显示
有点想把这玩意接入nonebot plugin,不知道以后会不会有方便的调用方法
希望增加人物卡、lora、記憶導出、導入的功能
建议增加一个关闭功能,直接咔嚓杀进程或者窗口,总觉得太野蛮。(不知道未来强AI会不会记恨,有点怕怕。。。)
建议增加一个关闭功能,直接咔嚓杀进程或者窗口,总觉得太野蛮。(不知道未来强AI会不会记恨,有点怕怕。。。)
无所谓,你可以拔电源
不知道在控制台窗口按 Ctrl+C
管不管用
建议增加一个关闭功能,直接咔嚓杀进程或者窗口,总觉得太野蛮。(不知道未来强AI会不会记恨,有点怕怕。。。)
无所谓,你可以~拔电源~ 不知道在控制台窗口按
Ctrl+C
管不管用
Ctrl+C管用,就是粗暴了点
貌似现在做了radio后容易出错。是不是输入文字太多还是怎么情况,有什么办法可以避免吗
希望能添加实时修改对话文本的功能,保存成json修改完再读取太繁琐了
建议把Max Length等选项放到settings里,放在主界面有点占空间
建议添加lora训练与支持。
首先,谢谢作者给我们这么一个方便使用的工具!! 我个人用得爱不释手,哈哈哈 顺便咨询一下,左边的三个参数,MaxLength, Top P 和温度,分别准确的理解应该是什么呀? 谢谢~
Max Length
是生成文本时的长度限制Top P
控制输出文本中概率最高前 p 个单词的总概率Temperature
控制生成文本的多样性和随机性。Top P
变小会生成更多样和不相关的文本;变大会生成更保守和相关的文本。Temperature
变小会生成更保守和相关的文本;变大会生成更奇特和不相关的文本
这个能整合到ui的提示里面就好叻,每次记不准确没把握还时不时回到这里看一眼,8-)
希望添加API功能,方便机器人部署。
希望添加API功能,方便机器人部署。
chatglm官方的有给API,运行api.py就行了
https://github.com/Akegarasu/ChatGLM-webui/issues/3#issuecomment-1499036887
如果是nonebot的话我有写插件,看我仓库就好,然后找readme里面的两种API都可以
非常感谢
建议能整合微调
目前如果有代码输出的话,是以纯文本形式输出的好像,也不能一键复制那种
能不能加个本地知识库啊。。。。