大模型语音交互示例代码

依赖：

• llama-cpp-python
• torch
• torchaudio
• tqdm
• gradio

模型：

ASR模型需要经过格式转换和压缩。需要的话可以联系我获取

在model/llm文件夹中放入MiniCPM托管库中的模型文件MiniCPM-2B-dpo-q4km-gguf.gguf

代码说明

运行ui.py来执行代码

ui.py: 整体框架、用户界面、录音
llm.py: 加载LLM、生成回复、管理上下文
asr.py：加载ASR模型、转录文本

TODO：

• 更好看的前端