-
### Is there an existing issue ? / 是否已有相关的 issue ?
- [X] I have searched, and there is no existing issue. / 我已经搜索过了,没有相关的 issue。
### Describe the bug / 描述这个 bug
加载微调后的MiniCPM-2B-dpo-bf16模型进行vllm推理时…
uRENu updated
2 months ago
-
-
### Feature request / 功能建议
对模型的性能很期待,期望能提供使用ollama部署的方法。
-
### Is there an existing issue ? / 是否已有相关的 issue ?
- [X] I have searched, and there is no existing issue. / 我已经搜索过了,没有相关的 issue。
### Describe the bug / 描述这个 bug
同样的问题,命令行输出的比较完整,但是web demo输出很差,这是为什…
-
### Your current environment
```text
The output of `python collect_env.py`
Collecting environment information...
PyTorch version: 2.3.0+cu121
Is debug build: False
CUDA used to build PyTorch: 12…
-
### Description / 描述
### 环境:
![20240205-171912](https://github.com/OpenBMB/MiniCPM/assets/48130519/5e9a0934-8237-440f-ad37-a06a0d008af6)
### 问题
使用这里提供的apk:https://github.com/OpenBMB/mlc-MiniCP…
-
![1713856321333](https://github.com/OpenBMB/MiniCPM-V/assets/26639421/64c9b538-1d49-4c94-bc77-6c81b53a611e)
![1713856452853](https://github.com/OpenBMB/MiniCPM-V/assets/26639421/b6bb0525-5d78-4960-80…
-
-
### 是否已有关于该错误的issue或讨论? | Is there an existing issue / discussion for this?
- [X] 我已经搜索过已有的issues和讨论 | I have searched the existing issues / discussions
### 该问题是否在FAQ中有解答? | Is there an existing ans…
-
首先**非常感谢**贵团队做出的卓越的贡献,我打算将其作为OCR使用读取图片上的内容并且给出完整的信息
但是尝试多个prompt之后还是无法有效的输出完整的信息,想请教下有什么解决方法或者正确的使用方式吗?
> 测试OCR图片源自 第一页