-
我尝试在自己的数据集上进行了微调,但是当我微调后不论是lora还是全量,在尝试输入图片的时候都出现了报错:
***
RuntimeError: mat1 and mat2 shapes cannot be multiplied (729x1152 and 3456x4096)
***
根据调用堆栈,可能是我的projector维度异常发生了改变
这是我的微调配置文件:
#!/bin/…
htesd updated
2 months ago
-
### System Info / 系統信息
使用langchain-chatchat 运行
CUDA版本:12.2
transformers 版本:4.37.2
python 版本:3.11.7
操作系统:Ubuntu 20.04.6
### Who can help? / 谁可以帮助到您?
_No response_
### Information / 问题信息
- [ ] …
-
### Your current environment
```text
The output of `python collect_env.py`
```
### 🐛 Describe the bug
tensor_parallel_size=1 works fine, but error when tensor_parallel_size>1.
```python
impor…
-
### Motivation
CogVLM2 is now the SOTA open source VLM for captioning tasks.
### Related resources
_No response_
### Additional context
_No response_
-
### System Info / 系統信息
NVIDIA-SMI 525.147.05 Driver Version: 525.147.05 CUDA Version: 12.0
/mnt/data/whang/miniconda3/envs/cogvlm2/bin/python
Python 3.11.9
git pull the latest repo.
###…
-
**例行检查**
[//]: # '方框内填 x 表示打钩'
- [x] 我已确认目前没有类似 issue
- [x] 我已完整查看过项目 README,以及[项目文档](https://doc.fastgpt.in/docs/intro/)
- [x] 我使用了自己的 key,并确认我的 key 是可正常使用的
- [x] 我理解并愿意跟进此 issue,协助测试和提供反馈
…
-
### Describe the issue as clearly as possible:
I am trying to run this together with the new Idefics 3 vision language model and am having trouble with that. Crossposting this as a comment in the I…
-
### 部署方式
手动部署
### 消息平台适配器
aiocqhttp(使用 OneBot 协议接入的)
### 系统环境
Arch Linux (中国大陆)
### Python环境
Python 3.12
### QChatGPT版本
v3.2.1
### 异常情况
安装好环境后运行`python main.py`, 无法成功调用模型进行对话
采用的llm engi…
-
### The Feature
Pls add the method & proxy for NVIDIA API, which had example code:
```
from openai import OpenAI
client = OpenAI(
base_url = "https://integrate.api.nvidia.com/v1",
api_ke…
-
Will full-parameter fine-tuning be better?