shenyunhang / APE

[CVPR 2024] Aligning and Prompting Everything All at Once for Universal Visual Perception
https://arxiv.org/abs/2312.02153
Apache License 2.0
478 stars 29 forks source link

推理失败求助 #24

Open Cristhine opened 8 months ago

Cristhine commented 8 months ago

运行时环境是A100 安装的是pytorch版本是1.12 cuda版本是11.2 执行代码里面的python demo/demo_lazy.py --config-file configs/LVISCOCOCOCOSTUFF_O365_OID_VGR_SA1B_REFCOCO_GQA_PhraseCut_Flickr30k/ape_deta/ape_deta_vitl_eva02_clip_vlf_lsj1024_cp_16x4_1080k.py --input demo/examples/Pisa.jpg --output save_draw/ --confidence-threshold 0.1 --text-prompt 'person,car,chess piece of horse head' --with-box --with-mask --with-sseg --opts train.init_checkpoint=checkpoint/ape_deta_vitl_eva02_clip_vlf_lsj1024_cp_16x4_1080k_mdl_20230829_162438/model_final.pth model.model_language.cache_dir="" model.model_vision.select_box_nums_for_evaluation=500 model.model_vision.text_feature_bank_reset=True model.model_vision.backbone.net.xattn=False

然后报错 File "/ssd1/vis/duyuting/anaconda3/envs/ape/lib/python3.10/site-packages/torch/nn/modules/module.py", line 1130, in _call_impl return forward_call(*input, *kwargs) File "/ssd1/vis/duyuting/code/APE/ape/layers/multi_scale_deform_attn.py", line 334, in forward output = MultiScaleDeformableAttnFunction.apply( File "/ssd1/vis/duyuting/code/APE/ape/layers/multi_scale_deform_attn.py", line 44, in forward output = torch.ops.ape.ms_deform_attn_forward( File "/ssd1/vis/duyuting/anaconda3/envs/ape/lib/python3.10/site-packages/torch/_ops.py", line 143, in call return self._op(args, **kwargs or {}) RuntimeError: Not compiled with GPU support

Cristhine commented 8 months ago

运行时环境是A100 安装的是pytorch版本是1.12 cuda版本是11.2 执行代码里面的python demo/demo_lazy.py --config-file configs/LVISCOCOCOCOSTUFF_O365_OID_VGR_SA1B_REFCOCO_GQA_PhraseCut_Flickr30k/ape_deta/ape_deta_vitl_eva02_clip_vlf_lsj1024_cp_16x4_1080k.py --input demo/examples/Pisa.jpg --output save_draw/ --confidence-threshold 0.1 --text-prompt 'person,car,chess piece of horse head' --with-box --with-mask --with-sseg --opts train.init_checkpoint=checkpoint/ape_deta_vitl_eva02_clip_vlf_lsj1024_cp_16x4_1080k_mdl_20230829_162438/model_final.pth model.model_language.cache_dir="" model.model_vision.select_box_nums_for_evaluation=500 model.model_vision.text_feature_bank_reset=True model.model_vision.backbone.net.xattn=False

然后报错 File "/ssd1/vis/duyuting/anaconda3/envs/ape/lib/python3.10/site-packages/torch/nn/modules/module.py", line 1130, in _call_impl return forward_call(*input, kwargs) File "/ssd1/vis/duyuting/code/APE/ape/layers/multi_scale_deform_attn.py", line 334, in forward output = MultiScaleDeformableAttnFunction.apply( File "/ssd1/vis/duyuting/code/APE/ape/layers/multi_scale_deform_attn.py", line 44, in forward output = torch.ops.ape.ms_deform_attn_forward( File "/ssd1/vis/duyuting/anaconda3/envs/ape/lib/python3.10/site-packages/torch/_ops.py", line 143, in call* return self._op(args, **kwargs or {}) RuntimeError: Not compiled with GPU support

求助安装环境哪里不一致 尝试使用作者给的docker环境,在执行上述推理命令的时候也是报错缺少各种库

shenyunhang commented 8 months ago

可以检查一下APE是否成功安装了,具体安装步骤这里

如果无法安装成功,则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的,在配置里加入:

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True
Cristhine commented 8 months ago

可以检查一下APE是否成功安装了,具体安装步骤这里

如果无法安装成功,则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的,在配置里加入:

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

感谢回复,经过多次尝试,发现ape这个库会因为之前的环境编译而引入脏变量,在手动一步一步编译的前提下,重新拉取辛苦完成了推理验证

chengyansheng24 commented 8 months ago

可以检查一下APE是否成功安装了,具体安装步骤这里。 如果无法安装成功,则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的,在配置里加入:

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

感谢回复,经过多次尝试,发现ape这个库会因为之前的环境编译而引入脏变量,在手动一步一步编译的前提下,重新拉取辛苦完成了推理验证

你好,进行验证推理是否只需要下载model_final.pth预训练权重即可,可否请教一下

shenyunhang commented 8 months ago

可以检查一下APE是否成功安装了,具体安装步骤这里。 如果无法安装成功,则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的,在配置里加入:

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

感谢回复,经过多次尝试,发现ape这个库会因为之前的环境编译而引入脏变量,在手动一步一步编译的前提下,重新拉取辛苦完成了推理验证

你好,进行验证推理是否只需要下载model_final.pth预训练权重即可,可否请教一下

对的。

wdc233 commented 3 months ago

可以检查一下APE是否成功安装了,具体安装步骤这里。 如果无法安装成功,则不能用cuda版本的`MultiScaleDeformableAttn'。 可以改成pytorch版本的,在配置里加入:

model.model_vision.transformer.encoder.pytorch_attn=True
model.model_vision.transformer.decoder.pytorch_attn=True

感谢回复,经过多次尝试,发现ape这个库会因为之前的环境编译而引入脏变量,在手动一步一步编译的前提下,重新拉取辛苦完成了推理验证

请问xformer包是怎么解决的呢