IDEA-Research / Grounded-Segment-Anything

Grounded SAM: Marrying Grounding DINO with Segment Anything & Stable Diffusion & Recognize Anything - Automatically Detect , Segment and Generate Anything
https://arxiv.org/abs/2401.14159
Apache License 2.0
15.16k stars 1.4k forks source link

可以得到全图的分割以及类别的标注吗 #116

Open cjf-repo opened 1 year ago

cjf-repo commented 1 year ago

1.代码里GroundingDINO_sam_demo这个是给一个提示然后得到分割以及标注的结果,非常好。不使用chatgpt,这个能实现对全图的一个分割并且对分割的所有类别进行一个标注吗。 2.然后我在sam里,用sam_vit_h_4b8939.pth给“cats”提示后得到的效果如下: 2 但是,用这个GroundingDINO_sam_demo做的结果更好,是下面的 grounded_sam_output 这个是因为用到了GroundingDINO的缘故吗,是先做了一个检测,然后再做的sam吗?

rentainhe commented 1 year ago

1.代码里GroundingDINO_sam_demo这个是给一个提示然后得到分割以及标注的结果,非常好。不使用chatgpt,这个能实现对全图的一个分割并且对分割的所有类别进行一个标注吗。 2.然后我在sam里,用sam_vit_h_4b8939.pth给“cats”提示后得到的效果如下: 2 但是,用这个GroundingDINO_sam_demo做的结果更好,是下面的 grounded_sam_output 这个是因为用到了GroundingDINO的缘故吗,是先做了一个检测,然后再做的sam吗?

GroundingDINO可以根据texts得到一个很好的先验box,然后使用sam得到精细的mask,是一个组合式的方案,比较高效

Harry-zzh commented 1 year ago

1.代码里GroundingDINO_sam_demo这个是给一个提示然后得到分割以及标注的结果,非常好。不使用chatgpt,这个能实现对全图的一个分割并且对分割的所有类别进行一个标注吗。 2.然后我在sam里,用sam_vit_h_4b8939.pth给“cats”提示后得到的效果如下: 2 但是,用这个GroundingDINO_sam_demo做的结果更好,是下面的 grounded_sam_output 这个是因为用到了GroundingDINO的缘故吗,是先做了一个检测,然后再做的sam吗?

sam能通过直接给text提示,得到mask了吗?

cjf-repo commented 1 year ago

sam能通过直接给text提示,得到mask了吗? 用到了clip,https://github.com/maxi-w/CLIP-SAM

cjf-repo commented 1 year ago

GroundingDINO可以根据texts得到一个很好的先验box,然后使用sam得到精细的mask,是一个组合式的方案,比较高效

这里面能实现不人工给提示,并且不用chatgpt,然后就能对图像中所有的东西做分割且进行类别标注吗?

rentainhe commented 1 year ago

不人工提示的话可以尝试走我们这边BLIP那套pipeline,也有对应的Demo,可以自动标注,可以看看这个demo: https://github.com/IDEA-Research/Grounded-Segment-Anything/blob/main/automatic_label_demo.py

cjf-repo commented 1 year ago

不人工提示的话可以尝试走我们这边BLIP那套pipeline,也有对应的Demo,可以自动标注,可以看看这个demo: https://github.com/IDEA-Research/Grounded-Segment-Anything/blob/main/automatic_label_demo.py

我运行的gradio_app.py选择seg的时候,这里到5s左右就直接显示error,但是代码是没有报错,并且运行到了最后的return [image, mask_pil]这一步,而我单独运行grounded_sam_demo.py是可以出来结果的,是我哪里需要修改吗,网页上没有显示出结果 2