voldemortX / pytorch-auto-drive

PytorchAutoDrive: Segmentation models (ERFNet, ENet, DeepLab, FCN...) and Lane detection models (SCNN, RESA, LSTR, LaneATT, BézierLaneNet...) based on PyTorch with fast training, visualization, benchmarking & deployment help
BSD 3-Clause "New" or "Revised" License
852 stars 138 forks source link

关于车道线的评估方式 #148

Open q36101 opened 1 year ago

q36101 commented 1 year ago

请问tusimple、culane和llamas dataset,在评估f1-score时,是使用instance(多类别)还是binary(二分类)的结果?在测试llamas时,因为车道线断断续续,我的instance测试效果很差,与其他论文f1-score=80-90差太多。

voldemortX commented 1 year ago

@q36101 你说的多类别指的是区分实线虚线吗?

q36101 commented 1 year ago

我指的多类别是llamas dataset 的label ,将每一条车道线视为一类(跟tusimple一样),而不考虑实线和虚线。 但是如果有区分实线和虚线的方法我也想知道。

Zhengyang Feng @.***> 於 2023年6月2日 週五 下午5:04寫道:

@q36101 https://github.com/q36101 你说的多类别指的是区分实线虚线吗?

— Reply to this email directly, view it on GitHub https://github.com/voldemortX/pytorch-auto-drive/issues/148#issuecomment-1573402641, or unsubscribe https://github.com/notifications/unsubscribe-auth/AZA5HJAO7BGO5XLOAAYCWU3XJGUCNANCNFSM6AAAAAAYYATKXY . You are receiving this because you were mentioned.Message ID: @.***>

voldemortX commented 1 year ago

我指的多类别是llamas dataset 的label ,将每一条车道线视为一类(跟tusimple一样),而不考虑实线和虚线。 但是如果有区分实线和虚线的方法我也想知道。

Zhengyang Feng @.***> 於 2023年6月2日 週五 下午5:04寫道:

@q36101 https://github.com/q36101 你说的多类别指的是区分实线虚线吗?

— Reply to this email directly, view it on GitHub https://github.com/voldemortX/pytorch-auto-drive/issues/148#issuecomment-1573402641, or unsubscribe https://github.com/notifications/unsubscribe-auth/AZA5HJAO7BGO5XLOAAYCWU3XJGUCNANCNFSM6AAAAAAYYATKXY . You are receiving this because you were mentioned.Message ID: @.***>

根据你的描述,各个数据集的评测都不是多分类的吧

q36101 commented 1 year ago

也就是说instance的结果主要是用在后处理,使车道结果可视化,而分割評估结果只考虑 semantic segmentation?

Zhengyang Feng @.***> 於 2023年6月2日 週五 下午6:00寫道:

我指的多类别是llamas dataset 的label ,将每一条车道线视为一类(跟tusimple一样),而不考虑实线和虚线。 但是如果有区分实线和虚线的方法我也想知道。

Zhengyang Feng @.***> 於 2023年6月2日 週五 下午5:04寫道:

@q36101 https://github.com/q36101 https://github.com/q36101 你说的多类别指的是区分实线虚线吗?

— Reply to this email directly, view it on GitHub

148 (comment)

https://github.com/voldemortX/pytorch-auto-drive/issues/148#issuecomment-1573402641 , or unsubscribe

https://github.com/notifications/unsubscribe-auth/AZA5HJAO7BGO5XLOAAYCWU3XJGUCNANCNFSM6AAAAAAYYATKXY . You are receiving this because you were mentioned.Message ID: @.***>

根据你的描述,各个数据集的评测都不是多分类的吧

— Reply to this email directly, view it on GitHub https://github.com/voldemortX/pytorch-auto-drive/issues/148#issuecomment-1573473937, or unsubscribe https://github.com/notifications/unsubscribe-auth/AZA5HJHWPK4AW27SM5D4ZSLXJG2VJANCNFSM6AAAAAAYYATKXY . You are receiving this because you were mentioned.Message ID: @.***>

voldemortX commented 1 year ago

@q36101 好像我理解错你的定义了。所有的评测都是instance为单位的,计算预测线(转化为点集合)和GT线(转化为点集合)之间的某种几何距离判定正确性。或者以点为单位计算acc(tusimple)。

q36101 commented 1 year ago

意思是說以多類別(多條車道線與背景)分割,而不是二值化(車道線與背景)分割,評估f1-score嗎?

Zhengyang Feng @.***> 於 2023年6月2日 週五 下午6:37寫道:

@q36101 https://github.com/q36101 好像我理解错你的定义了。所有的评测都是instance为单位的,计算预测线(转化为点集合)和GT线(转化为点集合)之间的某种几何距离判定正确性。或者以点为单位计算acc(tusimple)。

— Reply to this email directly, view it on GitHub https://github.com/voldemortX/pytorch-auto-drive/issues/148#issuecomment-1573520340, or unsubscribe https://github.com/notifications/unsubscribe-auth/AZA5HJCGCR2ZX4TYTPZEVWDXJG67RANCNFSM6AAAAAAYYATKXY . You are receiving this because you were mentioned.Message ID: @.***>

voldemortX commented 1 year ago

应该理解为类似目标检测的评测,而不是分割。单位是instance。

你可以看llamas的python代码理解一下。

q36101 commented 1 year ago

您好,請問一般我們評估tusimple、culane和llamas dataset時,如何將車道標記的預測圖像轉換為車道標記所在的車道坐標列表,並將其保存為 JSON 文件?是網路生成的嗎,抑或是不同dataset有不同的生成方式。

voldemortX commented 1 year ago

@q36101 不同算法有不同的输出格式(分割图,曲线表达式,点序列),根据数据集评测脚本的要求(如y坐标每10pixel采样一个x坐标),自行转换结果格式。你说的json文件是tusimple的格式吧,其他数据集是txt文件。你可以在这里找到转换的逻辑。