ai-starthon / AI_Starthon2019

60 stars 44 forks source link

[문의] 3_cls_crane2 문제 score 계산 오류 여부 #148

Open kimdongjin opened 5 years ago

kimdongjin commented 5 years ago

3번 문제 점수에 이상한 현상이 있어서 문의 드립니다.

1. 모델을 바꾸면서 실험을 하면 자체적으로 수행한 validation acc는 바뀌는데
   submit 결과 점수는 소수점 아래 16자리까지 동일(0.6335403726708074)합니다.

2. 여러 팀들이 제출한 점수가 (baseline code가 아님에도 불구하고) 소수점 아래 16자리까지 동일합니다.

제가 제출 과정에서 실수한 것일 수도 있지만 점수 계산 코드에 오류는 없는지 확인 부탁드립니다.

jungwoo-ha commented 5 years ago

@kimdongjin 3번 문제의 경우 https://github.com/ai-starthon/AI_Starthon2019/issues/138 에 설명드렸듯이 매우 풀기 어려운 문제 입니다. 현재 다수의 스코어로 나오는 것은 모두 0(노멀) 로 decision했을 때 나오는 결과로 보시면 됩니다. 그러므로 이 어려운 문제를 어떻게 해결하느냐가 핵심이라고 할 수 있겠습니다. 현재 1등팀의 경우 점수가 미묘하게 다른 것이 비정상 케이스를 소수 맞춘 것으로 보시면 되겠습니다.