Buddies-as-you-know / paper-survey

0 stars 0 forks source link

Sim2Real Predictivity: Does Evaluation in Simulation Predict Real-World Performance? #46

Open Buddies-as-you-know opened 8 months ago

Buddies-as-you-know commented 8 months ago

論文リンク

https://arxiv.org/pdf/1912.06321.pdf

1. どんなもの?

image

n個のナビゲーションモデルについて、シミュレーションと現実世界で並行に評価実験を行う。 各モデルiについて、シミュレーションでの性能をsi、現実世界での性能をriとする。 性能指標としては、成功率やSPL (Success weighted by Path Length) などを用いる。 n個の(si, ri)のデータセットから、サンプルのピアソンの相関係数を計算する。この値がSRCCとなる。 SRCCは-1から1の値を取り、1に近いほどシミュレーションと現実世界の性能が高い正の相関があることを示す。

image

5. 論文において、研究の成果やデータに基づいて、その意義や影響、さらには限界点について詳細かつ適切に分析や評価がなされている部分は存在するのでしょうか?

6. 次に読むべき論文はあるか?

7.使用している環境、センシング、ナビゲーション、特徴量はなに?

環境はHabitatシミュレーターと現実の部屋を使用。センシングはRGBカメラとデプスカメラ。ナビゲーションはPointGoalタスク。特徴量はResNet50で抽出。

8. わからない文字

P_opt: 最短経路の長さ

P_agent: エージェントの移動した経路の長さ

つまり、SPLは以下の2つの要素の積で計算されます:

成功率(S) : ゴールに到達できたかどうか 相対的な経路長(P_opt / P_agent): エージェントの経路長を最短経路長で割ったもの SPLは、単に成功率だけでなく、経路の効率性も考慮した指標です。

9.論文に使えそうな表現(あれば)