NIO @ TVMCon 2023 | Chenfan Blog

[jcf94]

https://jcf94.com/2023/03/18/2023-03-18-nio-at-tvmcon/

又是一年的 TVM conference，由于举办地在美国的时差关系，我们这边没有线上直接参加，由我们引擎团队负责人 蓝色 大佬给了个 talk。 按照往年的惯例，talk 的视频材料应该后续会放出来，等有了链接以后我再拿过来贴在这里。 在过去的快两年时间里，我们依靠 TVM 打造了 NIO 全栈自研的 AI 引擎，支持各种感知、规控等等自动驾驶算法在 NT2.0 平台上的高效运行。我们几乎是看

[Olivert007]

找了一圈今年得会议视频，油管暂时公布视频是2022年的，B站还是2021年的。今年的会议啥时候会发出来，有消息么

[jcf94]

@Olivert007 找了一圈今年得会议视频，油管暂时公布视频是2022年的，B站还是2021年的。今年的会议啥时候会发出来，有消息么

已经有了，大概前几天刚放出来的：https://www.youtube.com/watch?v=UOzEmvWakJU

[Wanger-SJTU]

ansor 现在可以对接dynamic shape了吗

[jcf94]

@Wanger-SJTU ansor 现在可以对接dynamic shape了吗

机制上是可以支持的，不过目前社区的版本直接用可能有点小坑，workload key 匹配之类我不确定是不是还得改，大概率是没办法直接跑的。 目前的基本思路是比如 (?, 10) 直接 apply (1, 10) 的 tuning 结果，把 dynamic 的那一维当成 1 来看，性能方面肯定不是最优的解，但是至少能跑。

[sleepwalker2017]

请教下 Relay VM 支持动态 shape，但是由于没有ansor调优的支持，性能很一般。你们是把any按 1 来处理然后调优的吗？

[jcf94]

@sleepwalker2017 请教下 Relay VM 支持动态 shape，但是由于没有ansor调优的支持，性能很一般。你们是把any按 1 来处理然后调优的吗？

是的，不过这样做只是最基本地让 Ansor 能够支持 dynamic shape workload search 并且跑起来。实际情况下如果 shape 变动很大的话，只是按 1 来处理在性能上还是好不了。在这个问题上可以做 research 的空间还有很多。