Open jcf94 opened 1 year ago
找了一圈今年得会议视频,油管暂时公布视频是2022年的,B站还是2021年的。今年的会议啥时候会发出来,有消息么
@Olivert007 找了一圈今年得会议视频,油管暂时公布视频是2022年的,B站还是2021年的。今年的会议啥时候会发出来,有消息么
已经有了,大概前几天刚放出来的:https://www.youtube.com/watch?v=UOzEmvWakJU
ansor 现在可以对接dynamic shape了吗
@Wanger-SJTU ansor 现在可以对接dynamic shape了吗
机制上是可以支持的,不过目前社区的版本直接用可能有点小坑,workload key 匹配之类我不确定是不是还得改,大概率是没办法直接跑的。 目前的基本思路是比如 (?, 10) 直接 apply (1, 10) 的 tuning 结果,把 dynamic 的那一维当成 1 来看,性能方面肯定不是最优的解,但是至少能跑。
请教下 Relay VM 支持动态 shape,但是由于没有ansor调优的支持,性能很一般。你们是把any按 1 来处理然后调优的吗?
@sleepwalker2017 请教下 Relay VM 支持动态 shape,但是由于没有ansor调优的支持,性能很一般。你们是把any按 1 来处理然后调优的吗?
是的,不过这样做只是最基本地让 Ansor 能够支持 dynamic shape workload search 并且跑起来。实际情况下如果 shape 变动很大的话,只是按 1 来处理在性能上还是好不了。在这个问题上可以做 research 的空间还有很多。
https://jcf94.com/2023/03/18/2023-03-18-nio-at-tvmcon/
又是一年的 TVM conference,由于举办地在美国的时差关系,我们这边没有线上直接参加,由我们引擎团队负责人 蓝色 大佬给了个 talk。 按照往年的惯例,talk 的视频材料应该后续会放出来,等有了链接以后我再拿过来贴在这里。 在过去的快两年时间里,我们依靠 TVM 打造了 NIO 全栈自研的 AI 引擎,支持各种感知、规控等等自动驾驶算法在 NT2.0 平台上的高效运行。我们几乎是看