Closed chenqy4933 closed 1 year ago
目前MegCC中Elemwise的生成还是通过mode，然后判断其broadcast的情况进行然后进行具体kernel的生成，这样的情况下对elemwise mode限制非常多，并且fuse的elemwise数量也受限。
希望，通过一个optpass将所有相邻的elemwise进行fuse，然后将相关信息保存在IR的参数中，然后在kernel生成的时候，应用这些IR的参数指导生成这些计算kernel，这样可以进一步提高性能
已经支持该功能，这个issue先关闭
chenqy4933
commented
1 year ago chenqy4933
commented
1 year ago
目前MegCC中Elemwise的生成还是通过mode，然后判断其broadcast的情况进行然后进行具体kernel的生成，这样的情况下对elemwise mode限制非常多，并且fuse的elemwise数量也受限。
希望，通过一个optpass将所有相邻的elemwise进行fuse，然后将相关信息保存在IR的参数中，然后在kernel生成的时候，应用这些IR的参数指导生成这些计算kernel，这样可以进一步提高性能