MIM计算问题

[LeeeeoLiu]

Hi~ o(￣▽￣)ブ，请问论文中，下面这个公式的期望是如何计算的？

我在代码里发现了下面的实现，感觉跟论文中描述的方式不太一样？（不知道是不是我看漏了 https://github.com/Lancelot39/KGSF/blob/a10c02cf31dd70d55e972c9ad046df16886f88e1/model.py#L315-L326

[Irreel]

MIM这一部分我也有同样的疑问 请问您问题解决了吗？

[dayuyang1999]

我也有同样的疑问。还有为何 info_loss_con被注释掉了呢？

[Yang-bug-star]

我也是，根本就不是MIM对应实现嘛，不知具体代码是在哪部分，希望作者说明一下

[LeeeeoLiu]

之前给作者发邮件，作者回复 MIM实现和这种实现的结果差不多，这种实现更简单，所以选择了这种实现

[LoveAnneke]

之前给作者发邮件，作者回复 MIM实现和这种实现的结果差不多，这种实现更简单，所以选择了这种实现

请问你跑出来这个代码了吗？我第二步跑了十几个小时还是不出结果

[LoveAnneke]

请问这个程序你复现了吗？

[Yang-bug-star]

不好意思，我跑的时候有许多错误还没有克服，主要是看源码学习，找不到MIM模块，非常感谢您的回答，但我想知道这种新的实现是使用了什么数学原理，还是互信息最大化吗

------------------ 原始邮件 ------------------ 发件人: "Lancelot39/KGSF" @.>; 发送时间: 2022年11月8日(星期二) 下午5:11 @.>; @.**@.>; 主题: Re: [Lancelot39/KGSF] MIM计算问题 (#6)

之前给作者发邮件，作者回复 MIM实现和这种实现的结果差不多，这种实现更简单，所以选择了这种实现

请问你跑出来这个代码了吗？我第二步跑了十几个小时还是不出结果

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

[Yang-bug-star]

非常感谢您的回答，但我想知道这种新的实现是使用了什么数学原理，还是互信息最大化吗

------------------ 原始邮件 ------------------ 发件人: "Lancelot39/KGSF" @.>; 发送时间: 2022年11月8日(星期二) 下午5:04 @.>; @.**@.>; 主题: Re: [Lancelot39/KGSF] MIM计算问题 (#6)

Closed #6 as completed.

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

[Irreel]

我在去年和别人一起复现了 达到了paper的结果 MIM部份的代码和paper写的有出入但是不影响跑出来结果

MIM这一部分我也有同样的疑问 请问您问题解决了吗？

[LoveAnneke]

请问，你第二步（python run.py --is_finetune True）训练跑了大概多久？是第一步运行完成后，直接命令行执行这个语句吗？ 你还记得吗？

溈伱‰伤心  @.***

 

------------------ 原始邮件 ------------------ 发件人: "Lancelot39/KGSF" @.>; 发送时间: 2022年11月9日(星期三) 下午5:12 @.>; 抄送: "溈伱‰伤心 @.**@.>; 主题: Re: [Lancelot39/KGSF] MIM计算问题 (#6)

我在去年和别人一起复现了 达到了paper的结果 MIM部份的代码和paper写的有出入但是不影响跑出来结果

MIM这一部分我也有同样的疑问 请问您问题解决了吗？

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

[Irreel]

请问，你第二步（python run.py --is_finetune True）训练跑了大概多久？是第一步运行完成后，直接命令行执行这个语句吗？ 你还记得吗？ 溈伱‰伤心  @.***   …

包括finetuning我们在一张卡上跑了13个小时左右 不太记得配置了（2080？）

[LoveAnneke]

那你还有跑好的代码吗？我跑第二步跑了大概17个小时都没跑出来

溈伱‰伤心  @.***

 

------------------ 原始邮件 ------------------ 发件人: "Lancelot39/KGSF" @.>; 发送时间: 2022年11月9日(星期三) 下午5:29 @.>; 抄送: "溈伱‰伤心 @.**@.>; 主题: Re: [Lancelot39/KGSF] MIM计算问题 (#6)

请问，你第二步（python run.py --is_finetune True）训练跑了大概多久？是第一步运行完成后，直接命令行执行这个语句吗？ 你还记得吗？ 溈伱‰伤心  @.***   …

包括finetuning我们在一张卡上跑了13个小时左右 不太记得配置了（2080？）

— Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

[Yang-bug-star]

之前给作者发邮件，作者回复 MIM实现和这种实现的结果差不多，这种实现更简单，所以选择了这种实现

请问代码里这种新的实现是使用了什么数学原理

[Yang-bug-star]

我在去年和别人一起复现了 达到了paper的结果 MIM部份的代码和paper写的有出入但是不影响跑出来结果

MIM这一部分我也有同样的疑问 请问您问题解决了吗？

您好，想问一下max-r-length和max-c-length表示什么意思呢

[Yang-bug-star]

那你还有跑好的代码吗？我跑第二步跑了大概17个小时都没跑出来 溈伱‰伤心  @.   … ------------------ 原始邮件 ------------------ 发件人: "Lancelot39/KGSF" @.>; 发送时间: 2022年11月9日(星期三) 下午5:29 @.>; 抄送: "溈伱‰伤心 @*.**@*.>; 主题: Re: [Lancelot39/KGSF] MIM计算问题 (#6) 请问，你第二步（python run.py --is_finetune True）训练跑了大概多久？是第一步运行完成后，直接命令行执行这个语句吗？ 你还记得吗？ 溈伱‰伤心  @.   … 包括finetuning我们在一张卡上跑了13个小时左右 不太记得配置了（2080？） — Reply to this email directly, view it on GitHub, or unsubscribe. You are receiving this because you commented.Message ID: @.***>

请问第一步运行python run.py遇到a view of a leaf Variable that requires grad is being used in an in-place operation错误如何解决