FB15k-237-IMG released the checkpoints

zjunlp / MKGformer

[SIGIR 2022] Hybrid Transformer with Multi-level Fusion for Multimodal Knowledge Graph Completion

MIT License

168 stars 28 forks source link

FB15k-237-IMG released the checkpoints #35

Closed YuyangWei closed 11 months ago

YuyangWei commented 1 year ago

您好，我想要与您的方法进行对比。请问一下，这个checkpoints的预训练方法是什么？

njcx-ai commented 1 year ago

您好，“FB15k-237-IMG released the checkpoints”这里指的是基于masked entity prediction的方式学习多模态实体的向量表示，基于此checkpoints我们进行后续的link prediction任务的训练。

YuyangWei commented 1 year ago

非常感谢您的回答！我现在遇到一个问题：OSError: Unable to load weights from pytorch checkpoint file for 'bert-base-uncased' at '/root/.cache/huggingface/transformers/a8041bf617d7f94ea26d15e218abd04afc2004805632abc0ed2066aa16d50d04.faf6ea826ae9c5867d12b22257f9877e6b8367890837bd60f7c54a29633f7f2f'If you tried to load a PyTorch model from a TF 2.0 checkpoint, please set from_tf=True. 不知道您有没有遇到过，我的pytorch版本是1.7.1

njcx-ai commented 1 year ago

您好，这个问题我们之前确实没遇到过呢，感觉像是模型版本和torch版本不匹配

YuyangWei commented 1 year ago

谢谢您的回答。还有个问题想要请教一下：在执行Missing Entity Prediction时，是不是需要很长时间，我运行一个epoch需要20个小时。

zxlzr commented 11 months ago

您好，抱歉回复晚了，具体速度和时间和gpu型号有关。

wzl0422 commented 1 month ago

谢谢您的回答。还有个问题想要请教一下：在执行Missing Entity Prediction时，是不是需要很长时间，我运行一个epoch需要20个小时。

你好我也是需要很久，大概一个epoch一小时，你解决了吗？我用的3090