search

HKUDS / UrbanGPT

[KDD'2024] "UrbanGPT: Spatio-Temporal Large Language Models"
https://urban-gpt.github.io
Apache License 2.0
266 stars 34 forks source link

关于encoder的疑问 #5

Closed poppy0293 closed 6 months ago

poppy0293 commented 6 months ago

尊敬的作者我有两个关于encoder的疑问：

  1. 如何在训练过程中不使用st_encoder? ST_Llama.py中是否可以直接更改？
  2. 请问有pretrain encoder的pipeline吗？我想要在其他数据集上试着训练~ 谢谢！
LZH-YS1998 commented 6 months ago

您好！

  1. 可以的，直接在ST_Llama.py将st_encoder部分和embedding替代部分去掉即可。
  2. 在st_layers的ST_Encoder.py部分有详细代码。
poppy0293 commented 6 months ago

好的谢谢！