Closed zhuiyue233 closed 6 months ago
parser = argparse.ArgumentParser() parser.add_argument('--device', type=str, default='cuda') parser.add_argument('--dataset', type=str, default='pubmed') parser.add_argument('--top_k', type=int, default=3) parser.add_argument('--embedding_dim', type=int, default=4096) parser.add_argument('--batch_size', type=int, default=8192) parser.add_argument('--hidden_dim', type=int, default=1024) parser.add_argument('--combine', type=bool, default=False)
这个embedding_dim默认4096,hidden_dim是1024
这个是follow的FastChat的默认设置
parser = argparse.ArgumentParser() parser.add_argument('--device', type=str, default='cuda') parser.add_argument('--dataset', type=str, default='pubmed') parser.add_argument('--top_k', type=int, default=3) parser.add_argument('--embedding_dim', type=int, default=4096) parser.add_argument('--batch_size', type=int, default=8192) parser.add_argument('--hidden_dim', type=int, default=1024) parser.add_argument('--combine', type=bool, default=False)
这个embedding_dim默认4096,hidden_dim是1024