vega目前是只支持单机版本的AutoML么

huawei-noah / vega

AutoML tools chain

http://www.noahlab.com.hk/opensource/vega/

Other

842 stars 175 forks source link

Closed eedalong closed 2 years ago

eedalong commented 2 years ago

我看distribute_worker似乎并没有具体实现

zhangjiajin commented 2 years ago

Vega 在搜索阶段，支持多个模型同时搜索。比如有三台主机，每台主机有8张V100卡，那么一次可以从搜索空间中搜索24个模型分布对应到每个独立的卡上训练评估。目前不支持模型同时搜索的算法有CARS、DARTS、ModularNAS，除此之外都支持同时搜索。

Vega 在完整训练阶段，支持数据并行加速训练。

@eedalong

XGBoost commented 1 year ago

请问如何设置并行搜索呢？@zhangjiajin