search

alibaba / DataX

DataX是阿里云DataWorks数据集成的开源版本。
Other
15.94k stars 5.43k forks source link

mysql to mysql同步大表速度限制问题 #2014

Open charmfocus opened 11 months ago

charmfocus commented 11 months ago

因为源库有最大执行时间限制30s，超30秒后SELECT会停止，所以如何才能配置限制SELECT语句的splitPk的单条查询大小，因为源表行数很大，单条SQL查询量都超40W行，查询时间太长会导致Query execution was interrupted, maximum statement execution time exceeded错误

FuYouJ commented 11 months ago

把channel调的特别大试试，比如1000.

Hugh126 commented 10 months ago

为什么不通过某个条件，限制下行数，分多个job来执行呢