search

vshcherbyna / igel

UCI compatible chess engine
GNU General Public License v3.0
92 stars 9 forks source link

Cutechess match finishes with error "connection stalls" when use parameter -concurrency 4 on Ubuntu 18.04 #103

Closed ChizhovVadim closed 4 years ago

ChizhovVadim commented 5 years ago

Igel 2.0 падает в cutechess через несколько партий: ./cutechess-cli -engine conf=counter34 -engine conf=igel -each tc=40/60 option.Hash=64 -tournament gauntlet -games 100 -openings file=/home/vadim/chess/openings/25000.pgn plies=8 -pgnout /home/vadim/chess/old.pgn -repeat -resign movecount=4 score=700 -concurrency 4 -ratinginterval 1

vshcherbyna commented 5 years ago

Доброе время суток Вадим,

Спасибо за баг. Я посмотрю под линуксом в чем дело. У вас нет случайно лог файла в котором виден output? Можно запустить cutechess-cli с параметром -debug что бы его получить.

P.S. я в основном прогоняю все тесты под cutechess-cli но под виндой, такой проблемы не встречал

ChizhovVadim commented 5 years ago

Володимир, Странно перестало воспроизводиться, хотя раньше падало несколько раз. Перезагрузка компьютера помогла. Если будет еще падать, то напишу.

vshcherbyna commented 5 years ago

Доброе время суток Вадим,

Я бы хотел воспроизвести этот баг с вашим файлом /home/vadim/chess/openings/25000.pgn. Вы не могли бы его мне переслать?

Спасибо, С ув. Владимир

ChizhovVadim commented 5 years ago

Прикрепил. Вообще взял книгу отсда, если что http://rebel13.nl/download/stk.html

чт, 24 окт. 2019 г. в 13:23, Volodymyr Shcherbyna <notifications@github.com

:

Доброе время суток Вадим,

Я бы хотел воспроизвести этот баг с вашим файлом /home/vadim/chess/openings/25000.pgn. Вы не могли бы его мне переслать?

Спасибо, С ув. Владимир

— You are receiving this because you authored the thread. Reply to this email directly, view it on GitHub https://github.com/vshcherbyna/igel/issues/103?email_source=notifications&email_token=AEMEENEAGCZUAIOF7LSB5JTQQFZRXA5CNFSM4JC2UD3KYY3PNVWWK3TUL52HS4DFVREXG43VMVBW63LNMVXHJKTDN5WW2ZLOORPWSZGOECEQ4DY#issuecomment-545852943, or unsubscribe https://github.com/notifications/unsubscribe-auth/AEMEENHX45UUL5TS7KURZ6TQQFZRXANCNFSM4JC2UD3A .

vshcherbyna commented 5 years ago

Спасибо! Вечером прогоню тесты.

vshcherbyna commented 5 years ago

Прогнал 35 игр с практически идентичными параметрами под Debian Stretch x64:

cutechess-cli -engine cmd=./Counter-v3.4-linux-64 -engine cmd=./igel-x64_popcnt -each proto=uci tc=40/60 option.Hash=64 -tournament gauntlet -games 100 -openings file=./25000.pgn plies=8 -pgnout old.pgn -repeat -resign movecount=4 score=700 -concurrency 4 -ratinginterval 1

... к сожалению проблему повторить не получилось. Я добавлю линуксовые машины в свои стандартные тесты перед релизом, может быть получиться словить этот баг.

ChizhovVadim commented 5 years ago

Опять воспроизвелось, но запускал без -debug, где-то на 25 партии упало. Еще попробую погонять.

ChizhovVadim commented 5 years ago

8762252 >igel(5): position startpos moves f2f4 g8f6 g1f3 d7d5 e2e3 c7c5 b2b3 b8c6 f1b5 d8c7 c1b2 c8d7 e1g1 e8c8 b5c6 d7c6 f3e5 e7e6 d2d3 d5d4 e5c6 c7c6 e3e4 g7g6 b1d2 f8g7 a2a4 f6e8 d1f3 e8d6 b2a3 c8c7 b3b4 c5b4 a3b4 c7b8 d2b3 d8d7 b3a5 c6a6 f1b1 h8c8 b1b2 c8c7 e4e5 d6f5 g2g4 f5h4 f3h3 g6g5 a1b1 b8c8 a5c4 c7c4 d3c4 a6c6 b2b3 h7h6 a4a5 c6e4 a5a6 b7b6 h3g3 e4e2 c4c5 d4d3 c2d3 b6b5 b3b2 e2d3 c5c6 d3d4 g3f2 d7d5 f2d4 h4f3 g1g2 f3d4 f4g5 d5e5 g5h6 g7h6 b4c3 e5e4 h2h3 d4c6 b2b5 e4e2 g2h1 h6f4 b5c5 c8d7 c5c4 e2h2 h1g1 8762252 >igel(5): isready 8762252 <igel(5): readyok 8762252 >igel(5): go wtime 99231 btime 100192 movestogo 33 8861885 >igel(5): stop Terminating process of engine igel(5)

vshcherbyna commented 5 years ago

Спасибо, я вечером прогоню тест с той позиции где у вас упало.

On Fri, Oct 25, 2019 at 10:23 AM Vadim Chizhov notifications@github.com wrote:

Опять воспроизвелось, но запускал без -debug, где-то на 25 партии упало. Еще попробую погонять.

— You are receiving this because you commented. Reply to this email directly, view it on GitHub https://github.com/vshcherbyna/igel/issues/103?email_source=notifications&email_token=AACSJI7XLQGRZAP42RA3PVTQQKUIRA5CNFSM4JC2UD3KYY3PNVWWK3TUL52HS4DFVREXG43VMVBW63LNMVXHJKTDN5WW2ZLOORPWSZGOECHTEVQ#issuecomment-546255446, or unsubscribe https://github.com/notifications/unsubscribe-auth/AACSJIYQPNB4TBBILTVN6ITQQKUIRANCNFSM4JC2UD3A .

-- avec mes meilleures salutations

vshcherbyna commented 4 years ago

В тестах TCEC на 256 процессорах была схожая проблема, решилась изменением метода определения времени, так что этот баг должен быть пофикшен в версии https://github.com/vshcherbyna/igel/releases/tag/2.1.1. Я также сделал билд для убунту что бы было удобнее тестировать: igel-x64_popcnt_Ubuntu_18_04_LTS

vshcherbyna commented 4 years ago

Вадим, в версии 2.2.0 https://github.com/vshcherbyna/igel/releases/tag/2.2.0 пофикшена основная проблема с "connection stalls". Проблема была в баге связанном с запуском поиска.

ChizhovVadim commented 4 years ago

Volodymyr,подтверждаю, в 2.2.0 ошибки нет.

пн, 23 дек. 2019 г. в 12:26, Volodymyr Shcherbyna <notifications@github.com

:

Вадим, в версии 2.2.0 https://github.com/vshcherbyna/igel/releases/tag/2.2.0 пофикшена основная проблема с "connection stalls". Проблема была в баге связанном с запуском поиска.

— You are receiving this because you authored the thread. Reply to this email directly, view it on GitHub https://github.com/vshcherbyna/igel/issues/103?email_source=notifications&email_token=AEMEENF4KBPOQJAPIZYF6ZTQ2B72VA5CNFSM4JC2UD3KYY3PNVWWK3TUL52HS4DFVREXG43VMVBW63LNMVXHJKTDN5WW2ZLOORPWSZGOEHQVPWI#issuecomment-568416217, or unsubscribe https://github.com/notifications/unsubscribe-auth/AEMEENAJ4ZGBQDFVAC3R3XLQ2B72VANCNFSM4JC2UD3A .

vshcherbyna commented 4 years ago

Спасибо за тест Вадим. Кстати, вы получили приглашение в TCEC S17? Я не вижу в списке https://wiki.chessdom.org/TCEC_Season_17_Engines Counter'a ...

Если приглашение не прислали, я сделаю заявку.

ChizhovVadim commented 4 years ago

Интересно. Ничего себе у них железо: 176 потоков и 64Gb под хэш-таблицу. А у меня в дивжке ограничение на макс размер хеша 1Gb :-). Кол-во потоков у меня не ограничено, но LazySMP явно кривой алгоритм для большого кол-ва ядер.

вт, 24 дек. 2019 г. в 23:07, Volodymyr Shcherbyna <notifications@github.com

:

Спасибо за тест Вадим. Кстати, вы получили приглашение в TCEC S17? Я не вижу в списке https://wiki.chessdom.org/TCEC_Season_17_Engines Counter'a ...

Если приглашение не прислали, я сделаю заявку.

— You are receiving this because you authored the thread. Reply to this email directly, view it on GitHub https://github.com/vshcherbyna/igel/issues/103?email_source=notifications&email_token=AEMEENACNHM6ZV35SEGYR6LQ2JTYRA5CNFSM4JC2UD3KYY3PNVWWK3TUL52HS4DFVREXG43VMVBW63LNMVXHJKTDN5WW2ZLOORPWSZGOEHTST3I#issuecomment-568797677, or unsubscribe https://github.com/notifications/unsubscribe-auth/AEMEENFB5THPEEN3BMXKXC3Q2JTYRANCNFSM4JC2UD3A .

vshcherbyna commented 4 years ago

На самом деле ограничение по памяти в TCEC 128 а не 64 гига. Единственное условие - нужно быстро инициализировать память (в течении 60 сек т.к. это лимит cutechess-cli). Этого можно достичь если разделить memset между потоками (при условии что их количество передано в движек и больше чем один). Для этого сисадмины TCEC поменял порядок параметров, и Threads передается самым первым.

На данный момент это делает только игель и стокфиш, в QL только игель будет юзать 128 гб оперативы, инициализация 128 гб на 178 потоках занимает около 6 секунд. Тут виден код: https://github.com/vshcherbyna/igel/blob/next/src/tt.cpp#L100

Я думаю что если у вас есть время сделать параллельный memset то Counter тоже сможет использовать эту память :)