csabaiBio / elte_ml_journal_club

Machine learning journal club
https://csabaibio.github.io/elte_ml_journal_club/
6 stars 0 forks source link

2019.11.26. #16

Closed riblidezso closed 4 years ago

riblidezso commented 4 years ago

Sziasztok,

En ezt atnezem, es elmondom jovo heten. https://arxiv.org/abs/1911.05722

Momentum Contrast for Unsupervised Visual Representation Learning Kaiming He, Haoqi Fan, Yuxin Wu, Saining Xie, Ross Girshick (Submitted on 13 Nov 2019 (v1), last revised 14 Nov 2019 (this version, v2)) We present Momentum Contrast (MoCo) for unsupervised visual representation learning. From a perspective on contrastive learning as dictionary look-up, we build a dynamic dictionary with a queue and a moving-averaged encoder. This enables building a large and consistent dictionary on-the-fly that facilitates contrastive unsupervised learning. MoCo provides competitive results under the common linear protocol on ImageNet classification. More importantly, the representations learned by MoCo transfer well to downstream tasks. MoCo can outperform its supervised pre-training counterpart in 7 detection/segmentation tasks on PASCAL VOC, COCO, and other datasets, sometimes surpassing it by large margins. This suggests that the gap between unsupervised and supervised representation learning has been largely closed in many vision tasks.

Udv Dezso

qbeer commented 4 years ago

Sziasztok!

Én most ezt mondanám el Human-level control through deep reinforcement learning. Ezzel a cikkel robbant be a Deep Mind a köztudatba, mert megtanultak Atari játékokat játszani. Mostanában sokat olvastam RL-ről és egyenlőre még nincs ötletem, hogy mire lehetne használni nálunk, de várom az ötleteket.

Alex

riblidezso commented 4 years ago

Sziasztok,

Páran egy AI konferencián lesznek. Biricz András azt mondta ő inkább nem jönne, és a konferencián maradna. Döntsük el eltoljuk-e egy héttel. Nekem mindegy. Holnap reggelig próbáljuk meg kitalálni. Írjatok.

Üdv Dezső

patbaa commented 4 years ago

Én is a konferencián leszek, de hogyha vagytok elegen, szerintem tartsátok meg. Úgy látom témák már vannak. A Kaiming He-s cikk abstractja elég jól hangik egyébként.

qbeer commented 4 years ago

Én még mindig azt mondom, hogy jönnék, de kezdjük 14:30-kor, hogy ne kelljen visszarohannom. Szerintem Andrist is meg tudom győzni. :D

On Nov 25 2019, at 9:50 pm, Balint Armin Pataki notifications@github.com wrote:

Én is a konferencián leszek, de hogyha vagytok elegen, szerintem tartsátok meg. Úgy látom témák már vannak. A Kaiming He-s cikk abstractja elég jól hangik egyébként.

— You are receiving this because you commented. Reply to this email directly, view it on GitHub (https://github.com/riblidezso/elte_ml_journal_club/issues/16?email_source=notifications&email_token=AF36MM4SGS22CRJKFVIQXHTQVQ3BBA5CNFSM4JPUV6E2YY3PNVWWK3TUL52HS4DFVREXG43VMVBW63LNMVXHJKTDN5WW2ZLOORPWSZGOEFDYBWY#issuecomment-558334171), or unsubscribe (https://github.com/notifications/unsubscribe-auth/AF36MM4OXDLECJFMODAOKLLQVQ3BBANCNFSM4JPUV6EQ).

icsabai commented 4 years ago

OK, akkor 14:30, aki tud jönni, jöjjön. Jövő héten meg várjuk a beszámolót a konferenciáról, ha volt valami érdekes.

qbeer commented 4 years ago

Ezt mondom majd el, meg a DQN cikket. Azért ezt a linket adom meg, mert lehet, hogy a későbbiekben frissülni fog még a prezentáció.