boost-devs / peer-session

🚀 부스트캠프 AI Tech 1기 U-Stage 4조 피어 세션 자료/질문 모음 (archived)
8 stars 2 forks source link

[MJ] 똑같은 단어가 있으면 Word2vec이 어떻게 동작하는지? #63

Closed mj950425 closed 3 years ago

mj950425 commented 3 years ago

🙌 질문자

❓ 질문 내용


CoodingPenguin commented 3 years ago

http://jalammar.github.io/illustrated-word2vec/

위의 자료의 Skipgram 부분을 참고했을 때 똑같은 단어가 문장에 있는 것과 상관없이 윈도우를 슬라이딩 하면서 (input, output) 쌍을 만드는 것 같습니다! 그래서 GloVe에서 교수님이 말씀해주셨던 것처럼 Word2Vec에는 똑같은 (input, output) 쌍이 있을 수 있다는 말이 중복 여부와 상관없이 슬라이딩 하면서 쌍을 만들어서 그런 말이 나온 것 같습니다.