Chapter 12. Sequence Labeling ; 01) ~ 07)

[jinmang2]

집현전 초급반 스터디

• 2022년 6월 19일 일요일 8시
• 강민영님 임성민님 송진수님 발표
• https://wikidocs.net/book/2155
• https://github.com/ukairia777/tensorflow-nlp-tutorial

[jinjukang67]

https://docs.google.com/presentation/d/18nenbEFP1ZiphXyjUTVrfq0h6FtJ-Ikw/edit?usp=sharing&ouid=105710726871804092483&rtpof=true&sd=true

[mickeyshoes]

Q) diff input concatenate and Bidirectional(layer, merge_mode='concat')

keras.layers.Bidirectional 의 arguments 중 하나인 merge_mode='concat' 은 Bidirectional 객체를 만들기 위해 들어오는 input layer 의 forward result 와 backward result 의 결과를 어떻게 합칠 것인지에 대해 방법을 정의하는 옵션입니다. default 옵션은 concatenate 이고 다른 옵션은 sum, mul 등이 있습니다(https://keras.io/api/layers/recurrent_layers/bidirectional/).

이번 발표에서 설명드린 concatenate 는 “단어 단위”로 정수 인코딩 된 데이터들을 임베딩 레이어에 넣어서 얻은 word vector 와 “문자 단위”로 정수 인코딩 된 sequence 데이터들을 임베딩 레이어에 넣어서 얻은 word vector 를 연결하여 BiLSTM에 input data 로 넣기 위한 동작으로 Bidirectional(merge_mode=‘concat’)과는 관련이 없습니다! 질문 주신 덕분에 Bidirectional class 의 다양한 옵션을 공부할 수 있었습니다. 좋은 질문 감사드립니다 :-)

[jinmang2]

• 발표링크: https://www.youtube.com/watch?v=aqH-I4qgbyM&list=PL2tRglRS_GqjK-NODYBHYZ5Mv4hYBkb32&index=14