Closed DaikiTanak closed 4 years ago
asakawa (Tokyo joshi univ)
注意機構は言語モデルに止まらず画像処理やGANなどにも応用されてきている。 例えばConvでは近傍画素との畳み込みを考えるが、注意では代わりに遠い画素に注意を向けることができる。
speaker
asakawa (Tokyo joshi univ)
注意機構
注意機構は言語モデルに止まらず画像処理やGANなどにも応用されてきている。 例えばConvでは近傍画素との畳み込みを考えるが、注意では代わりに遠い画素に注意を向けることができる。
BERT