-
## 一言でいうと
Self-Attentionはトークン単体を重視する傾向があり、このため長い系列の学習に弱い。そこで、単語周辺のコンテキストを考慮できるようPoint / Depth wiseのConvolutionを併用するという提案。翻訳におけるBLEUスコアの向上を確認、Point wiseの組み合わせだけでも効果あり。
![image](https://user-image…
-
Articulate a one-sentence computational linguistics _hunch or hypothesis_ regarding the distribution of words, phrases or parsed statements within your corpus relative to some variable (e.g., time, ci…
-
## 0. Paper
@inproceedings{jaidka-etal-2018-diachronic,
title = "Diachronic degradation of language models: Insights from social media",
author = "Jaidka, Kokil and
Chhaya, Niyati …
a1da4 updated
4 years ago
-
There are some sentences where variables appearing in the ICONS do not appear as the intrinsic variable (ARG0) of any EP in the MRS. Likely there is some bug in the grammar during MRS construction, e.…
-
## 0. Paper
@inproceedings{kim-etal-2014-temporal,
title = "Temporal Analysis of Language through Neural Language Models",
author = "Kim, Yoon and
Chiu, Yi-I and
Hanaki, Ken…
a1da4 updated
4 years ago
-
# どんなもの？
- 「コロケーション度合い」の計算は、単純に単語列の出現頻度だけを見ても上手くいかない
- 「C-value」という「コロケーション度合い」を尤もらしく計算する指標を提案
- 具体例含めて、ブログで日本語で解説されている
- https://abicky.net/2015/03/08/120241/
## 論文リンク
https://www.aclweb.or…
upura updated
5 years ago
-
Post your response to our challenge questions.
Articulate a one-sentence computational linguistics hunch or hypothesis regarding the distribution of words, phrases or parsed claims within your corp…
lkcao updated
8 months ago
-
## 0. Paper
@inproceedings{tian-etal-2014-probabilistic,
title = "A Probabilistic Model for Learning Multi-Prototype Word Embeddings",
author = "Tian, Fei and
Dai, Hanjun and
…
a1da4 updated
3 years ago
-
## 一言でいうと
Adamから徐々にSGDへと移行していく最適化手法の提案。既存の研究では大きすぎる学習率の抑制に焦点を置いたものが多かったが、小さすぎる学習率も影響がある点を指摘し、上限/下限を設定することでこれをクリップし所定範囲内で徐々にSGDへ移行するようにしている。
### 論文リンク
https://arxiv.org/abs/1902.09843
### 著…
-
If you want to become a reviewer for ReScience, please post your information here. The format is:
```
[name](github account link)
Scientific expertise - Language expertise
ORCID: [xxxx](http…