Gendered Pronoun Resolution - 15th place solution [0.21074]

[namakemono]

#	##
コンペ	Gendered Pronoun Resolution
リンク	https://www.kaggle.com/c/gendered-pronoun-resolution/discussion/90366#latest-523380
著者	Ilia
論文
コード

概要

• 外部データ: https://www.kaggle.com/c/gendered-pronoun-resolution/discussion/81331

どんなもの？

Embeddings

• BERT(large w/o finetune) -- 9層からEmbeddingを抽出

追加の特徴量

• Pronoun offset

• Pronoun token offset

• A and B tokens offsets

• A and B length

• A,B,代名詞間の距離

• その他(cf. https://www.kaggle.com/pheell/look-ma-no-embeddings) 　

  外部データ

• https://www.kaggle.com/c/gendered-pronoun-resolution/discussion/81331

モデル

訓練

他と比べてどこがすごい？

技術や手法のキモはどこ？

• BERTの9層すべて?を特徴量として利用したところ

どうやって有効だと検証した？

議論はある？

次に読むべき論文は？