-
https://virtual2023.aclweb.org/paper_P3684.html#abstract
-
## ざっくり言うと
- documentから重要なsentenceを選ぶタスクにBERTを適用 ---> SOTA
- 文書要約タスクに合わせてBERTのモデルに変更を加えている
- extractive summarization
#### キーワード
- NLP
- document summarization
- extractive summarization
- Tra…
-
## 一言でいうと
要約を作成する際文を抽出してから書き換える形で作成する手法。文選択は単語分散表現をCNNで畳み込みBi-directionalにかけたものをRNNに入れ、ステップごと選択を行う。これをEncoder-Decoderに入れ書き換えを行うが、文選択が微分不可能なため強化学習で最適化を行っている
(#1 で既に読んだ)のモデルを拡張．
- FFNをRNN/LSTMに変えて，Attention部分にCNNを追加
- Attentionの入力にpositional encodingを追加．
- Rush et al.を超えてSOTAを出した．
- abstractive summarization
#### キーワード
…
-
For Abstractive Summarization Task, I run bash preprocess_cnndaily_bin.sh path/to/cnndm_raw_data after downloading [CNN dataset] and [Daily Mail dataset]. However, I met the following problem:
![file…
-
We updated: enabled OCR and changed Top k to 40. We used the "Generative AI and the Nature of Work" paper and it still hallucinated 3 quotes.
This ticket is to have a conversation between D3 and AM.
…
-
# Task Name
Speech Summarization of long speech input that can be even longer than 30 minutes.
## Task Objective
Speech Summarization refers to the task of generating a text summary from a gi…