Unbalanced Optimal Transport for Unbalanced Word Alignment, Yuki Arase+, N/A, arXiv'23

[AkihikoWatanabe]

URL

• https://arxiv.org/abs/2306.04116

  Affiliations

  • Yuki Arase, N/A
  • Han Bao, N/A
  • Sho Yokoi, N/A

    Abstract

  • Monolingual word alignment is crucial to model semantic interactions betweensentences. In particular, null alignment, a phenomenon in which words have nocorresponding counterparts, is pervasive and critical in handling semanticallydivergent sentences. Identification of null alignment is useful on its own toreason about the semantic similarity of sentences by indicating there existsinformation inequality. To achieve unbalanced word alignment that values bothalignment and null alignment, this study shows that the family of optimaltransport (OT), i.e., balanced, partial, and unbalanced OT, are natural andpowerful approaches even without tailor-made techniques. Our extensiveexperiments covering unsupervised and supervised settings indicate that ourgeneric OT-based alignment methods are competitive against thestate-of-the-arts specially designed for word alignment, remarkably onchallenging datasets with high null alignment frequencies.

    Translation (by gpt-3.5-turbo)

• 単一言語の単語アライメントは、文間の意味的な相互作用をモデル化するために重要です。 特に、null alignmentという現象は、単語に対応する相手が存在しない状況であり、意味的に異なる文を扱う上で普遍的で重要です。 null alignmentの特定は、情報の不平等が存在することを示すことで、文の意味的な類似性についての推論に役立ちます。 アライメントとnull alignmentの両方を重視する不均衡な単語アライメントを実現するために、最適輸送（OT）のファミリー、つまりバランス、部分、および不均衡なOTが、特別なテクニックなしでも自然で強力なアプローチであることを示しています。 私たちの包括的な実験は、教師なしおよび教師ありの設定をカバーしており、一般的なOTベースのアライメント手法が、特に高いnull alignment頻度を持つ難解なデータセットにおいて、単語アライメントのために特別に設計された最新の手法と競争力があることを示しています。

  Summary (by gpt-3.5-turbo)

• 単一言語の単語アライメントにおいて、null alignmentという現象は重要であり、不均衡な単語アライメントを実現するために最適輸送（OT）のファミリーが有効であることを示している。教師あり・教師なしの設定での包括的な実験により、OTベースのアライメント手法が最新の手法と競争力があることが示されている。

[AkihikoWatanabe]

最適輸送で爆速でモノリンガルの単語アライメントがとれるらしい 実装:https://github.com/yukiar/OTAlign

[AkihikoWatanabe]

単語のアライメント先がない（null alignment）、one-to-oneの関係ではなく、one-to-many, many-to-manyのアライメントが必要な問題を（おそらく; もしかしたらnull alignmentだけかも）Unbalancedな単語アライメント問題と呼び、この課題に対して最適輸送が有効なアプローチであることを示しているっぽい