CREATER: CTR-Driven Advertising Text Generation with Controlled Pre-Training and Contrastive Fine-Tuning

[ichiroex]

Wei, Penghui, Xuanhua Yang, Shaoguo Liu, Liang Wang, and Bo Zheng. 2022. “CREATER: CTR-Driven Advertising Text Generation with Controlled Pre-Training and Contrastive Fine-Tuning.” arXiv [cs.CL]. arXiv. http://arxiv.org/abs/2205.08943.

解決したい課題

高品質なレビューコメントから広告文（フィード広告）を生成するタスクに取り組む。 ユーザーの興味を惹きつけるようなCTRが高い広告文を生成することが本研究の目的。

本タスクには以下の3つの課題がある

• (1) 適切なソーステキストを用意する必要がある
  • LPのタイトルは複数の製品の情報が混ざっていることがある。またユーザーの好みを反映していない。
• (2) 従来手法は交差エントロピー誤差で最適化しており、CTRを考慮していない
• (3)大量のペアデータを用意する必要がある（low-resource probelm）

提案手法

それぞれの課題に対する解決策は以下の通り。

• (1) 高品質なレビューコメントと広告テキストのペアデータを利用する。レビューを使うことでユーザーの嗜好も反映できる。
• (2) A/Bテストのユーザーフィードバック情報をつかってcontrastive learningにより学習する。
• (3) アライメントされていない大量のレビューコメントを使って事前学習する

問題設定

• 入力
  • レビューコメント
  • Aspect term （1単語）
  • Aspect termは事前学習コーパス（レビューコメント）から、ABAEという教師無し手法により収集する
• 出力
  • 広告文

提案手法は事前学習とファインチューニングの2段階により学習。

事前学習

• レビューコメントをセグメントに分割して、aspect termと最も類似度が高いセグメントをマスク化する。
• そしてそのセグメントを疑似参照テキストとして、レビューコメント, aspect term -> セグメント文を復元する self-supervised learning を行う。

ファインチューニング

• データセットの構築
  • （ソース文, aspect term, CTRが高い広告文, CTRが低い広告文）のデータを構築
  • 広告文は人手で作成されたもの
  • CTR高い/低いのラベルはA・Bテストで獲得

Contrastive learningの手法は2パターンある

• Margin-based Contrastive Fine-Tuning

  • positive事例の生成確率がnegative事例よりも大きくなるように?学習を進める
  • 追加のパラメータが不要。生成確率に対して直接的に最適化できる点がメリット。

• InfoNCE-based Contrastive Fine-Tuning

  • sourceとpositive事例の類似度を最大化し、sourceとnegative事例の類似度を最小化する
  • 追加のパラメータが必要になるが、encoder/decoderにおけるrepresentationを改善できるメリットがある

結果

オフライン評価

様々な手法と比較

ablation studyやlow-resource settingにより、提案手法の有用性を確認。

オンライン評価

一週間のオンライン評価を実施。広告主により提供された広告文（BASE）よりも優れていた。 (Q) 評価対象はランダムに選択したと記載があったが、事実が異なる生成テキストがどのように選んだのか