Text Processing Like Humans Do: Visually Attacking and Shielding NLP Systems

https://aclanthology.org/N19-1165
著者/所属機関

Steffen Eger

投稿年

2019

概要：

【研究背景】

SNSや社会的メディアのコメントで使用される覆い隠された侮辱的コメントが与える影響についての研究. 人間は視覚的に単語の意味を判断することができるが、単語をベクトルとして認識する機械には理解ができない. 覆い隠された侮辱的コメントとは、「!d10t(idiot)」など

【提案手法】

このゆな攻撃の防御方法として3点上げる.
視覚的な文字の埋め込み
敵対的なトレーニング
ルールベースの復元これらにより、システムのロバスト性向上に繋がるのではないか
【用語メモ】
- leet speak インターネット上で使われる、文字に似通った記号を単語に埋め込んで投稿する行為 idiot→!d10tなど(馬鹿野郎という意味)
  実験

感想

日本語にもleet speakは存在する.