A Multiscale Visualization of Attention in the Transformer Model

BERTやGPT2の中身を可視化するツール。Attention-head view, Model view, Neuron viewの3つの視点から可視化を行っている。これによってモデルに含まれるバイアスや単語間の関係性などの解釈が容易になる。