Attention Viz (Transformerのアテンション全体地図)
Transformerモデルのアテンションのパターンを、層とヘッドごとに一画面に並べて比べる可視化ツールです。クエリベクトルとキーベクトルを同じ空間に投影するため、ヘッドごとにまったく違う形のパターンが現れるのを一目で見られます。アテンションヘッドがそれぞれ別の関係を捉えていることを確かめられますが、Transformerの構造をすでに知っている学習者向けです。
使い方
行列表示で縦が層、横がヘッドとして並んだ図の一つをクリックするとそのヘッドに拡大され、2Dと3Dの切り替えや投影方法・モデルの変更ができます。検索欄にトークンを入れて探したり、点の大きさや色の基準を調整でき、「about」のDocumentationやPaperで図の読み方を確認できます。画面が英語のみで、ページの案内どおりデータが数十MBあるため最初の描画に1分ほどかかることがあります。