本文へスキップ

LLM Transparency Tool

Transformer の言語モデル内部をのぞくオープンソースの道具

公式サイトを見る

LLM Transparency Tool とは

本ツールキットは Transformer 系の言語モデルの内側の動きを分析するオープンソースの対話型の道具で、モデル透明度の向上を狙うと説明されている。

できること

  • モデルとプロンプトを選び推論を走らせる
  • 貢献のグラフを閲覧ししきい値を調整する
  • 選んだトークンからグラフを組み立てる

モデルの要点

  • どのブロックの後でも表現を見られる
  • 出力の語彙の表現が示される
  • 前のブロックで上がったトークンと抑えたトークンが並ぶ

長所と短所

✓ 良い点

  • どのブロックの後でも任意のトークンの表現を選べる
  • 出力の語彙の表現が上がったトークンと抑えたトークンを示す

! 注意したい点

  • 資料にはこの項目の導入の手順が挙がっていない
  • 分析は選んだモデルとプロンプトから始まる

よくある質問

何を可視化する?

資料ではアテンションの流れと情報の伝達経路を可視化すると説明されている。

トークンは調べられる?

資料にはトークンからのグラフ作成と任意のブロック後の表現の閲覧が挙がっている。

最終評価日: 2026-11-15

その他 AIコーディングツール ツール

すべて見る →

評価方法