本文へスキップ

Cappy

大規模な多課題言語モデルを支える小型スコアラー

公式サイトを見る
カテゴリ AIモデル

Cappy とは

Cappy は RoBERTa を土台にした軽量の事前学習スコアラーと紹介され、大規模な多課題言語モデルの性能と効率を高め、単独でも補助としても使えると説明されている。

できること

  • 分類課題を単独で解く
  • 言語モデルの補助部品として働く
  • 下流課題で微調整し監督情報を統合する

活用場面

  • 顧客対応ボットが対話の質を高める
  • 検索エンジンが結果の関連性を改める
  • 要約や文章生成の出力を整える

長所と短所

✓ 良い点

  • オープンと非公開の両方のモデルに使える
  • 分類課題だけで単独利用できる

! 注意したい点

  • スコアラーは RoBERTa を土台にする
  • 性能の向上は下流の微調整に左右される

よくある質問

規模はどれほど?

資料は 3 億 6000 万のパラメータと説明。

逆伝播は要る?

資料は言語モデルのパラメータへの逆伝播が不要と説明。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法