本文へスキップ

Zamba2-7B

端末での利用を想定した小型 7B 言語モデル

公式サイトを見る
カテゴリ AIモデル

Zamba2-7B とは

本モデルは Zyphra チームによる小型 7B 言語モデルと紹介され、端末と汎用 GPU での稼働を想定すると説明されている。

できること

  • 文章の生成・翻訳・要約を行う
  • アプリへモデルを組み込む
  • 汎用の機材で動かす
  • Instruct 版か Base 版を選ぶ

モデルについて

  • 共有アテンションで Mamba2 の背骨に多くの引数を割り当てる
  • 共有 MLP ブロックごとに LoRA 射影を施す
  • 3 兆トークンを選別し事前学習に用いる
  • 焼きなまし段階で 100B トークンに学習率を下げる

導入の手順

  • Hugging Face のページで許諾を確かめる
  • Instruct 版か Base 版をダウンロードする
  • 文書を読み組み込み方を知る
  • 言語処理の課題に適用する

長所と短所

✓ 良い点

  • 資料は最初のトークン生成が速くメモリ使用が少ないと説明
  • Instruct 版と Base 版を取得できる

! 注意したい点

  • 利用は Hugging Face のページと許諾条件から始まる
  • 組み込みはプロジェクトの文書に沿う

よくある質問

誰が開発した?

資料は Zyphra チームの開発と説明。

どの版がある?

資料は Instruct Zamba2-7B と Base Zamba2-7B を挙げる。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法