本文へスキップ

AI21-Jamba-Large-1.6

長い文章向けの混合 SSM-Transformer モデル

公式サイトを見る

AI21-Jamba-Large-1.6 とは

AI21 Labs による混合 SSM-Transformer の基盤モデルと紹介され、長い文章の処理と効率よい推論、複数言語での指示の追随を備えると説明されている。

始め方

  • 依存(mamba-ssm、causal-conv1d、vllm)を導入する
  • 量子化の設定(ExpertsInt8 など)で読み込む
  • AutoTokenizer で入力の文章を符号化する

長所と短所

✓ 良い点

  • 指示の追随と道具呼び出しが挙がる
  • 許諾の条項のもと研究と商用が認められる

! 注意したい点

  • 読み込みは vllm(量子化設定は ExpertsInt8 など)で行う
  • 効率よい推論は資料が挙げる導入構成に左右される

よくある質問

文脈の長さは?

資料は文脈の長さを 256K と説明。

挙がる許諾は?

Jamba Open Model License が挙がり、条項のもと研究と商用が認められる。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法