本文へスキップ

phixtral-2x2_8

二つの phi-2 から成る混合エキスパートモデル

公式サイトを見る
カテゴリ AIモデル

phixtral-2x2_8 とは

本モデルは二つの microsoft/phi-2 から作られた混合エキスパートの文章生成モデルと紹介されている。

できること

  • 混合エキスパート方式で文章を生成する
  • GPU で 4 ビット精度により動かす
  • 挙がる指標でモデルを評価する
  • Colab のノートブックで使う

使用の例

  • 深層学習の研究で文章を生成する
  • モデルの評価に用いる
  • 4 ビット精度で GPU 上において実行する

モデルについて

  • 構成は Mixtral-8x7B-v0.1 に着想を得る
  • 独自の mergekit 分岐が使われる
  • 資料は AGIEval、GPT4All、TruthfulQA、Bigbench を挙げる
  • 資料は個々のエキスパートモデルより成績が良いと説明

長所と短所

✓ 良い点

  • 無料 T4 GPU で 4 ビット精度により動く
  • AGIEval、GPT4All、TruthfulQA、Bigbench が挙がる

! 注意したい点

  • 独自の mergekit 分岐を用いる
  • 挙がる指標は評価の集合

よくある質問

規模は?

資料は 4.46B のパラメータと F16 のテンソル型と説明。

どこで動く?

資料は Colab の無料 T4 GPU で 4 ビット精度により動くと説明。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法