本文へスキップ

MiniCPM-Llama3-V 2.5

端末での利用を想定した 8B のマルチモーダルモデル

公式サイトを見る
カテゴリ AIモデル

MiniCPM-Llama3-V 2.5 とは

MiniCPM-Llama3-V 2.5 は OpenBMB のプロジェクトで公開された端末向けマルチモーダルモデルと紹介され、8B のパラメータと 30 を超える言語への対応を持つ。 本モデルは量子化、CPU、NPU、コンパイラ最適化により端末への効率的な展開を実現すると説明されている。

できること

  • スマートフォンで画像と文章のやり取りをする
  • 場面の文字認識と情報の抽出をする
  • 言語をまたぐ対話とコンテンツ生成をする
  • 量子化で端末へ展開する

モデルについて

  • 概要に 8B のパラメータと記される
  • OpenCompass の平均得点は 65.1
  • OCRBench は 725 で全文 OCR の抽出に対応
  • RLAIF-V のアライメントでハルシネーションを抑える

導入の手順

  • OpenBMB/MiniCPM-V のリポジトリを手元に複製する
  • 仮想環境を作り依存パッケージを導入する
  • 機器に合わせ NVIDIA GPU や Mac MPS で WebUI Demo を動かす
  • Huggingface Transformers か SWIFT で微調整する

長所と短所

✓ 良い点

  • 量子化とコンパイラ最適化で端末への展開を図る
  • RLAIF-V のアライメントでハルシネーションを抑えると説明

! 注意したい点

  • ローカル展開には仮想環境の作成と依存パッケージの導入が要る
  • 微調整は Huggingface Transformers か SWIFT に依存

よくある質問

モデルの規模は?

資料は 8B のパラメータと 30 を超える言語への対応を説明。

どんな数値が挙がる?

機能一覧は OpenCompass 平均 65.1 と OCRBench 725 を挙げる。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法