本文へスキップ

Phi-3-mini-4k-instruct-onnx

推論を速める Phi-3 Mini の ONNX 版

公式サイトを見る
カテゴリ AIモデル

Phi-3-mini-4k-instruct-onnx とは

本保管庫は ONNX Runtime で CPU と GPU の推論を加速する、Phi-3 Mini の最適化 ONNX 版と説明されている。

できること

  • CPU と GPU で推論を加速する
  • Generate() API でモデルをアプリに組み込む
  • 大きなバッチと長い指示を扱う

活用場面

  • 企業の支援に自然言語の対話を添える
  • 執筆補助のテキストを自動で作る
  • 出力から分析レポートを組み立てる

注意点

  • 比較値は最大 10 倍と最大 3 倍とされる
  • 平台ごとの精度設定が説明される
  • 準備には ONNX Runtime とモデルが必要

長所と短所

✓ 良い点

  • 資料は最大 10 倍と最大 3 倍の比較値を挙げる
  • 量子化で小さく導入しやすいとされる

! 注意したい点

  • 公開物は Phi-3 Mini の ONNX 版
  • 比較値は最大 10 倍、最大 3 倍という表記

よくある質問

対応平台は?

資料はサーバー、Windows、Linux、Mac を挙げる。

どの API がある?

資料は ONNX Runtime の Generate() API を説明する。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法