本文へスキップ

Llama-3.1-Nemotron-70B-Instruct

答えの役立ちを高めた NVIDIA 製の大規模言語モデル

公式サイトを見る
カテゴリ AIモデル

Llama-3.1-Nemotron-70B-Instruct とは

本モデルは Llama-3.1-70B-Instruct を NVIDIA が調整したものと紹介され、RLHF により答えの役立ちを高めると説明されている。

できること

  • 言語の課題に向け答えを生成する
  • OpenAI 互換の API を使う
  • NeMo Framework で配置する

導入の手順

  • NeMo Framework の容器への登録を済ませる
  • NGC の API 鍵を作る
  • nvcr.io にログインしチェックポイントを取得する

長所と短所

✓ 良い点

  • NVIDIA の build 場における無料の委託推論が挙がる
  • NeMo Framework と TRT-LLM による配置が記される

! 注意したい点

  • 資料は数学など特定分野への最適化は行っていないと記す
  • 入口は NGC への登録と docker でのログイン

よくある質問

調整したのは?

資料は NVIDIA を調整元に挙げる。

委託推論はある?

資料は NVIDIA の build 場での無料の委託推論を挙げる。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法