本文へスキップ

InternLM2.5-7B-Chat-1M

1M の文脈窓を持つ 70 億パラメータ対話モデル

公式サイトを見る

InternLM2.5-7B-Chat-1M とは

オープンソースの 70 億パラメータの対話モデルと紹介され、推論の力、1M の文脈窓、長い文章の課題向けの道具呼び出しを備えると説明されている。

始め方

  • 必要なライブラリ(torch、transformers)を入れ Hugging Face からモデルを読む
  • AutoTokenizer と AutoModelForCausalLM で読み込む
  • 精度(torch.float16)を設定しメモリ不足を避ける

長所と短所

✓ 良い点

  • 資料はローカルと逐次出力の生成を説明
  • OpenAI API に互換のサービスを起動できる

! 注意したい点

  • 読み込みは精度(torch.float16)でメモリ不足を避けると説明
  • 頁からの情報収集は道具呼び出しに沿う

よくある質問

文脈の長さは?

資料は長い文章の課題向けに 1M の文脈窓と説明。

挙がる道具は?

LMDeploy、Transformers、vLLM などが記載。

最終評価日: 2026-11-15

その他 AIチャットボット ツール

すべて見る →

評価方法