本文へスキップ

StarCoder2

600 超のプログラミング言語で事前学習したコードモデル

公式サイトを見る
カテゴリ AIコード生成

StarCoder2 とは

StarCoder2 は 1500 億パラメータの Transformer モデルと紹介され、GitHub を含む 600 超のプログラミング言語のデータで事前学習され、Grouped Query Attention などを用いると説明されている。

できること

  • 提示から Python のコードを生成する
  • コード検索タスク向けに微調整を行う
  • API Endpoint にデプロイしコード生成サービスを提供する
  • 複数のプログラミング言語でコード生成に用いる

モデルについて

  • 資料は 1500 億パラメータの Transformer モデルと記す
  • 学習データは GitHub を含む 600 超のプログラミング言語
  • Grouped Query Attention を用いる
  • CPU、GPU、混合精度の学習と複数の推論デプロイ手段に対応

長所と短所

✓ 良い点

  • CPU、GPU、混合精度の学習に対応
  • 600 超のプログラミング言語をカバー

! 注意したい点

  • 資料に挙がるタスクはコード生成が中心
  • 学習とデプロイは挙げられた機器と推論手段に依存

よくある質問

対応言語は何種?

資料は学習データに 600 超のプログラミング言語を含むと説明。

挙げられる学習方式は?

資料は CPU、GPU、混合精度の学習と複数の推論デプロイ手段を挙げる。

最終評価日: 2026-11-15

その他 AIコーディングツール ツール

すべて見る →

評価方法