本文へスキップ

SLM_Survey

小規模言語モデルの調査と計測のプロジェクト

公式サイトを見る
カテゴリ AIモデル

SLM_Survey とは

本プロジェクトは小規模言語モデルの調査と計測を組み合わせた研究と紹介されている。100M から 5B までのパラメータを持つデコーダのみの Transformer モデルを扱う。

できること

  • 小規模言語モデル同士をデータで比べる
  • 用途に合ったモデルを選ぶ
  • 得られた知見を教材に使う

導入の手順

  • GitHub のページで背景を確かめる
  • README を読んで使い方を知る
  • Issues と Discussions で現在の論点を見る

長所と短所

✓ 良い点

  • 遅れとメモリ使用から実行費用を測る
  • 構成・訓練データ・訓練算法を分析する

! 注意したい点

  • 範囲はデコーダのみの Transformer に限られる
  • 資料に挙がる調査対象は 59 個の公開モデル

よくある質問

何個のモデルを調査?

資料は 59 個の公開小規模言語モデルと説明。

何を計測する?

資料は推論の遅れとメモリ使用の基準試験を挙げる。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法