本文へスキップ

OneGen

生成と検索を一回の順伝播にまとめる

公式サイトを見る
カテゴリ AIモデル

OneGen とは

OneGen は大規模言語モデル向けの効率的な単一パス生成・検索の枠組みと紹介され、生成と検索を同じ文脈にまとめる。これにより大規模言語モデルは一回の順伝播で両方のタスクをこなすと説明されている。

できること

  • 生成・検索・混合のタスク向けにモデルを微調整する
  • 自己回帰的に生成される検索トークンで検索を行う
  • 事前学習済みモデルを取得し、またはゼロから学習する
  • 用意された評価スクリプトで性能を評価する

活用場面

  • 事前学習済みモデルでテキスト内の実体を識別する
  • シングルホップ質問応答の答えを生成する
  • マルチホップ質問応答で推論から答えに至る

導入の手順

  • OneGen のリポジトリを手元の環境へ複製する
  • Python の仮想環境を作成して有効にする
  • 必要な依存パッケージを導入する
  • データセットをダウンロードし展開して学習か推論に備える

長所と短所

✓ 良い点

  • 統合処理により導入コストが抑えられる
  • クエリに二度目の順伝播が不要になる

! 注意したい点

  • 導入にはリポジトリの複製と Python 仮想環境が必要
  • 学習や推論の前にデータセットのダウンロードと展開が要る

よくある質問

挙がっているタスクは?

資料には実体リンク、シングルホップ質問応答、マルチホップ質問応答が挙がる。

推論コストをどう抑える?

検索と生成が同じ順伝播で行われ、クエリを二度計算しないため。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法