Inception Labs

Inception Labs とは

Inception Labs は拡散型の大規模言語モデルを開発する企業。中心製品の Mercury シリーズは並列生成の仕組みで生成速度を高めることを狙い、OpenAI 互換 API、オンプレミス運用、ファインチューニングに対応する。

Stanford、UCLA、Cornell の研究者が設立し、処理量の数値と主流モデルとの速度比較を掲げている。

できること

• Mercury モデルを OpenAI 互換 API から呼び出す
• コード補完に使う
• 自社の環境に導入する
• 特定の作業に合わせて調整する

向いている人

• 高速なコード生成を必要とするチーム
• 低遅延のモデル API を求める企業
• 自社運用を必要とする組織

注意点

• 処理量の数値と速度の比較はベンダーの主張であり、自分の処理で検証する
• 拡散型言語モデルは新しい方式であり、速度だけでなく品質も評価する
• 自社運用では基盤と安全性の対応が利用者側に移る
• 現在の提供状況、料金、利用条件を確認する