本文へスキップ

exo

家庭にある端末で AI モデルを動かす

公式サイトを見る

exo とは

本プロジェクトは家庭にある iPhone、iPad、Android、Mac、Linux などの端末を一つの GPU にまとめ、AI モデルを動かす実験的なソフトウェアと紹介されている。 LLaMA などのモデルに対応し、動的なモデル分割と ChatGPT 互換の API を備える。

できること

  • LLaMA などのモデルを複数端末で動かす
  • ネットワーク構成と端末の資源に応じてモデルを分割する
  • 手動設定なしで端末を自動検出する
  • 複数の推論エンジンと複数のネットワーク手段を使う

活用場面

  • iPhone と iPad で画像認識のクラスタを組む
  • 家庭の複数 Linux 端末で自然言語処理モデルを動かす
  • Mac と Android 端末を合わせ複雑なデータ分析を行う

導入の手順

  • ソースから導入し Python の依存パッケージを準備する
  • 文書の例に沿って複数端末で起動する
  • 用意された API をアプリに組み込みモデルを動かす
  • 端末の 8000 番ポートで ChatGPT 風の画面を開く

長所と短所

✓ 良い点

  • MLX など複数の推論エンジンに対応する
  • GRPC、Radio、Bluetooth などのネットワーク手段を備える

! 注意したい点

  • 資料は実験的なプロジェクトと説明する
  • モデルの分割はその時々のネットワーク構成と端末資源に左右される

よくある質問

挙がるモデルは?

資料は対応するモデルとして LLaMA を挙げる。

アプリからの接続は?

資料は ChatGPT 互換の API に一行の変更で組み込めると説明。

最終評価日: 2026-11-15

その他 AIコーディングツール ツール

すべて見る →

評価方法