本文へスキップ

llama3-from-scratch

ゼロから作った Llama3 の実装を読む

公式サイトを見る
カテゴリ AIモデル

Llama3-from-Scratch とは

Llama3-from-Scratch は Llama3 をゼロから実装し、各部分に詳しいコードを添えたオープンソース案件と説明されている。

できること

  • アテンションの実装を読む
  • フィードフォワード層を調べる
  • 重みを読み込み提示を入れる

導入の流れ

  • Python と PyTorch を用意する
  • Llama3 の重みを取得する
  • 案件を手元にクローンする
  • 環境変数とパスを定める

長所と短所

✓ 良い点

  • 任意の提示入力に対応する
  • 重みの読み込み方が示される

! 注意したい点

  • 実行には Python、PyTorch、重みが要る
  • 環境変数とパスの設定が必要

よくある質問

実装される要素は?

機能はアテンション、フィードフォワード層、重みの読み込みを挙げる。

最初に要るものは?

手順は Python と PyTorch、Llama3 の重みファイルを挙げる。

最終評価日: 2026-11-15

その他 LLM APIプラットフォーム ツール

すべて見る →

評価方法