ラマファクトリー：100種類以上のLLM・VLM向け統合ファインチューニング

LLaMA-Factory: 100種類以上のLLMおよびVLM向け統合型ファインチューニング

大規模言語モデル（LLM）とビジョン言語モデル（VLM）の分野は、これまでにない速さで進化を続けています。これらのモデルが複雑化し、その能力を高めるにつれて、効率的でアクセスしやすいファインチューニング（微調整）ソリューションの必要性が極めて重要になっています。そこに登場するのがLLaMA-Factoryです。これは、開発者や研究者がモデルのカスタマイズに取り組む方法を再定義する、高く評価されているオープンソースプロジェクトです。

LLaMA-Factoryとは？

LLaMA-Factoryは、100種類以上のLLMおよびVLMへの適応プロセスを簡素化するために設計された、包括的で統合されたファインチューニングフレームワークです。ACL 2024で論文が発表され、GitHubでは53,000を超えるスターを獲得しており、事前学習済みモデルを特定のタスクやデータセットに合わせて効率的に調整するための堅牢なツールキットを提供します。その核となる強みは、基盤となる複雑さの多くを抽象化している点にあり、コード不要のコマンドラインインターフェース（CLI）と、Gradioを基盤とする直感的なWeb UI（LlamaBoard）の両方を提供します。

主要な機能と利点

LLaMA-Factoryは、多様なAI開発ニーズに応える豊富な機能を備え、際立っています。

• 幅広いモデルをサポート: LLaMA、LLaVA、Mistral、Mixtral-MoE、Qwen、Gemma、ChatGLM、Phiなど、非常に多様な人気モデルをサポートしています。この幅広い互換性により、ユーザーは自分の好みに合う、または最も適したモデルで作業できます。

• 統合された学習アプローチ: 継続的な事前学習、教師ありファインチューニング（SFT）から、PPO、DPO、KTO、ORPOのような人間からのフィードバックに基づく強化学習（RLHF）の高度な手法まで、LLaMA-Factoryは複数の学習パラダイムを統合しています。この柔軟性により、深いカスタマイズと性能最適化が可能になります。

• 効率的なリソーススケーリング: 16ビットフルチューニング、フリーズチューニング、LoRAやAQLM/AWQ/GPTQ/LLM.int8/HQQ/EETQを介した様々な2/3/4/5/6/8ビットQLoRA最適化などのParameter-Efficient Fine-Tuning（PEFT）手法といった高度な技術で、メモリや計算量の制約に対処します。これにより、大規模モデルのファインチューニングを、より手頃なハードウェア上でも可能にします。

• 高度なアルゴリズムと実用的な最適化: GaLore、BAdam、APOLLO、DoRA、LongLoRA、PiSSAなどの最先端のアルゴリズムに加え、FlashAttention-2、Unsloth、Liger Kernel、NEFTuneなどの実用的な最適化も組み込まれており、トップクラスの性能と効率性を保証します。

• 多様なタスク処理: LLaMA-Factoryは、単純なテキスト生成に限定されません。マルチターンダダイアログ、ツール利用、画像認識、視覚グラウンディング、音声認識など、幅広いタスクに対応しており、マルチモーダルAIアプリケーションに理想的です。

• ユーザーフレンドリーなインターフェース: スクリプトによる操作を好む方でも、グラフィカルインターフェースを好む方でも、LLaMA-Factoryは対応できます。llamafactory-cliは強力なターミナルコマンドを提供し、GradioベースのWeb UIはトレーニング、評価、推論のための視覚的でインタラクティブな体験を提供します。

• 高速な推論: 統合されたvLLMまたはSGLangワーカーを使用して、ファインチューニングしたモデルを簡単にデプロイできます。これにより、OpenAIスタイルのAPIやGradio UIを介して、より高速で同時実行可能な推論を可能にします。

• 包括的な実験監視: LlamaBoard、TensorBoard、Wandb、MLflow、SwanLabといった人気のある監視ツールに対応しており、実験を綿密に追跡できます。

• 業界からの評価: Amazon、NVIDIA、Aliyunといった主要企業による採用は、LLaMA-Factoryの信頼性と実世界での実用性を雄弁に物語っています。

LLaMA-Factoryの始め方

LLaMA-Factoryのセットアップは簡単です。ユーザーはソースから直接インストールしたり、迅速なデプロイのために事前に構築されたDockerイメージを活用したり、Google ColabやPAI-DSWのような無料のクラウド環境で実行したりできます。プロジェクトには明確なドキュメントとクイックスタートガイドがあり、わずか数コマンドでLoRAファインチューニング、推論、モデルマージを実行する方法が示されています。

llamafactory-cli train examples/train_lora/llama3_lora_sft.yaml
llamafactory-cli chat examples/inference/llama3_lora_sft.yaml
llamafactory-cli export examples/merge_lora/llama3_lora_sft.yaml

GUIを好む方には、llamafactory-cli webuiを実行するだけで直感的なLLaMA Boardが起動します。

まとめ

LLaMA-Factoryは、高度な大規模モデルのファインチューニングへのアクセスを民主化することで、AIコミュニティを力づけます。包括的な機能、ユーザーフレンドリーな設計、堅牢な性能の融合により、LLMやVLMの可能性を最大限に引き出したいすべての人にとって不可欠なツールとなっています。経験豊富なAI実務者でも、始めたばかりの方でも、LLaMA-Factoryはカスタムで高性能なAIモデルを構築するための、強力で効率的、かつアクセスしやすい道筋を提供します。