ArXiv：TREX——2つのAIエージェントが言語モデルのファインチューニング全プロセスを自動化
なぜ重要か
TREXは、大規模言語モデルのファインチューニングの完全なパイプラインを自動化する新しいマルチエージェントシステムです——要件分析と文献探索からデータ準備と結果評価まで。システムは実験プロセスを探索木としてモデル化し、10の実タスクを含むFT-Benchベンチマークでモデルのパフォーマンスを一貫して最適化します。
問題：ファインチューニングには多大な人手が必要
大規模言語モデルのファインチューニング——事前訓練済みモデルを特定タスクに適応させるプロセス——は現在、多大な人間の専門知識を必要とします。研究者は要件を分析し、関連文献を探索し、データを準備し、ハイパーパラメータを選択し、実験を実施し、結果を評価しなければなりません。これらのステップのそれぞれに、経験と直感に依存する意思決定が含まれます。
研究者のZerun Ma、Guoqiang Wang、Xinchen Xieは、2つの連携したAIエージェントを使ってそのプロセス全体を自動化するシステム——TREXを提案しています。
TREXはどのように機能するか？
システムは二つのモジュールに基づいています。Researcher（研究者）は要件分析、文献・データソース探索、訓練戦略の策定を担当します。Executor（実行者）は具体的な実験を実装します——データレシピの準備から訓練の実行と結果評価まで。
重要なイノベーションは実験プロセスを探索木としてモデル化することです。木の各ノードは特定の訓練設定を表し、枝がバリエーションへと続きます。システムは探索パスを効率的に計画し、以前の実験の結果を再利用し、反復的な試みから洞察を抽出することができます——毎回ゼロから始める代わりに。
FT-Benchベンチマークでの結果
評価のために、研究者たちは基礎能力の最適化からドメイン固有のパフォーマンス改善まで幅広くカバーする10の実タスクを含むFT-Benchベンチマークを開発しました。結果は、TREXエージェントが「対象タスクにおいてモデルのパフォーマンスを一貫して最適化する」ことを示しています。
定期的にモデルをファインチューニングするチームにとって、TREXは実験の時間とコストを大幅に削減することが期待されます——現在は高額なMLエンジニアが行っている定型的なステップを自動化することで。
この記事はAIにより一次情報源から生成されました。