Microsoft AutoAdapt：30分・4ドルでLLMを専門ドメインに自動適応

Microsoft Researchは、大規模言語モデルを専門ドメインに適応させるプロセスを自動化するAutoAdaptを発表しました。数週間の手動エンジニアリング作業の代わりに、AutoAdaptは約30分でタスクを完了し、モデルあたり約4ドルの追加コストで済みます。

AutoAdaptは実際にどのように機能しますか？

AutoAdaptは3つの主要コンポーネントに依存しています。最初は適応構成グラフ——すべての可能な適応戦略とそのパラメータを記述する構造です。2番目のコンポーネントはエージェントプランナーで、ターゲットドメインとタスクを分析し、グラフを通じた最適なルートを選択します。

3番目のコンポーネントはバジェット対応のAutoRefineループ——事前定義されたコストとレイテンシの制約を尊重しながら、構成を反復的に改善します。これらの要素の組み合わせにより、ユーザーはハイパーパラメータ、プロンプトコンテキストサイズ、または検索レイヤーアーキテクチャを手動で実験する必要がありません。

フレームワークは独立して、RAG（検索拡張生成、コンテキストへのドキュメント取得）、ファインチューニング（モデルの重みの調整）、またはその組み合わせのどれを使用するかを決定します。

AutoAdaptはどのドメインで結果を示しましたか？

MicrosoftはいくつかのRの厳しい領域でシステムをテストしました：医療Q&A、法律テキスト、サイバーセキュリティのインシデント対応シナリオ。テストされたすべてのドメインで、AutoAdaptは適応なしの汎用モデルと比較して一貫してパフォーマンスを向上させました。

結果は標準的な推論ベンチマーク、QAタスク、コード生成、特定のドメインテストで確認されました。これは自動化適応が手動でチューニングされたシステムに対して品質を失わないことを示しているため重要です。

これがAIソリューション市場にとって重要な理由は何ですか？

ドメイン適応はこれまで高コストでした——MLエンジニアのチーム、数週間の実験、大規模なコンピューティング予算が必要でした。Microsoftの30分と4ドルという数字が本番環境で再現可能であれば、専門LLMへのアクセスを民主化できる可能性があります。

独自の用語と手順に適応したモデルを必要としているが、長期MLプロジェクトのキャパシティがない規制産業の小規模組織に特に関連しています。Microsoftは現在AutoAdaptを研究成果として発表しており、Azure AIプラットフォーム内での商業利用は発表されていません。