モデルルーティング
ルーティングを使うと、メインチャットはデフォルト設定のまま、作業の種類ごとに別のLLMアカウントやモデルを利用できます。
ルーティングの意味
AssistelaがLLMを呼び出すのは通常のチャット回答だけではありません。過去の会話の要約、メモリの確認、パーソナルアシスタントの実行、ツール利用の計画、コード処理、診断にもモデルを使います。ルーティングでは、用途ごとに別のアカウントまたはモデルを割り当てられます。
デフォルトでは、すべての用途が「デフォルト」に設定され、メインのAIアカウントとモデルを継承します。分ける明確な理由ができるまでは、この設定を保つことをおすすめします。
利用できる用途
- チャット：通常の回答とメインの会話です。
- 要約：コンテキストの増加に合わせて過去の履歴を圧縮します。
- 会話検索：過去のメッセージとセッションを探します。
- メモリ確認：長期メモリを評価し、更新します。
- パーソナルアシスタント：定期的な能動チェックを行います。
- 振り返り：結果と次の手順を評価します。
- 操作計画：使うツールと順序を決めます。
- コーディング：プログラミング中心の作業を行います。
- 診断：モデルチェックと実行分析を行います。
文章作成が得意なモデルでも、ツールを確実に呼び出せるとは限りません。パーソナルアシスタント、操作計画、メモリ、コーディング、診断には、tool callingが安定したモデルを使ってください。
カスタムルートを設定する
2つのアカウントを準備する
先に設定 → AIアカウントで各アカウントを追加し、それぞれを個別にテストします。
ルーティングを開く
Assistela → 設定 → 高度 → モデルルーティングを選びます。
用途を選ぶ
対象の行で「デフォルト」を「カスタム」に変更します。
接続、アカウント、モデルを選ぶ
接続の種類、AIアカウント、正確なモデルを選びます。モデルが一覧にない場合は、プロバイダーの正確な識別子がわかるときに限ってカスタムモデルIDを使ってください。
対象の機能をテストする
チャットルートはメッセージ1件で、パーソナルアシスタントのルートは「今すぐ実行」で、要約ルートは長めのテスト会話または診断で確認します。
妥当な方針
- シンプルに保つ：すべてを「デフォルト」のままにします。障害点が最も少ない方法です。
- コストを抑える：要約と会話検索には高速で低価格なモデルを、チャットと操作計画には高性能なモデルを使います。
- 専門化する：コーディング用モデルは「コーディング」ルートだけに使います。
- パーソナルアシスタントを分ける：tool callingが安定し、独立したコスト枠を持つモデルを使います。
カスタムルートごとに依存先が1つ増えます。対応するアカウントのクレジット不足、APIキーの期限切れ、プロバイダーによるモデル名変更が起きると、Assistelaの一部機能だけが失敗する場合があります。関係するすべてのプロバイダーで使用量を監視してください。
デフォルトへ戻す
対象の用途を「デフォルト」へ戻すと、メインのAIアカウントとモデルを再び継承します。不具合が解消した場合、原因は特定のアカウント、モデル、またはそのツール利用能力にあります。