मॉडल रूटिंग
Routing अलग प्रकार के काम को दूसरा LLM खाता या model उपयोग करने देती है, जबकि मुख्य chat अपने default पर रहती है।
Routing का अर्थ
Assistela केवल सामान्य Chat उत्तरों के लिए LLM नहीं बुलाती। वह पुरानी बातचीत का सार बनाने, memory जाँचने, निजी सहायक चलाने, tool use की योजना बनाने, code पर काम करने और diagnostics में भी models उपयोग करती है। Routing हर उद्देश्य के लिए अलग account या model तय करने देती है।
Default रूप से हर उद्देश्य Default पर होता है, यानी मुख्य AI account और model को अपनाता है। जब तक अलग करने का स्पष्ट कारण न हो, यही सुझाया जाता है।
उपलब्ध उद्देश्य
- Chat: सामान्य उत्तर और मुख्य बातचीत।
- Summarization: context बढ़ने पर पुरानी history छोटा करना।
- Conversation search: पुराने messages और sessions ढूँढना।
- Memory review: स्थायी memory का मूल्यांकन और update।
- निजी सहायक: समय-समय पर proactive checks।
- Reflection: परिणाम और follow-up steps का मूल्यांकन।
- Action planning: कौन से tools किस क्रम में उपयोग हों, यह तय करना।
- Coding: programming से जुड़े काम।
- Diagnostics: model checks और operational analysis।
अच्छा prose लिखने वाला model भी tools गलत call कर सकता है। निजी सहायक, action planning, memory, coding और diagnostics के लिए भरोसेमंद tool calling वाला model उपयोग करें।
Custom route सेट करें
दोनों खाते तैयार करें
पहले सेटिंग्स → AI खाते में हर account जोड़कर अलग-अलग जाँचें।
Routing खोलें
Assistela → सेटिंग्स → उन्नत → मॉडल रूटिंग चुनें।
उद्देश्य चुनें
आवश्यक row में Default को Custom करें।
Connection, account और model चुनें
Connection type, AI account और सटीक model चुनें। Model न दिखे तो custom model ID केवल तब उपयोग करें, जब प्रदाता का exact identifier पता हो।
उसी सुविधा को जाँचें
Chat route को message से, निजी सहायक route को Run Now से और summary route को लंबी test conversation या diagnostics से जाँचें।
समझदारी वाली रणनीतियाँ
- सरलता: सब कुछ Default पर रखें। Failure points सबसे कम होंगे।
- कम लागत: summaries और conversation search के लिए तेज़ सस्ता model तथा Chat और action planning के लिए शक्तिशाली model उपयोग करें।
- विशेष काम: Coding route पर ही coding model उपयोग करें।
- अलग निजी सहायक: अपने cost budget के साथ भरोसेमंद tool-calling model उपयोग करें।
हर custom route एक और dependency है। खाते का credit खत्म होने, API key expire होने या प्रदाता द्वारा model rename करने पर Assistela का केवल एक भाग fail हो सकता है। हर provider की usage देखें।
Default पर लौटें
प्रभावित उद्देश्य को वापस Default करें। वह मुख्य AI account और model फिर अपनाएगा। Failure मिट जाए तो कारण वह खास account, model या उसकी tool-use क्षमता थी।