LLM context और tokens
Token limits तय करती हैं कि Assistela एक model context में कितना text और tool data भेज सकती है; यह message count या एक उत्तर की कीमत नहीं है।
यहाँ token का अर्थ
Token LLM द्वारा process किया जाने वाला text का छोटा unit है। Context में वर्तमान अनुरोध, हाल की chat, memory, temporary information, tool descriptions और tool results शामिल होते हैं। लंबा context model को अधिक history दिखाता है, लेकिन धीमा और महँगा हो सकता है।
Maximum usable context “एक उत्तर में token की संख्या” नहीं है। यह Assistela के पूरे working input area का budget है। Model output के लिए कुछ जगह अपने आप reserve रहती है।
Limit कहाँ बदलें
AI खाता खोलें
Assistela → सेटिंग्स → AI खाते चुनकर बाईं ओर account चुनें।
Model tab खोलें
Model या provider की Detected limit और Assistela द्वारा वास्तव में उपयोग Used limit दिखेंगी।
Manual token limits खोलें
Maximum में token count केवल तब दर्ज करें, जब model constraint पता हो या cost जानबूझकर सीमित करनी हो।
Safe value चुनें
Use safe 128K default सुझाई ceiling लौटाता है। Use model maximum detected technical limit उपयोग करता है। कम value cost cap हो सकती है।
सहेजें, जाँचें और test करें
Account सहेजें, connection check चलाएँ और सामान्य tool के साथ लंबी conversation जाँचें।
Model detail जल्दी खोता है, Assistela history अधिक बार compress करती है और कई tools वाला जटिल काम fit नहीं हो सकता। सामान्य account के लिए expert-only minimum values उपयोग न करें।
Automatic history compression
सेटिंग्स → उन्नत → ऐप संचालन में When older chat is summarized table compression दिखाती है। Assistela पूरी limit से पहले पुरानी history छोटी करती है, कुछ recent conversation रखती है और output space reserve करती है। Approximate threshold model context size पर निर्भर है।
उसी page पर Temporary Information, निजी सहायक email, Calendar days और Reminder days limits भी हैं। ये available context के shares हैं। बड़ी संख्या हमेशा बेहतर नहीं: अधिक पुराना email वर्तमान request या tool results की जगह ले सकता है।
Tool schema और work steps
- Efficient / progressive loading: पहले tool list भेजता है और आवश्यकता पर पूरा detail load करता है। यह सुझाया गया है और context बचाता है।
- Detailed / full schema: हर tool description तुरंत भेजता है। केवल तब उपयोग करें, जब खास model progressive mode में tools न पहचाने।
- Work step limit for one message: Assistela कितने partial steps ले सकती है, यह नियंत्रित करता है। अधिक limit उत्तर को समझदार नहीं बनाती, केवल लंबा run देती है।
दूसरे model options
- Use model reasoning: केवल reasoning समर्थित model के लिए चालू करें। अधिक effort गुणवत्ता सुधार सकता है, पर समय और cost बढ़ाता है।
- This model supports text only: images process न कर पाने पर चालू करें; Assistela image data नहीं भेजेगी।
- Require a tool call when the model promises action: उन models के लिए मददगार है जो tool call किए बिना action का दावा करते हैं।
- Summarize older tool output: चालू रखें, ताकि लंबे पुराने results context न भरें।
Safe 128K default, progressive schema loading और automatic compression रखें। Limit केवल खास model, failure या budget के लिए बदलें और जाँचें कि Assistela बातचीत सही समझती है।