سياق LLM والرموز

معنى الرمز هنا

الرمز وحدة نصية صغيرة يعالجها LLM. يشمل السياق الطلب الحالي والمحادثة الحديثة والذاكرة والمعلومات المؤقتة وأوصاف الأدوات ونتائجها. يتيح السياق الأطول للنموذج رؤية سجل أكبر، لكنه قد يكون أبطأ وأعلى تكلفة.

لا يعني أقصى سياق قابل للاستخدام «عدد الرموز في إجابة واحدة»، بل هو ميزانية مساحة الإدخال الكاملة التي يجوز لـ Assistela استخدامها للعمل. ويُحجز بعض المجال تلقائيًا لمخرجات النموذج.

مكان تغيير الحد

ضغط السجل التلقائي

في الإعدادات ← متقدم ← تشغيل التطبيق، يوضح جدول متى تُلخص المحادثة القديمة كيفية الضغط. تختصر Assistela السجل القديم قبل بلوغ الحد الكامل، وتحتفظ ببعض المحادثة الحديثة، وتحجز مساحة للمخرجات. وتعتمد العتبة التقريبية على حجم سياق النموذج.

تعرض الصفحة نفسها حدود المعلومات المؤقتة وبريد المساعد الشخصي وأيام التقويم وأيام التذكيرات. وهي حصص من السياق المتاح. ولا يكون الرقم الأكبر أفضل دائمًا؛ فقد يزاحم البريد القديم الطلب الحالي أو نتائج الأدوات.

مخطط الأدوات وخطوات العمل

• التحميل الكفؤ/التدريجي: يرسل قائمة الأدوات أولًا ويحمّل التفاصيل الكاملة عند الحاجة. وهو موصى به ويوفر السياق.
• المخطط المفصل/الكامل: يرسل كل أوصاف الأدوات فورًا. لا تستخدمه إلا إذا لم يتعرف نموذج محدد إلى الأدوات في الوضع التدريجي.
• حد خطوات العمل لرسالة واحدة: يتحكم في عدد الخطوات الجزئية التي يجوز لـ Assistela تنفيذها. لا يجعل الحد الأعلى الإجابة أذكى؛ بل يسمح بتشغيل أطول فقط.

خيارات نموذج أخرى

• استخدام استدلال النموذج: فعّله فقط لنموذج يدعم الاستدلال. قد يحسن الجهد الأعلى الجودة مع زيادة الوقت والتكلفة.
• هذا النموذج يدعم النص فقط: فعّله عندما لا يستطيع معالجة الصور؛ فلن ترسل Assistela بيانات الصور.
• طلب استدعاء أداة عندما يعد النموذج بإجراء: يساعد مع النماذج التي تدّعي أحيانًا أنها نفذت إجراء من دون استدعاء أداة.
• تلخيص مخرجات الأدوات القديمة: أبقه مفعّلًا كي لا تملأ النتائج القديمة الطويلة السياق.